全國首個大模型攻防賽啓動線上報名

(原標題:全國首個大模型攻防賽啓動線上報名)

近日,由重慶螞蟻消費金融有限公司(下簡稱“螞蟻消金”)聯合中國圖象圖形學學會、螞蟻集團及雲安全聯盟(CSA)大中華區等多家機構共同發起的“全球AI攻防挑戰賽”正式啓動線上報名。這是我國首個面向大模型攻防主題的科技賽事,旨在探索和應對大模型在實際應用中可能面臨的攻防挑戰。

本次賽事特別設置了“攻擊”與“防守”兩條賽道,匯聚了衆多白帽黑客和技術精英,他們將在文生圖大模型“數據投毒”攻防演練以及金融場景大模型生成內容防僞檢測兩個方向展開激烈角逐。

在“攻擊賽道”,選手們需運用動態攻擊技術,尋找並暴露大模型中的潛在漏洞,從而提升模型免疫力;而“防守賽道”則聚焦於金融憑證的篡改檢測,要求參賽者開發相應的檢測模型,準確識別僞造內容,保障金融交易安全。

據大賽技術招募官、螞蟻消金首席信息官劉義介紹,“防守賽道”的設計靈感來源於螞蟻消金在日常信貸業務中遇到的真實挑戰。劉義表示,螞蟻消金爲數億用戶提供消費金融服務,在消保場景,部份用戶利用假章、假證等僞造技術製作虛假證明,獲得非法收益。隨着圖片、語音、視頻等多模態數據在金融領域的廣泛應用,傳統的人工審覈方式已難以滿足高效、準確識別僞造憑證的需求,亟需藉助人工智能技術實現自動化甄別。

金融行業具有單位產值下數據產出量高的典型特徵,爲大模型的應用提供了良好土壤,同時也面臨着更爲複雜的安全挑戰。此次賽事不僅是一次技術比拼,更是一次產學研深度合作的契機,有利於促進科技成果向現實生產力轉化。

“我們希望通過此次賽事,吸引更多優秀的人才參與金融科技創新,共同推動大模型技術在金融領域的健康有序發展。”劉義表示。

據悉,本次大賽設立了豐厚的獎金池,並邀請到包括中國工程院院士、中國圖象圖形學學會理事長王耀南,雲安全聯盟(CSA)大中華區主席李雨航在內的多位學術界與工業界的權威人士擔任評委,確保比賽的公平性和專業性。9月19日起,參賽者可登錄中國圖象圖形學學會官網或阿里雲天池平臺官網進行報名。