當下,一些不法分子利用AI技術偽造人臉,在線上詐騙錢財,嚴重影響行業秩序,讓不少群眾苦受其害。近日,中央電視臺財經頻道《經濟半小時》播出的專題報道《AI換臉詐騙的攻與防》講述了AI技術濫用背后暗藏的金融風險,并深度解析以度小滿為代表的機構如何通過技術升級構建金融安全防線,為金融行業應對AI深度偽造提供了參考路徑。
度小滿深偽檢測模型持續升級
在《經濟半小時》報道中,記者采訪了金融科技公司度小滿。據介紹,目前度小滿已經研發了專門的風險識別算法。度小滿相關負責人介紹,此前有一條活體認證視頻進入系統,算法識別其風險分數達90多分,命中風險預警,經審核確認是一起AI換臉攻擊案例。“國際認證中,90多分代表高于90%真實度的AI換臉,我們的系統能精準識別。”
在AI換臉模擬場景,度小滿工作人員向央視記者展示了高仿真人臉生成審核樣例:4張看似相同的人臉中,僅1張為真人。記者用肉眼無法分辨真偽,而團隊的深偽檢測模型給出了清晰結果——風險分數50分以上即為高風險,前3張假臉均超過50分,真人則在50分以下。“魔高一尺,道高一丈,我們的深偽檢測模型在持續升級。”度小滿首席技術官張文斌表示。
![]()
(央視《經濟半小時》節目報道截圖)
以“紅藍對抗”模式開展模型訓練
為提升技術防護能力,度小滿還借鑒軍事訓練中“紅藍對抗”模式開展模型訓練:藍軍模擬犯罪分子用AI人臉攻擊服務器,紅軍負責識別攔截,確保在新型AI換臉技術出現前,提前做好應對。目前,該技術模型參數量達百億級別,相較于兩三年前普遍幾千萬級別的活體防偽模型,實現了從普通模型到大模型的跨越,能力大幅提升。實戰成果顯著,據張文斌介紹,去年度小滿為14萬客戶發出詐騙提醒,成功阻止3000多起詐騙案件,預計挽回1.8億元經濟損失。
![]()
(防深偽技術工作后臺界面)
值得警惕的是,隨著AI技術變得越來越普遍,風險識別技術也需要與時俱進。有多位金融業內人士建議,面對AI換臉騙術,需推動全行業信息共享與技術共享。當一家金融機構發現新型AI詐騙手段,應及時同步至整個行業,不給騙子二次作案的機會,共同構建互聯網金融安全屏障。
度小滿構建AI換臉詐騙防護體系,以AI對抗AI,讓大眾高度警惕AI深度偽造風險,不給犯罪分子可乘之機。在金融反詐領域,度小滿積極布局各項前沿科技,加快推動創新技術在金融領域的應用,以創新技術攻克詐騙騙局,守護大眾的“錢袋子”。今后,度小滿將持續深耕AI防深偽領域,打造安全文明的金融生態環境。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.