AI深度偽造：必須防，如何防？

“確實讓我更好看了。”意大利總理梅洛尼近日在社交媒體上轉發她的反對者所發的一則帖子，其中有一張人工智能（AI）生成的她的性感照片。兩天之后，歐洲議會議員和歐盟成員國就修訂《人工智能法案》達成共識，同意禁止AI生成深度偽造的色情內容。

歐盟立法明確禁止

以意大利兄弟黨黨首身份上臺、成為意大利首位女總理以來，梅洛尼一直推行“意大利優先”、保守主義政策和嚴格的移民政策，被反對者頻頻使用AI生成的虛假內容進行攻擊。

與此前一些移花接木的“手動P圖”不同，此次有關梅洛尼的AI合成照片，人物整體協調，光影效果自然。哪怕在攝影或繪畫領域有所造詣的人，也未必分辨得清照片中是否梅洛尼本人，除非與她特別親密者。

梅洛尼在轉發帖子的同時表示，“我可以為自己辯護，但許多其他人無法做到”。有評論認為，梅洛尼這一表態不僅針對“個人攻擊”行為，更上升到對AI時代虛假信息泛濫的公共警示。此前她已在意大利推動通過相關法律，旨在打擊針對女性的AI深度偽造圖像。

AI聊天機器人“格羅克”被禁止生成深度偽造的色情圖像。圖源：GJ

兩天之后，歐洲議會議員和歐盟成員國以修訂《人工智能法案》的方式，為AI合成內容劃定“紅線”。據新華社報道，歐洲議會議員麥克納馬拉在法案修訂后表示，這是歐盟首次通過立法明確禁止“脫衣換臉”類應用程序，“歐盟今天劃定了‘紅線’，AI絕不能用于羞辱、剝削或危害他人”。

也有評論認為，此次修訂對已經產生的AI亂象的監管仍然偏軟，如推遲實施針對高風險AI系統的監管規定，令人遺憾。據原計劃，針對獨立AI系統的監管規定應于2026年8月生效，針對嵌入其他產品的AI工具的監管規定應于2027年8月實施。然而目前來看，上述生效時間將分別推遲至2027年12月和2028年8月。

但無論如何，歐洲確實在AI監管方面又邁出了一小步。歐盟輪值主席國塞浦路斯的歐洲事務副部長勞納表示，《人工智能法案》經過此輪修訂后，“規則實施更順暢統一，同時強化對兒童的保護”。

偽造色情照片成災

“深度偽造”依賴于AI深度學習技術，可以把人臉、聲音、動作等換到另一個圖像上，讓它看起來像是真實發生的事情，如讓某人“說”他從未說過的話，或者“做”他從未做過的事。

早在歐洲通過《人工智能法案》的2024年，AI深度偽造就已出現在全球不少地方。如在韓國娛樂行業，不少女性從業者發現自己的形象被不法分子惡搞，甚至制作成色情內容，不僅在網絡傳播，也被用來勒索。為此，韓國娛樂產業公司與警察局簽署協議，合作共同打擊AI深度偽造。警方同意加快相關案件調查進程，設立舉報熱線，方便公眾報告相關犯罪活動。相關企業宣布加強對深度偽造內容的監控和處理，尤其在色情內容方面，將專門設立響應機制，一經發現就采取行動。

韓國政府成立跨部門機構應對數字性犯罪。圖源：GJ

事實上，AI深度偽造之害已經不囿于娛樂產業，也波及社會層面。2024年8月韓國某公益組織所發一組報告顯示，社交平臺Telegram的聊天群組中，只需上傳熟人照片，付費后5秒鐘內就能生成不雅合成圖。令人震驚的是，這個聊天群組的參與人數高達22.7萬。當時美國一家名為“家安英雄”的網絡安全公司的調查報告顯示，在互聯網所有深度偽造視頻中，幾乎98%為色情視頻；前十個專門用于深度偽造色情內容的網站上，視頻總訪問量超過3億次，總觀看次數超過3000萬次。

而此后的情況越發不容樂觀。自2025年12月25日至今年1月1日，美國企業家馬斯克旗下社交媒體平臺X的AI聊天機器人“格羅克”被指以深度偽造方式生成2萬張圖像，55%的圖像中人物穿著暴露，其中81%是女性；2%的圖像中人物年齡不足18歲。X平臺隨后不得不宣布，不再允許“格羅克”生成基于真人的深度偽造的性暴露圖像。

亟待建構AI倫理

當今在AI領域發展較快的國家，美國是其中之一。在美國聯邦調查局（FBI）公布的“網絡犯罪報告2025”中，與深度偽造相關的犯罪遠遠不止虛假色情視頻之泛濫。FBI下屬機構2025年接獲2.2萬起AI犯罪案件，涉案總金額超過8.9億美元，其中深度偽造技術結合AI制作釣魚郵件和語音克隆，大幅提升了詐騙“逼真度”，顯著提高了成功率。

對沖基金經理瓊斯為此憂心忡忡地稱，政府部門應該要求在AI生成的內容上強制添加水印，以區分真實內容與深度偽造內容。在美國政府3月發布全國性AI政策框架之后，瓊斯參加了一場AI專家與模型開發者會議。他發現，與會者中有約80%支持對AI技術進行強制監管。而在2025年初，哪怕看到歐洲啟動《人工智能法案》，與會者中也只有20%認為政府需要介入AI領域。短短一年，與會者的觀點之所以出現逆轉，很大程度上是因為大家意識到，AI在個人安全、隱私及國家安全層面存在潛在的長期風險。

在中國，AI深度偽造問題也已經引起重視。上海社會科學院上海國際經濟交流中心專家郭進分析：“我國對濫用AI的現象一貫保持嚴格監管的態度，也積極采取各種措施嚴厲打擊網絡詐騙犯罪。利用人工智能進行網絡詐騙是新情況、新問題，需要世界各國通力合作，共同打擊利用AI換臉、擬聲、智能黑客等網絡犯罪行為，嚴格禁止AI武器化。”

郭進指出，AI深度偽造有違人類社會“真實性”的基本倫理，用深度偽造內容從事色情、詐騙，不僅有違公序良俗，而且違反法律，涉及犯罪。盡管各國社會文化和政治制度迥異，對AI倫理的理解千差萬別，其中還摻雜許多意識形態的內容和要求，但總體上都認同“智能向善”的基本原則。“各國法律和制度都明令禁止AI干預政治，比如規定AI不得煽動暴力、不得鼓動顛覆政權等，這是各國為AI劃定的倫理底線和法律紅線。從維護公民人格權、隱私權、名譽權、肖像權等權利的角度出發，換臉、擬聲、算法歧視等都屬于應被嚴格監管的行為。”

郭進認為，歐盟對AI向來秉持“嚴格監管”的立場，對AI治理和規范的諸多理念得到關注。歐盟2019年在《可信人工智能倫理準則》中提出的“人類自主權與監督、技術穩健、隱私保護、透明度、公平性”等準則，以及2020年《人工智能白皮書》中提出的對AI分級監管的思路，至今仍值得各國借鑒。相信在不久的將來，全球對AI的監管將從倫理倡導走向硬性約束，并躍升為制度規范。

原標題：《AI深度偽造：必須防，如何防？》

欄目編輯：王若弦

來源：作者：姜浩峰