AI偽造的明星視頻,正在以"平臺官方活動"的名義瘋狂收割TikTok用戶。Copyleaks的最新報告顯示,這類騙局的增長速度,已經超過了平臺審核系統的迭代速度。
騙局運作:三步完成身份盜竊
![]()
詐騙者的操作鏈條極其標準化。第一步,用深度偽造技術生成明星"代言"視頻——泰勒·斯威夫特深夜推薦"TikTok Pay"、蕾哈娜宣傳"看視頻賺獎勵"。
這些視頻的破綻很明顯:面部動作僵硬、音畫不同步。但詐騙者用上了兩個關鍵障眼法:直接套用TikTok官方視覺標識,疊加紋理濾鏡干擾平臺的AI檢測工具。
第二步,用戶點擊后被導向第三方網站。第三步,這些網站以"注冊獎勵"為名,收集姓名、電話、支付信息等個人身份數據。整個流程設計得足夠短,短到很多人還沒意識到"斯威夫特為什么要半夜推廣這個"就已經填完了表單。
檢測困境:平臺算法與偽造技術的軍備競賽
Copyleaks指出,這類AI深度偽造騙局正在全平臺蔓延。部分案例涉及非自愿的、高度性化的名人偽造內容——這已經超出了財產詐騙的范疇,進入人格侵權的灰色地帶。
Meta最近剛被消費者聯合會提起集體訴訟,指控其從Facebook的廣告詐騙中獲利。訴訟邏輯很直接:平臺收了廣告費,卻對明顯的欺詐內容視而不見。
TikTok的處境類似。紋理濾鏡的存在說明,詐騙者已經摸清了平臺AI檢測的底層邏輯——不是讓視頻更逼真,而是讓算法"看不見"異常。這種對抗性攻擊的成本正在快速下降,而平臺的防御成本卻在指數級上升。
明星自救:商標化自己的臉和聲音
好萊塢至今沒有系統性解決方案。本周的一個信號是:斯威夫特 reportedly 申請將自己的聲音和肖像商標化,以應對AI偽造和身后遺產項目的商業化爭議。
這不是孤例。越來越多的名人正在把"我的臉"變成受法律保護的知識產權。但商標防御的邊界很清晰——它能阻止商業盜用,卻攔不住詐騙者。后者根本不打算長期經營品牌,只追求短期收割。
更深的問題在于,當普通人的臉也能被幾秒鐘的素材訓練成偽造視頻時,明星商標策略對大眾毫無參考價值。
用戶端的真實風險
這類騙局的真正殺傷力不在技術復雜度,而在心理錨定效應。明星背書降低了用戶的防御閾值,平臺視覺標識制造了"官方認證"的錯覺,獎勵機制觸發了損失厭惡——"不注冊就錯過"。
Copyleaks的報告沒有給出具體的受害規模數據,但"增長"本身已經足夠說明問題:當偽造成本趨近于零,篩選目標用戶的成本也在同步下降。詐騙者不需要說服所有人,只需要在海量投放中找到那批對明星有信任慣性、對平臺規則不熟悉的人。
而TikTok的算法推薦機制,恰好是這類內容的高效分發器。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.