警惕AI換臉！女性被惡意嫁接色情視頻，幾元就能“定制”

經(jīng)參調(diào)查丨色情視頻被惡意“炮制” 幾元就能買到預訓練模型 警惕AI換臉技術(shù)濫用滋生黑灰產(chǎn)

買家提供明星或私人照片可實現(xiàn)定制換臉。

網(wǎng)上售賣AI換臉制作的淫穢視頻信息。

新京報記者近日調(diào)查發(fā)現(xiàn)，隨著AI技術(shù)走紅以及門檻降低，售賣明星換臉的淫穢視頻已經(jīng)成為一門地下生意。百度貼吧中部分標榜“換臉＋女明星姓名”的發(fā)帖者，售賣通過AI換臉技術(shù)合成的視頻，價格可4元一部，也可158元打包購買700部視頻。而多位知名女明星頻被提及。

此外，新京報記者注意到，閑魚上還有賣家提供“定制換臉”服務。買家提供明星或私人照片，賣家即可將淫穢視頻中的主角“移花接木”。定制換臉視頻1分鐘20元－50元不等。

對此，聯(lián)合國網(wǎng)絡安全與網(wǎng)絡犯罪問題高級顧問吳沈括對新京報記者表示，售賣AI換臉淫穢視頻，本身已經(jīng)是傳播淫穢物品牟利罪，同時也侵犯了肖像權(quán)。而買家購買之后加以傳播或者以傳播牟利，則可能構(gòu)成違法。

售賣

女星頻被“換臉”，35部視頻打包69元

新華社發(fā) 徐駿 作

女性面容被惡意嫁接

小雨是一名娛樂主播，直播內(nèi)容主要是和粉絲聊天，不涉及任何擦邊內(nèi)容。但不法分子卻將小雨的臉換到色情影片中傳播，讓她無端卷入不良輿論風波。

“視頻是不能P的”“居然背著我們偷偷拍片”……看到直播間公屏上類似彈幕如爆炸般襲來，小雨自此不敢再參加任何線上或線下社交活動。

后來，小雨在短視頻平臺又看到，有人毫不避諱地宣揚有關她的色情影片。順著對方給的聯(lián)系方式，小雨進入了所謂的“工程設計交流群”，發(fā)現(xiàn)群里全是各種各樣的網(wǎng)址和行業(yè)黑話。在這個群里，不法分子將許多女性的臉換到色情電影中非法牟利。最終，小雨報警，五名嫌疑人被抓，相關賬號和群聊也被永久封禁。

小雨的遭遇，并非個例。

記者潛入一個AI交流群群聊，群里一位名叫“學校的你進社會”的網(wǎng)友發(fā)布了一條擦邊視頻，聲稱“988元包教會，流量很好”。視頻中，一位自稱女大學生的人坐在宿舍床上，穿著黑絲和蕾絲緊身衣做著各種低俗動作。這位網(wǎng)友自詡AI換臉領域高手，只要發(fā)給他正臉照，即可生成與照片主人公相關的擦邊視頻。

女星頻被“換臉”，35部視頻打包69元

記者搜索發(fā)現(xiàn)，“換臉”、“Deepfake”以及“FakeApp”貼吧等都存在售賣AI換臉淫穢視頻的帖子。發(fā)帖者多為無頭像、簡單英文字母名稱的用戶，而且發(fā)帖用詞隱晦，包括“國內(nèi)外81部，誠信第一”。

記者聯(lián)系到一位名為阿長(化名)的賣家，其隨后發(fā)來“80部明星合成視頻列表”的壓縮包，包含多部淫穢視頻的列表截圖，文件名上標注出多位大眾熟知的女明星。

“(購買)低于15部算4元一部，超過15部算3元一部，80部全買只要68元。”阿長表示，視頻文件將通過QQ文件發(fā)送，支持微信、支付寶、QQ紅包等支付方式。記者4元隨機購買了一個標題為某知名女明星的視頻。視頻中女主角臉部全部替換成了該女明星，盡管換臉效果粗糙，但仍能一眼識別出來。

隨后，阿長附贈了相關視頻的剪輯版本，包含多個淫穢視頻的部分內(nèi)容，其中女主角的臉全被替換成了這一女星。

而在淘寶搜索“AI人臉替換”，也會出現(xiàn)不少提供AI換臉視頻制作服務的商家。消費者只需花費幾元到十幾元不等，就能定制一部換臉視頻，換臉對象可以是普通女性，也可以是女網(wǎng)紅、女明星。法律界人士指出，這些被明碼標價的照片和視頻嚴重損害了受害者的肖像權(quán)益和人格尊嚴，亟待加強清理。

背后暗藏黑色產(chǎn)業(yè)鏈

深度偽造（Deepfake），是指通過使用人工智能生成技術(shù)，將個人的聲音、面部表情以及身體動作拼接合成虛假內(nèi)容。最常見的是AI換臉技術(shù)，也包括語音模擬、人臉合成、視頻生成等。

除了百度貼吧，二手閑置平臺閑魚同樣存在相關售賣信息。記者在閑魚上搜索“AI換臉”看到，“AI換臉 明星最全精品”、“AI換臉，合集，都懂！”等信息，實則在售賣“嫁接”了女明星臉部的淫穢視頻。

記者分別與4位賣家進行了溝通，其一般會提供標有女明星姓名的目錄截圖，并以100部打包的形式售賣，價格從10元－38元不等。賣家子君(化名)告訴記者，在他打包售賣的淫穢視頻中，知名女性明星被惡意“嫁接”的最多。

此外，記者檢索閑魚發(fā)現(xiàn)，部分賣家還提供“定制換臉”服務，買家提供明星或私人照片，賣家可將照片中的臉“嫁接”到包括淫穢視頻在內(nèi)的任何視頻之中，制作周期為1-2天，報價1分鐘20元－50元不等。

賣家高爾(化名)表示，視頻素材和照片需要買家提供。“照片要多點，側(cè)面等各個角度，至少需要提供二十張以上。照片越多越像，沒照片發(fā)視頻也行”。

另一賣家要求，如果是“換臉”淫穢視頻，3分鐘起做。該賣家的定制價為一分鐘50元、二分鐘95元、三分鐘135元，也就是說，買家至少要花費135元才能定制換臉淫穢視頻。

記者近日在閑魚平臺搜索“AI換臉”顯示9個商品售出，包括“換臉軟件”、“定制換臉”和“換臉教學”，有部分賣家在商品信息中注明，“本店僅負責服務配置環(huán)境和教授基礎知識，不幫忙操作，請各位自覺遵守當?shù)胤桑駝t后果自負”。

呼吁加強監(jiān)管治理

實際上，在打擊AI換臉色情視頻的技術(shù)攻防戰(zhàn)中，公安機關面臨前所未有的挑戰(zhàn)。

太原市某分局王警官介紹，Deepfake技術(shù)的受害者群體主要是女性：發(fā)布在社交平臺上穿著校服的女高中生照片被合成在裸體表情包上；外網(wǎng)流傳的相關群聊只需要提供照片便能實現(xiàn)色情圖片和視頻的自動合成，并且這些群聊還被按照城市和學校進行分類，目的是能在這些人的社交圈內(nèi)傳播。

服務器難以追蹤、證據(jù)難以保存，是警方不得不面對的現(xiàn)實問題。“想要對AI生成內(nèi)容進行溯源，難度不亞于大海撈針。”王警官介紹，“犯罪嫌疑人會通過頻繁更換服務器、匿名網(wǎng)絡信息等手段隱藏蹤跡，再加上電子證據(jù)極易被加密、篡改或銷毀，都對警方搜集證據(jù)、研判案情造成阻礙。”

而對于受害者而言，過高的技術(shù)壁壘也使得獨立取證幾乎成為一件不可能的事。“傳統(tǒng)辦案中‘人贓俱獲’的模式在AI犯罪面前已經(jīng)不起作用了。”王警官坦言。

值得注意的是，近年來，通過開展各類專項行動、加強技術(shù)研究，必要時聯(lián)合國際執(zhí)法機構(gòu)協(xié)同辦案，公安機關“打擊利用AI技術(shù)犯罪”的多維防線日益緊固。2025年1月，天津的李先生被詐騙分子偽造的企業(yè)老板視頻誘導轉(zhuǎn)賬95萬元。專案組通過分析轉(zhuǎn)賬資金流向、追蹤異常IP地址，聯(lián)合網(wǎng)絡安全公司還原了犯罪團伙利用AI語音合成技術(shù)實施詐騙的全過程。最終警方與銀行聯(lián)動凍結(jié)了李先生的賬戶，追回了83萬元。

在我國，根據(jù)《刑法》第三百六十三條規(guī)定，以牟利為目的，制作、復制、出版、販賣、傳播淫穢物品的，處三年以下有期徒刑、拘役或者管制，并處罰金；情節(jié)嚴重的，處三年以上十年以下有期徒刑，并處罰金；情節(jié)特別嚴重的，處十年以上有期徒刑或者無期徒刑，并處罰金或者沒收財產(chǎn)。

聯(lián)合國網(wǎng)絡安全與網(wǎng)絡犯罪問題高級顧問吳沈括表示，就中國法律來講，售賣AI換臉淫穢視頻，本身已經(jīng)是傳播淫穢物品牟利罪，同時在民事侵權(quán)領域，未經(jīng)允許，將他人的肖像用于謀利的，也侵犯了肖像權(quán)。

業(yè)內(nèi)人士指出，技術(shù)再逼真，人性的漏洞永遠是突破口。面對可疑電話時保持冷靜，收到親友緊急轉(zhuǎn)賬請求時多渠道核實，警惕背后可能存在的AI語音合成陷阱。

來源：經(jīng)濟參考報

聲明：部分圖片素材來源于網(wǎng)絡，我們無法獲取原作者信息，如有違規(guī)請聯(lián)系我們刪除

持續(xù)關注！