AI制黃群組曝光，一切都結束了！

回復電商領取《1000份電商運營干貨案例》

作者 | 錢游 報道 | TOP電商

很多人還在驚嘆AI能寫作、畫畫、剪視頻，沒想到另一批人早已把它拖進了更惡心的角落。

5月4日，封面新聞暗訪曝光多個AI制黃群組，記者加入的7個群組成員總數超過6000人，其中最大群組超過3400人。

群里有人賣所謂“焚決”指令，有人賣成品視頻，有人賣工具包，價格從20元到288元不等。

更離譜的是，有賣家提供真人換臉“定制”服務，一張照片5元，聲稱“什么需求都可以提”。

從擦邊視頻到付費群AI制黃已經有了產業鏈

一張普通生活照，被從社交平臺偷偷搬走，最后出現在色情群組里。

這個過程聽起來像恐怖故事，現實卻已經被拆成了商品流程。

上游是賣“鏟子”的人。他們不直接制作最終內容，而是售賣所謂指令、教程、工具包，把高風險內容包裝成“學習資料”“工作流”“會員資源”。

部分群組專門以交流資源為名義吸引用戶，再把人引到其他付費群里。

媒體暗訪顯示，不同群組分工明確，有的售賣指令，有的售賣成品視頻，還有的直接出售工具包。

中游是加工內容的人。他們拿著明星、網紅，甚至普通人的照片做素材，利用AI生成擦邊或色情化內容，再把成品放進群里售賣。

有賣家聲稱，只要提供照片就能定制，照片越清晰，成品越“逼真”。

下游是引流的人。部分賬號長期在視頻平臺發布AI生成的擦邊視頻，單條播放量超過50萬，再通過評論區把用戶導向付費群。

前臺是擦邊內容，后臺是群組交易，再往深處是工具包、教程、定制服務。

整條鏈路像一間沒有招牌的小作坊，白天在平臺上招客，晚上在群里收錢。

更荒誕的是，這門生意還披了一層“正規交易”的皮。

調查顯示，有賣家通過數字商品銷售平臺發布鏈接，購買時收款方顯示為上海尚億咖網絡科技有限公司。

企查查信息顯示，該公司成立于2024年4月，注冊資本50萬元。

相關平臺雖然列有“低俗色情服務”等禁售項目，但商家用“工作流”“會員群”等模糊名稱包裝商品，注冊成為商家只需要手機號，不經審核即可上架鏈接。

真正可怕的不是AI會作惡是作惡成本被打到5元

這件事最刺痛網友的地方，并不只是AI能生成色情內容。

真正讓人后背發涼的，是傷害一個人的成本已經低到離譜。

一張照片，5元。

一套教程，幾十元。

一個群組，幾千人圍觀。

一次傳播，可能永遠清不干凈。

有網友說，以后發自拍都要先把臉擋住。有人說，普通女生的公開照片正在變成高風險素材。

而對受害者來說，傷害完全是真的。

她要面對陌生人的觀看、傳播、羞辱、截圖、二次擴散，還要一遍又一遍解釋那不是自己。現實里的名譽、親密關系、職業處境和安全感，都可能被一段虛假的內容擊穿。

TOP電商AI制圖

最高人民法院曾指出，未經權利人同意違法應用AI換臉技術，將直接侵害肖像權；如果被惡意應用到色情、暴力、丑化等場景，還可能侵害名譽權、榮譽權和個人信息權益。

這就是AI制黃最惡心的地方，而且，維權成本遠遠高于作惡成本。

作惡者買一份工具包，換一個群，換一個賬號，就能繼續開張。受害者卻要截圖、取證、舉報、聯系平臺、等待處理，甚至尋找律師。

等平臺終于處理完，內容可能早就被存進更多硬盤、更多群聊、更多境外網站。

《生成式人工智能服務管理暫行辦法》明確要求，提供者發現違法內容，應及時采取停止生成、停止傳輸、消除等處置措施，并向有關主管部門報告；發現使用者利用生成式AI從事違法活動，也應依法采取警示、限制功能、暫停或終止服務等措施。

《人工智能生成合成內容標識辦法》也明確，AI生成合成內容包括文本、圖片、音頻、視頻、虛擬場景等信息，并規定顯式標識和隱式標識等要求。

問題在于，規則在鋪路，灰產在狂奔。

平臺不能繼續裝睡

每次這類事件曝光，平臺總會被推到臺前。

這一次也一樣。

人臉不是普通素材，它背后有一個活生生的人。凡是涉及真人肖像、生物識別信息、親密內容的生成與編輯，都不該被當成普通修圖功能處理。

內容平臺要回答：為什么一些擦邊AI視頻賬號可以長期發布，播放量做到幾十萬，還能通過評論區持續引流？

算法能識別用戶愛看什么，也應該識別什么內容正在把用戶導向灰產。單個視頻也許能說漏審，長期賬號形成穩定引流路徑，就很難再用“沒看到”解釋。

交易平臺也要回答：禁售規則寫了一百多條，為什么換個“會員群”“工作流”的名字就能上架？

如果注冊商家只需手機號，不經審核即可收款，那平臺實際上給灰產提供了一個低門檻收銀臺。

換臉、擦邊、付費群、外鏈、指定對象、工具包、定制服務、會員資源，這些信號已經不是灰色模糊地帶，而是一排排紅旗。

平臺如果還把它們當成普通內容、普通交易、普通工具使用，就等于把治理責任扔給受害者和媒體暗訪。

說到底，AI制黃不是一個獵奇新聞。

AI原本可以幫人創作、學習、工作，甚至照亮很多過去無法完成的想象。

技術越先進，底線越不能落后。

工具越強大，平臺越不能裝睡。

行業資訊、案例資料、運營干貨，精彩不停

【添加備注：進群】

最新電商行業資訊，盡在【Top電商】↓↓↓