AI生成必須“亮明身份”！網信辦點名查處“剪映”“即夢AI”等平臺

【TechWeb】“網信中國”發布最新通報，針對部分平臺在人工智能內容管理上的違規行為亮出紅牌。因未有效落實AI生成合成內容的標識要求，“剪映”“貓箱”App及“即夢AI”網站被依法查處。

觸碰合規紅線，多平臺遭約談警告

通報指出，上述平臺的行為已違反《網絡安全法》《生成式人工智能服務管理暫行辦法》以及《人工智能生成合成內容標識辦法》等相關法律法規。國家互聯網信息辦公室已指導屬地網信部門，迅速采取行動，對涉事平臺依法實施了約談、責令改正、警告以及從嚴處理相關責任人等一系列處罰措施。

網信辦相關負責人強調，任何網站平臺都必須嚴守法律底線與紅線，將AI內容標識的規定要求不折不扣地落實到位，絕不能打折扣、搞變通。

新規之下：AI內容不得“悄悄生成”

據了解，我國《人工智能生成合成內容標識辦法》自2025年9月1日起正式施行。該辦法的核心目的在于通過強制標識，幫助用戶在海量信息中辨別虛假信息，防范AI造假風險。

辦法明確了從內容制作到傳播各環節中，服務主體必須承擔的標識責任義務。無論是利用AI生成的文本、圖片、音頻、視頻還是虛擬場景，都應當清晰標明。同時，辦法劃出了一條嚴厲的禁區：任何組織和個人絕不允許惡意刪除、篡改、偽造或隱匿法定的生成合成內容標識。

持續亮劍，推動AI向善發展

隨著AI技術的爆發式增長，規范其應用已成為當務之急。網信部門明確釋放信號，未來將深入推進依法管網、治網，持續加大對AI生成合成內容標識的監督管理力度。此次查處不僅是對違規平臺的敲打，更是為了切實維護社會公共利益，確保人工智能技術在法治軌道上健康、有序地發展。