【央視新聞】全國首例AI代寫“種草筆記”案宣判 為“數字泔水”治理劃紅線

近期，網絡上出現了一批“一鍵生成爆款種草筆記”的AI寫作工具，這些工具以極低的成本，批量炮制虛假消費體驗和商品推薦。

調研發現：三成用戶對AIGC內容接受度不高

“輸入幾個關鍵詞，AI幫你全自動寫出爆款種草文案”在各大短視頻平臺和二手交易網站上，“利用AI自動化起號”“批量做矩陣號”成了不少網絡課程的噱頭。

記者搜索發現，類似的課程及工具在網絡上有不少，在二手平臺，花幾毛錢就可以買到破解版軟件及教學視頻。

在網絡投訴平臺上，一款被多位消費者投訴的AI寫作助手，終身會員199元，提供工作總結、論文撰寫、小說創作、短視頻腳本、社交平臺筆記標題生成等上百種服務，記者僅輸入筆記主題，不到一分鐘的時間，該款工具生成了20個“爆款標題”。在商品推薦文案功能中，輸入商品名稱、品牌等幾個要素，可以瞬間生成幾百字的種草筆記。這些偽裝成真人親測的分享內容，在生成的過程中，不需要任何真實出行經歷、產品使用體驗，完全由AI杜撰、虛構。

無論是對于平臺、創作者還是龐大的用戶群體，AI批量生成的低質內容都會帶來前所未有的沖擊。

某社交平臺社區用戶信任中心負責人介紹，在做大范圍用戶調研時發現，有接近三成的用戶對于AIGC的內容接受度并不高。

全國首例涉AI代寫“種草筆記”不正當競爭案宣判

近日，浙江省杭州市中級人民法院披露了一起涉及AI批量代寫某社交平臺種草筆記典型案例，作為全國首例涉及AI代寫“種草筆記”的不正當競爭案件，判決為生成式人工智能服務提供者劃定了合理的注意義務邊界。

據介紹，原告A公司是知名社交平臺的經營者，該平臺規則和平臺公約均強調要真實體驗和經歷分享，本案被告B公司和C公司共同運營一款AI寫作工具，該工具可定向為用戶提供上述社交平臺風格的種草文案、旅游攻略等內容的一鍵生成服務，并誘導用戶發布文案到該社交平臺。原告認為被告的行為破壞了該社交平臺真實的種草內容生態，向法院提起訴訟，要求后者停止著作權侵權及不正當競爭行為。

法官助理 張宗濱（原杭州市中級人民法院法官助理，現為杭州市濱江區人民法院員額法官）：本案被訴的這個AI寫作工具，有網頁版、App、微信小程序三種版本。它的熱門模塊直接展示了某社交平臺種草文案、旅游攻略、筆記標題等服務模塊，并且服務模塊的名稱直接采用了該社交平臺相關的命名，并直接使用根據產品特點幫你生成“符合平臺調性的分享文案”等宣傳語。點擊一鍵創作就可以直接生成一篇幾百字繪聲繪色的一個文案的內容。

張宗濱介紹，本案的核心爭議焦點主要是：針對該社交平臺定向提供生成式人工智能服務是否構成不正當競爭。《中華人民共和國反不正當競爭法》第二條規定，不正當競爭行為是指經營者在生產經營活動中，違反本法規定，擾亂市場競爭秩序，損害其他經營者或者消費者的合法權益的行為。

隨著我國《網絡反不正當競爭暫行規定》《生成式人工智能服務管理暫行辦法》《人工智能生成合成內容標識辦法》等文件落地，國家層面對AI服務提供者的合規義務提出了明確要求：此類服務應當尊重知識產權、商業道德。在審理中，法院首先明確了原告通過長期經營積累的真實內容生態，屬于受法律保護的競爭性權益。

張宗濱：原告A公司通過長期的經營，投入了大量的成本、人力、物力，產生和積累了大量的種草筆記內容，形成了以真實體驗為核心的種草內容生態。這個生態也是其獲得商業利益和競爭優勢的核心資源，所以我們認為構成《中華人民共和國反不正當競爭法》可以保護的競爭性權益。

而基于生成式人工智能服務的特點，被告無論是從行為方式還是行為目的來說，沒有盡到合理注意義務。

張宗濱介紹，在本案中，法院創新性地提出了“四要素判定法”，判決被告B、C公司賠償原告經濟損失及合理開支共計10萬元。

第一，被訴服務是否屬于生成式人工智能服務。

第二，被訴服務是否以特定場景作為應用層？結合到本案當中來，被訴服務的模塊名稱直接使用了某知名平臺種草文案等表述，并且它是以該社交平臺作為特定的商業應用層，而并非通用的AI工具。

第三，被訴服務是否帶有明確的指向性和誘導性？結合本案當中被訴的服務模塊，都是要誘導用戶發布未經真實體驗的相關的文案的內容。

第四，關于被訴服務是否屬于營利性的商業行為，結合到本案當中，該AI寫作工具的相關頁面就顯示終身會員是168元，年會員是98元，月會員是40元，具有明確的商業利益驅動。

從治理的角度來說，該案判決的生效不僅是對原告合法訴求的回應，也明確了生成式人工智能服務提供者合理的注意義務邊界，為治理提供了參照準則。

張宗濱認為，未來要關注模型研發、內容生成到合規管控等多個環節，形成全鏈條共治格局。

首先，要確保訓練的數據和模型設計合規，不得將模型定向優化為生成特定平臺的違規內容。

第二，要加強風險提示和內容管控，要以顯著的方式提示AI生成內容的局限性，明確禁止用于發布虛假的信息，也要遵守特定的平臺規則，限制定向用于特定平臺的違規的場景。

第三，要做好內容標識和用戶數據保護。

第四，要建立投訴舉報機制，對于違法或侵權的內容要及時處置。

來源：央視新聞（綜合《中國之聲》《共同關注》報道）、最高人民法院