小紅書首次公布AI治理主張：堅決反對四類AI行為，給AI創作劃出清晰邊界

4月27日，小紅書首次公布平臺對AI內容的治理主張，并在北京舉辦首屆AI治理開放日。此次AI治理主張共分為“平臺鼓勵的AI內容及行為”和“平臺反對的AI內容及行為”兩大板塊，以給到創作者清晰指引。

小紅書明確了對待AI相關現象的核心態度：鼓勵AI作為創意放大器，反對AI作為造假工具與低質內容生產機器，所有AI參與創作的內容均需主動標識。

鼓勵AI成為創作者的創意放大器

溝通會上，小紅書首次明確“平臺鼓勵什么”？核心指向一類內容：創作者以AI為創意的放大器，生產出的有審美、有敘事、有真實信息增量的優質內容。具體來說，小紅書歡迎創作者用AI做這幾件事：

一、是利用AI提升作品的信息價值，例如將復雜知識變得更具可視化的科普內容，讓難懂的信息變得直觀易懂；

二、是利用AI創作有辨識度的虛擬角色，或對已有IP進行有亮點的二次創作；

三、是借助AI進行視覺創作，產出有審美、有敘事的好作品，包括藝術插畫、繪畫，以及具備劇情邏輯的電影感短片。

小紅書AI治理主張摘錄

“發布AI治理主張不是為了限制創作，而是為了給創作者提供更清晰的方向。” 小紅書用戶信任中心負責人吉吉表示。

在小紅書鼓勵的方向上，也已經有不少創作者探索出了有價值的AI創作路徑。央美國畫畢業生@一方畫貓呢 就是其中之一。她專攻宋代院體畫，一幅作品需要近一個月的精細打磨，但在AI出現之前，因為缺少動畫制作能力，這些靜態的精美畫作無法被更生動地呈現，如今，AI幫她突破了“畫不能動”的技術瓶頸。“當我畫的小龍貓可以實現穿云而過的效果，一下子感覺來了一個動畫團隊。”一方在開放日現場分享道。在她看來，AI是創作最后階段的視覺效果放大器，而畫面的原創性、核心想法和每一筆手繪，仍然由自己完成。

此外，AI治理主張再次強調了創作者應對AI參與創作的內容進行主動標識，未進行標識的AI內容，平臺將在識別后統一添加AI標識貼條。

吉吉向雷峰網表示：鼓勵AI標識是為了保障用戶的知情權，非違規內容，AI貼條不會影響流量。目前，小紅書已上線針對AI筆記貼條的申訴通道，創作者如果對AI貼條有異議，可通過該通道反饋。

堅決反對破壞社區真實底色的AI行為

在明確“鼓勵的AI內容”的同時，小紅書也梳理出了四類平臺反對的AI行為：利用AI違規運營、利用AI造假、利用AI侵權，以及利用AI進行低質創作。

具體來說，平臺反對利用AI全自動托管賬號、AI教唆做號等擾亂社區秩序的行為；反對AI造假行為，包括利用AI仿冒名人、虛構人設、偽造個人經歷、編造虛假信息，或是惡搞經典作品、借熱點進行低質營銷；反對利用AI侵犯肖像權、著作權的行為；也反對利用AI批量生產同質化內容、生成獵奇博眼球的極端畫面，或是傳播不良價值觀等低質創作行為。

“小紅書社區是真實的人與人之間的連接。AI侵權、AI造假等行為破壞了社區真誠分享的基礎，也擠壓了真實創作者的空間。” 吉吉在分享中表示，平臺會根據違規程度采取梯度處理，包括限制曝光、警告、封禁等；對于明確由AI托管運營、無真實人類參與的賬號，平臺將予以封禁。

據悉，今年以來，小紅書累計處置各類AI不良行為超百萬例，其中AI托管賬號超80萬個、AI造假筆記近15萬篇。

與此同時，小紅書在AI治理上持續加碼：1月19日發布《社區公約2.0》，明確反對虛假，鼓勵用戶對AI內容進行主動標識；2月12日發布加強自主標記AI生成合成標識的公告；3月10日發布打擊AI托管運營賬號的治理公告；4月27日首次完整輸出AI治理主張，形成對創作者和用戶的完整指引。

對小紅書而言，此次AI治理主張的發布，既是社區“真誠分享”價值觀在AI時代的延續，也是和社區內創作者們的一次有效溝通。當越來越多平臺開始思考與AI的距離，內容生態才有可能在技術進步中守住“人”的價值。