小紅書首次公布AI治理主張，給AI創(chuàng)作劃出清晰邊界

4月27日，小紅書首次完整輸出平臺對AI內(nèi)容的治理主張，并在北京舉辦首屆AI治理開放日。此次AI治理主張共分為“平臺鼓勵的AI內(nèi)容及行為”和“平臺反對的AI內(nèi)容及行為”兩大板塊，以給到創(chuàng)作者清晰指引。

小紅書明確了對待AI相關(guān)現(xiàn)象的核心態(tài)度：以真實(shí)性與原創(chuàng)價值作為AI內(nèi)容治理的根本標(biāo)尺，鼓勵A(yù)I作為創(chuàng)意放大器，反對AI作為造假工具與低質(zhì)內(nèi)容生產(chǎn)機(jī)器，所有AI參與創(chuàng)作的內(nèi)容均需主動標(biāo)識。

鼓勵A(yù)I成為創(chuàng)作者的創(chuàng)意放大器，所有AI參與創(chuàng)作內(nèi)容均需標(biāo)識

此次發(fā)布的AI治理主張，核心之一是明確“平臺鼓勵什么”，核心指向一類內(nèi)容：創(chuàng)作者以AI為創(chuàng)意的放大器，生產(chǎn)出的有審美、有敘事、有真實(shí)信息增量的優(yōu)質(zhì)內(nèi)容。

具體來說，小紅書歡迎創(chuàng)作者用AI做這幾件事：一是利用AI提升作品的信息價值，例如將復(fù)雜知識變得更具可視化的科普內(nèi)容，讓難懂的信息變得直觀易懂；二是利用AI創(chuàng)作有辨識度的虛擬角色，或?qū)σ延蠭P進(jìn)行有亮點(diǎn)的二次創(chuàng)作；三是借助AI進(jìn)行視覺創(chuàng)作，產(chǎn)出有審美、有敘事的好作品，包括藝術(shù)插畫、繪畫，以及具備劇情邏輯的電影感短片。

小紅書AI治理主張摘錄

“發(fā)布AI治理主張不是為了限制創(chuàng)作，而是為了給創(chuàng)作者提供更清晰的方向。” 小紅書用戶信任中心負(fù)責(zé)人吉吉表示。她介紹，平臺觀察了創(chuàng)作者和普通用戶使用AI的各種方式，訪談了大量創(chuàng)作者，聽取他們在使用AI過程中的困惑、嘗試和擔(dān)憂。基于社區(qū)一貫堅持的“真誠分享”原則，小紅書第一次完整地輸出了對AI的主張，希望給創(chuàng)作者和用戶一個清晰的指引。吉吉透露，平臺會將公域流量優(yōu)先向優(yōu)質(zhì)內(nèi)容傾斜。

在小紅書鼓勵的方向上，也已經(jīng)有不少創(chuàng)作者探索出了有價值的AI創(chuàng)作路徑。央美國畫畢業(yè)生@一方畫貓呢 就是其中之一。她專攻宋代院體畫，一幅作品需要近一個月的精細(xì)打磨，但在AI出現(xiàn)之前，因?yàn)槿鄙賱赢嬛谱髂芰Γ@些靜態(tài)的精美畫作無法被更生動地呈現(xiàn)，如今，AI幫她突破了“畫不能動”的技術(shù)瓶頸，讓畫面豐富度和可觀賞性大幅提升。“當(dāng)我畫的小龍貓可以實(shí)現(xiàn)穿云而過的效果，一下子感覺來了一個動畫團(tuán)隊。”一方在開放日現(xiàn)場分享道。在她看來，AI是創(chuàng)作最后階段的視覺效果放大器，而畫面的原創(chuàng)性、核心想法和每一筆手繪，仍然由自己完成。

創(chuàng)作者@一方畫貓呢 視頻截圖

此外，AI治理主張再次強(qiáng)調(diào)了創(chuàng)作者應(yīng)對AI參與創(chuàng)作的內(nèi)容進(jìn)行主動標(biāo)識，未進(jìn)行標(biāo)識的AI內(nèi)容，平臺將在識別后統(tǒng)一添加AI標(biāo)識貼條。吉吉表示：鼓勵A(yù)I標(biāo)識是為了保障用戶的知情權(quán)，非違規(guī)內(nèi)容，AI貼條不會影響流量。目前，小紅書已上線針對AI筆記貼條的申訴通道，創(chuàng)作者如果對AI貼條有異議，可通過該通道反饋。

堅決反對破壞社區(qū)真實(shí)底色的AI行為

在明確“鼓勵的AI內(nèi)容”的同時，小紅書也梳理出了四類平臺反對的AI行為：利用AI違規(guī)運(yùn)營、利用AI造假、利用AI侵權(quán)，以及利用AI進(jìn)行低質(zhì)創(chuàng)作。

具體來說，平臺反對利用AI全自動托管賬號、AI教唆做號等擾亂社區(qū)秩序的行為；反對AI造假行為，包括利用AI仿冒名人、虛構(gòu)人設(shè)、偽造個人經(jīng)歷、編造虛假信息，或是惡搞經(jīng)典作品、借熱點(diǎn)進(jìn)行低質(zhì)營銷；反對利用AI侵犯肖像權(quán)、著作權(quán)的行為；也反對利用AI批量生產(chǎn)同質(zhì)化內(nèi)容、生成獵奇博眼球的極端畫面，或是傳播不良價值觀等低質(zhì)創(chuàng)作行為。

“小紅書社區(qū)是真實(shí)的人與人之間的連接。AI侵權(quán)、AI造假等行為破壞了社區(qū)真誠分享的基礎(chǔ)，也擠壓了真實(shí)創(chuàng)作者的空間。” 吉吉在分享中表示，平臺會根據(jù)違規(guī)程度采取梯度處理，包括限制曝光、警告、封禁等；對于明確由AI托管運(yùn)營、無真實(shí)人類參與的賬號，平臺將予以封禁。據(jù)悉，今年以來，小紅書累計處置各類AI不良行為超百萬例，其中AI托管賬號超80萬個、AI造假筆記近15萬篇。

AI科普創(chuàng)作者@大師的AI小灶 在開放日現(xiàn)場表示，AI飛速發(fā)展的時代，普通人面前有許多不可忽視的真相和風(fēng)險。他拆解了AI幻覺、AI造假等議題，“AI跑得很快，但人的辨別意識和平臺規(guī)則需要同步跟上，這個時間差正是普通人需要警惕的風(fēng)險空間。” 他指出，平臺對AI內(nèi)容的系統(tǒng)治理，不是可有可無的選擇題，而是必須做的功課。

今年以來，小紅書在AI治理上持續(xù)加碼：1月19日發(fā)布《社區(qū)公約2.0》，明確反對虛假，鼓勵用戶對AI內(nèi)容進(jìn)行主動標(biāo)識；2月12日發(fā)布加強(qiáng)自主標(biāo)記AI生成合成標(biāo)識的公告；3月10日發(fā)布打擊AI托管運(yùn)營賬號的治理公告；4月27日首次完整輸出AI治理主張，形成對創(chuàng)作者和用戶的完整指引。

對小紅書而言，此次AI治理主張的發(fā)布，既是社區(qū)“真誠分享”價值觀在AI時代的延續(xù)，也是和社區(qū)內(nèi)創(chuàng)作者們的一次有效溝通。當(dāng)越來越多平臺開始思考與AI的距離，內(nèi)容生態(tài)才有可能在技術(shù)進(jìn)步中守住“人”的價值。