小紅書首次公布AI治理主張，給AI創(chuàng)作劃出清晰邊界

4月27日，小紅書首次完整輸出平臺(tái)對(duì)AI內(nèi)容的治理主張，并在北京舉辦首屆AI治理開放日。此次AI治理主張共分為“平臺(tái)鼓勵(lì)的AI內(nèi)容及行為”和“平臺(tái)反對(duì)的AI內(nèi)容及行為”兩大板塊，以給到創(chuàng)作者清晰指引。

小紅書明確了對(duì)待AI相關(guān)現(xiàn)象的核心態(tài)度：以真實(shí)性與原創(chuàng)價(jià)值作為AI內(nèi)容治理的根本標(biāo)尺，鼓勵(lì)A(yù)I作為創(chuàng)意放大器，反對(duì)AI作為造假工具與低質(zhì)內(nèi)容生產(chǎn)機(jī)器，所有AI參與創(chuàng)作的內(nèi)容均需主動(dòng)標(biāo)識(shí)。

鼓勵(lì)A(yù)I成為創(chuàng)作者的創(chuàng)意放大器，所有AI參與創(chuàng)作內(nèi)容均需標(biāo)識(shí)

此次發(fā)布的AI治理主張，核心之一是明確“平臺(tái)鼓勵(lì)什么”，核心指向一類內(nèi)容：創(chuàng)作者以AI為創(chuàng)意的放大器，生產(chǎn)出的有審美、有敘事、有真實(shí)信息增量的優(yōu)質(zhì)內(nèi)容。

具體來說，小紅書歡迎創(chuàng)作者用AI做這幾件事：一是利用AI提升作品的信息價(jià)值，例如將復(fù)雜知識(shí)變得更具可視化的科普內(nèi)容，讓難懂的信息變得直觀易懂；二是利用AI創(chuàng)作有辨識(shí)度的虛擬角色，或?qū)σ延蠭P進(jìn)行有亮點(diǎn)的二次創(chuàng)作；三是借助AI進(jìn)行視覺創(chuàng)作，產(chǎn)出有審美、有敘事的好作品，包括藝術(shù)插畫、繪畫，以及具備劇情邏輯的電影感短片。

小紅書AI治理主張摘錄

“發(fā)布AI治理主張不是為了限制創(chuàng)作，而是為了給創(chuàng)作者提供更清晰的方向。” 小紅書用戶信任中心負(fù)責(zé)人吉吉表示。她介紹，平臺(tái)觀察了創(chuàng)作者和普通用戶使用AI的各種方式，訪談了大量創(chuàng)作者，聽取他們?cè)谑褂肁I過程中的困惑、嘗試和擔(dān)憂。基于社區(qū)一貫堅(jiān)持的“真誠分享”原則，小紅書第一次完整地輸出了對(duì)AI的主張，希望給創(chuàng)作者和用戶一個(gè)清晰的指引。吉吉透露，平臺(tái)會(huì)將公域流量優(yōu)先向優(yōu)質(zhì)內(nèi)容傾斜。

在小紅書鼓勵(lì)的方向上，也已經(jīng)有不少創(chuàng)作者探索出了有價(jià)值的AI創(chuàng)作路徑。央美國畫畢業(yè)生@一方畫貓呢 就是其中之一。她專攻宋代院體畫，一幅作品需要近一個(gè)月的精細(xì)打磨，但在AI出現(xiàn)之前，因?yàn)槿鄙賱?dòng)畫制作能力，這些靜態(tài)的精美畫作無法被更生動(dòng)地呈現(xiàn)，如今，AI幫她突破了“畫不能動(dòng)”的技術(shù)瓶頸，讓畫面豐富度和可觀賞性大幅提升。“當(dāng)我畫的小龍貓可以實(shí)現(xiàn)穿云而過的效果，一下子感覺來了一個(gè)動(dòng)畫團(tuán)隊(duì)。”一方在開放日現(xiàn)場分享道。在她看來，AI是創(chuàng)作最后階段的視覺效果放大器，而畫面的原創(chuàng)性、核心想法和每一筆手繪，仍然由自己完成。

創(chuàng)作者@一方畫貓呢 視頻截圖

此外，AI治理主張?jiān)俅螐?qiáng)調(diào)了創(chuàng)作者應(yīng)對(duì)AI參與創(chuàng)作的內(nèi)容進(jìn)行主動(dòng)標(biāo)識(shí)，未進(jìn)行標(biāo)識(shí)的AI內(nèi)容，平臺(tái)將在識(shí)別后統(tǒng)一添加AI標(biāo)識(shí)貼條。吉吉表示：鼓勵(lì)A(yù)I標(biāo)識(shí)是為了保障用戶的知情權(quán)，非違規(guī)內(nèi)容，AI貼條不會(huì)影響流量。目前，小紅書已上線針對(duì)AI筆記貼條的申訴通道，創(chuàng)作者如果對(duì)AI貼條有異議，可通過該通道反饋。

堅(jiān)決反對(duì)破壞社區(qū)真實(shí)底色的AI行為

在明確“鼓勵(lì)的AI內(nèi)容”的同時(shí)，小紅書也梳理出了四類平臺(tái)反對(duì)的AI行為：利用AI違規(guī)運(yùn)營、利用AI造假、利用AI侵權(quán)，以及利用AI進(jìn)行低質(zhì)創(chuàng)作。

具體來說，平臺(tái)反對(duì)利用AI全自動(dòng)托管賬號(hào)、AI教唆做號(hào)等擾亂社區(qū)秩序的行為；反對(duì)AI造假行為，包括利用AI仿冒名人、虛構(gòu)人設(shè)、偽造個(gè)人經(jīng)歷、編造虛假信息，或是惡搞經(jīng)典作品、借熱點(diǎn)進(jìn)行低質(zhì)營銷；反對(duì)利用AI侵犯肖像權(quán)、著作權(quán)的行為；也反對(duì)利用AI批量生產(chǎn)同質(zhì)化內(nèi)容、生成獵奇博眼球的極端畫面，或是傳播不良價(jià)值觀等低質(zhì)創(chuàng)作行為。

“小紅書社區(qū)是真實(shí)的人與人之間的連接。AI侵權(quán)、AI造假等行為破壞了社區(qū)真誠分享的基礎(chǔ)，也擠壓了真實(shí)創(chuàng)作者的空間。” 吉吉在分享中表示，平臺(tái)會(huì)根據(jù)違規(guī)程度采取梯度處理，包括限制曝光、警告、封禁等；對(duì)于明確由AI托管運(yùn)營、無真實(shí)人類參與的賬號(hào)，平臺(tái)將予以封禁。據(jù)悉，今年以來，小紅書累計(jì)處置各類AI不良行為超百萬例，其中AI托管賬號(hào)超80萬個(gè)、AI造假筆記近15萬篇。

AI科普創(chuàng)作者@大師的AI小灶 在開放日現(xiàn)場表示，AI飛速發(fā)展的時(shí)代，普通人面前有許多不可忽視的真相和風(fēng)險(xiǎn)。他拆解了AI幻覺、AI造假等議題，“AI跑得很快，但人的辨別意識(shí)和平臺(tái)規(guī)則需要同步跟上，這個(gè)時(shí)間差正是普通人需要警惕的風(fēng)險(xiǎn)空間。” 他指出，平臺(tái)對(duì)AI內(nèi)容的系統(tǒng)治理，不是可有可無的選擇題，而是必須做的功課。

今年以來，小紅書在AI治理上持續(xù)加碼：1月19日發(fā)布《社區(qū)公約2.0》，明確反對(duì)虛假，鼓勵(lì)用戶對(duì)AI內(nèi)容進(jìn)行主動(dòng)標(biāo)識(shí)；2月12日發(fā)布加強(qiáng)自主標(biāo)記AI生成合成標(biāo)識(shí)的公告；3月10日發(fā)布打擊AI托管運(yùn)營賬號(hào)的治理公告；4月27日首次完整輸出AI治理主張，形成對(duì)創(chuàng)作者和用戶的完整指引。

對(duì)小紅書而言，此次AI治理主張的發(fā)布，既是社區(qū)“真誠分享”價(jià)值觀在AI時(shí)代的延續(xù)，也是和社區(qū)內(nèi)創(chuàng)作者們的一次有效溝通。當(dāng)越來越多平臺(tái)開始思考與AI的距離，內(nèi)容生態(tài)才有可能在技術(shù)進(jìn)步中守住“人”的價(jià)值。