2024年11月,互聯(lián)網(wǎng)上AI生成的文章,在數(shù)量上第一次超過人類。
ChatGPT發(fā)布一年多一點(diǎn),它和它同類就完成了在文字上灌水淹沒人類的壯舉。
AI生成的內(nèi)容熟練上來了,質(zhì)量卻很堪憂,不少低質(zhì)量或者虛假內(nèi)容大行其道。
最近就有報道說,AI生成網(wǎng)文已經(jīng)非常成熟,只需輸入故事大綱、人物設(shè)定,在大模型中加以訓(xùn)練,就能生成相應(yīng)文章——畢竟這些低質(zhì)量網(wǎng)文很是套路,在第幾章扇幾個耳光,下幾次藥都能猜到,讓AI寫速度顯然更快。
官媒認(rèn)為這些低質(zhì)量AI生成內(nèi)容,對青少年有相當(dāng)大的毒害作用。
不過說白了,這些低質(zhì)量AI文字、視頻生成內(nèi)容頂多有些辣眼睛,影響心情。
批量生成的AI垃圾還有更大的危害,不在AI生成文字或者視頻上,而在AI編程上。
今年3月,我國日均token調(diào)用量已超過140萬億,相比2025年底增長了40%多。
多出來的這部分,很大程度上是使用OpenClaw消耗的。
很多人用OpenClaw沒白沒黑地寫代碼,認(rèn)識到了AI編程的妙處。
以前有個笑話,說當(dāng)年全民創(chuàng)業(yè),總有人一拍腦袋想到一個好項目,就差個程序員就能創(chuàng)業(yè)了。
現(xiàn)在很多人得到了他們夢想中的程序員,還是個AI,不吃不睡,簡直完美!
于是很多人用AI做出了他們一直想做的應(yīng)用。
然而,絕大部分人的想法很平庸,他們的想法變成App也不會優(yōu)質(zhì)到哪里去。更何況很多人不會編程,全靠AI編程,生成的代碼也不會檢查,結(jié)果就是生成了一堆垃圾App。
他們還要把這些垃圾App上傳到蘋果App Store上,導(dǎo)致蘋果App Store申請被垃圾淹沒,不知所措,如今蘋果App Store上架審核因為垃圾申請?zhí)?/strong>,審核時間從24-48小時增至最長45天。
看到這有人就說了,不是說好了AI智能體取代App嗎?App已經(jīng)是冢中枯骨,無足輕重,只要大力發(fā)展智能體,繞過App,大家都不用App了,現(xiàn)在App Store被垃圾淹沒的問題自然就會解決。
問題來了,你以為智能體,就逃得過被AI灌水,被垃圾淹沒的命運(yùn)嗎?
智能體最近大火,本質(zhì)上是因為它能自動拆解任務(wù),調(diào)用工具解決問題,而智能體調(diào)用的工具叫skill,具體問題都是通過skill解決。
skill顯然不是天上掉下來的,也是人編出來的。
最近有篇論文,統(tǒng)計了skill的常用獲取渠道skills.sh上的四萬多個skill,發(fā)現(xiàn)其中一半左右連名字都是重復(fù)的,更別說功能了。
如果都是些重復(fù)的垃圾也無所謂,就怕里面含有有害垃圾——你猜怎么著,還真有!
該論文把skill 對你的信息權(quán)限分成了四檔
安全:只讀公共數(shù)據(jù),無副作用;
隱私風(fēng)險:讀取敏感數(shù)據(jù)/個人信息,無狀態(tài)變更;
中等風(fēng)險:有限的狀態(tài)變更操作,可逆轉(zhuǎn);
嚴(yán)重風(fēng)險:金融操作、不可逆數(shù)據(jù)銷毀、系統(tǒng)級配置、任意代碼執(zhí)行。
其中光是嚴(yán)重風(fēng)險那檔的skill就占據(jù)這四萬多個skill里的9%。
![]()
☉數(shù)據(jù)來源:Agent Skills: A Data-Driven Analysis of Claude Skills for Extending Large Language Model Functionality
也就是說,你在skill.sh上隨意部署十個skill,就可能有一個能刪掉你的數(shù)據(jù)或者轉(zhuǎn)走你的錢。
都說OpenClaw權(quán)限大,本地部署有危險,我看安裝其他skill照樣有危險。
App Store好歹有審核,雖然審核現(xiàn)在因為垃圾App太多慢下來了——skill審核都不嚴(yán)格,上面很多有害垃圾,隨時可能卷走你的錢,你就不怕嗎?
智能體太能干活了,以至于大家現(xiàn)在都還處于初期興奮狀態(tài)。等到冷靜下來,就會發(fā)現(xiàn),給智能體的權(quán)限太大,實在太危險了。
這已經(jīng)不是簡單的垃圾淹沒互聯(lián)網(wǎng)的問題了,是垃圾里混合著毒藥,還鼓勵你一口都吃下去。
吃成個大胃袋都算好事了,可別把自己吃死了。
參考資料:
微信回應(yīng)為什么沒有“已讀”功能;羅技中國就「廣告侮辱消費(fèi)者」道歉;小米正式終止MIUI更新 | 極客頭條 https://mp.weixin.qq.com/s/vEEDoKFL6a8LDNorM28dtQ
“數(shù)字泔水”污染加劇,怎么管? https://mp.weixin.qq.com/s/rNVwtotNhAu7q8BD9AP_aQ
Agent Skills: A Data-Driven Analysis of Claude Skills for Extending Large Language Model Functionality https://arxiv.org/pdf/2602.08004
AI slop is taking over the internet. And it's here to stay | Morningstar https://www.morningstar.com/news/marketwatch/2025122944/ai-slop-is-taking-over-the-internet-and-its-here-to-stay
圖表:我國日均詞元調(diào)用量超140萬億__中國政府網(wǎng) https://www.gov.cn/zhengce/jiedu/tujie/202603/content_7063671.htm
來源 | 非凡油條(ID:ffyoutiao)
作者 | 豆腐乳兒 ; 編輯 | 呼呼大睡
內(nèi)容僅代表作者獨(dú)立觀點(diǎn),不代表早讀課立場
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.