![]()
2024年11月,互聯(lián)網(wǎng)上AI生成的文章,在數(shù)量上第一次超過人類。
ChatGPT發(fā)布一年多一點,它和它同類就完成了在文字上灌水淹沒人類的壯舉。
AI生成的內(nèi)容熟練上來了,質(zhì)量卻很堪憂,不少低質(zhì)量或者虛假內(nèi)容大行其道。
最近就有報道說,AI生成網(wǎng)文已經(jīng)非常成熟,只需輸入故事大綱、人物設定,在大模型中加以訓練,就能生成相應文章——畢竟這些低質(zhì)量網(wǎng)文很是套路,在第幾章扇幾個耳光,下幾次藥都能猜到,讓AI寫速度顯然更快。
官媒認為這些低質(zhì)量AI生成內(nèi)容,對青少年有相當大的毒害作用。
不過說白了,這些低質(zhì)量AI文字、視頻生成內(nèi)容頂多有些辣眼睛,影響心情。
批量生成的AI垃圾還有更大的危害,不在AI生成文字或者視頻上,而在AI編程上。
今年3月,我國日均token調(diào)用量已超過140萬億,相比2025年底增長了40%多。
多出來的這部分,很大程度上是使用OpenClaw消耗的。
很多人用OpenClaw沒白沒黑地寫代碼,認識到了AI編程的妙處。
以前有個笑話,說當年全民創(chuàng)業(yè),總有人一拍腦袋想到一個好項目,就差個程序員就能創(chuàng)業(yè)了。
現(xiàn)在很多人得到了他們夢想中的程序員,還是個AI,不吃不睡,簡直完美!
于是很多人用AI做出了他們一直想做的應用。
然而,絕大部分人的想法很平庸,他們的想法變成App也不會優(yōu)質(zhì)到哪里去。更何況很多人不會編程,全靠AI編程,生成的代碼也不會檢查,結果就是生成了一堆垃圾App。
他們還要把這些垃圾App上傳到蘋果App Store上,導致蘋果App Store申請被垃圾淹沒,不知所措,如今蘋果App Store上架審核因為垃圾申請?zhí)?/strong>,審核時間從24-48小時增至最長45天。
看到這有人就說了,不是說好了AI智能體取代App嗎?App已經(jīng)是冢中枯骨,無足輕重,只要大力發(fā)展智能體,繞過App,大家都不用App了,現(xiàn)在App Store被垃圾淹沒的問題自然就會解決。
問題來了,你以為智能體,就逃得過被AI灌水,被垃圾淹沒的命運嗎?
智能體最近大火,本質(zhì)上是因為它能自動拆解任務,調(diào)用工具解決問題,而智能體調(diào)用的工具叫skill,具體問題都是通過skill解決。
skill顯然不是天上掉下來的,也是人編出來的。
最近有篇論文,統(tǒng)計了skill的常用獲取渠道skills.sh上的四萬多個skill,發(fā)現(xiàn)其中一半左右連名字都是重復的,更別說功能了。
如果都是些重復的垃圾也無所謂,就怕里面含有有害垃圾——你猜怎么著,還真有!
該論文把skill 對你的信息權限分成了四檔
安全:只讀公共數(shù)據(jù),無副作用;
隱私風險:讀取敏感數(shù)據(jù)/個人信息,無狀態(tài)變更;
中等風險:有限的狀態(tài)變更操作,可逆轉(zhuǎn);
嚴重風險:金融操作、不可逆數(shù)據(jù)銷毀、系統(tǒng)級配置、任意代碼執(zhí)行。
其中光是嚴重風險那檔的skill就占據(jù)這四萬多個skill里的9%。
![]()
☉數(shù)據(jù)來源:Agent Skills: A Data-Driven Analysis of Claude Skills for Extending Large Language Model Functionality
也就是說,你在skill.sh上隨意部署十個skill,就可能有一個能刪掉你的數(shù)據(jù)或者轉(zhuǎn)走你的錢。
都說OpenClaw權限大,本地部署有危險,我看安裝其他skill照樣有危險。
App Store好歹有審核,雖然審核現(xiàn)在因為垃圾App太多慢下來了——skill審核都不嚴格,上面很多有害垃圾,隨時可能卷走你的錢,你就不怕嗎?
智能體太能干活了,以至于大家現(xiàn)在都還處于初期興奮狀態(tài)。等到冷靜下來,就會發(fā)現(xiàn),給智能體的權限太大,實在太危險了。
這已經(jīng)不是簡單的垃圾淹沒互聯(lián)網(wǎng)的問題了,是垃圾里混合著毒藥,還鼓勵你一口都吃下去。
吃成個大胃袋都算好事了,可別把自己吃死了。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.