“豆包付費(fèi)”大反轉(zhuǎn)，網(wǎng)友：笨還伸手要錢？

后臺(tái)回復(fù) 品牌 免費(fèi)送你《135本品牌營銷必讀書》

作者 | 王暉 來源 | 首席品牌觀察

這年頭，AI翻車不稀奇，但翻得這么有“節(jié)目效果”的，豆包算是獨(dú)一份。

事情是這樣的，最近有網(wǎng)友想查查民國大總統(tǒng)黎元洪的生平資料，結(jié)果豆包鄭重其事地甩出一張范偉的臉，還配著一行一絲不茍的文字：“黎元洪（1864.10.19-1928.6.3），字宋卿，湖北黃陂人……”

一個(gè)是喜劇演員，一個(gè)是民國大總統(tǒng)，這個(gè)組合的炸裂程度，怎么說呢，相當(dāng)于你翻開《時(shí)代周刊》，發(fā)現(xiàn)封面人物是宋小寶，底下標(biāo)注著“美國第46任總統(tǒng)”。

再加上這個(gè)烏龍剛好撞上了豆包宣布收費(fèi)的時(shí)間點(diǎn)，豆包就這樣一邊伸手要錢，一邊把黎元洪畫成范偉，網(wǎng)友銳評(píng)“笨還收費(fèi)”。

為什么豆包會(huì)把黎元洪認(rèn)成范偉？

先說答案：因?yàn)榛ヂ?lián)網(wǎng)早就在十多年前把這倆人搞混了，而AI只是個(gè)老實(shí)到不會(huì)撒謊的搬運(yùn)工。

事情的源頭要追溯到2010年。

當(dāng)年電影《建黨偉業(yè)》選角時(shí)，有網(wǎng)友發(fā)現(xiàn)范偉和黎元洪長得意外地像，比如都是圓臉、敦厚眉眼、中年發(fā)福的體型。

于是有人手癢，P了一張范偉的黎元洪定妝照。

本來就是個(gè)惡搞，笑笑就過去了，但互聯(lián)網(wǎng)的記憶從來不按常理出牌。

這張PS圖在接下來的十多年里被瘋狂轉(zhuǎn)載，各大百科、圖庫、歷史類帖子紛紛收錄，很多后來者根本不知道這是P的，直接當(dāng)成“黎元洪歷史照片”來用。

傳著傳著，假的就變成了真的。這就好比一個(gè)謠言傳了十五年，所有人都信了，那它就不叫謠言了，叫“集體記憶”。

馬克·吐溫有一句話扎心但精準(zhǔn)，“真相還在穿鞋的時(shí)候，謊言已經(jīng)跑遍了半個(gè)世界。”放在這件事上，真相豈止是沒穿鞋，簡直是還沒起床。

AI是怎么學(xué)習(xí)的？它不考證史料，不研究孤本，它就是到互聯(lián)網(wǎng)這個(gè)大雜燴里“讀帖子”，看哪個(gè)答案出現(xiàn)頻率高、傳播度廣，就把哪個(gè)當(dāng)成正確答案。

當(dāng)滿網(wǎng)都是范偉那張高熱度PS圖時(shí)，AI理所當(dāng)然地認(rèn)為，既然大家都這么說，那這位就是黎大總統(tǒng)本尊了。

說白了，AI沒撒謊，它只是在復(fù)述一個(gè)互聯(lián)網(wǎng)講了十幾年的謊言。

但這件事真正的諷刺之處在于，不是AI太蠢，是我們親手把互聯(lián)網(wǎng)喂成了一個(gè)信息垃圾場，然后又指望AI在垃圾堆里開出花來。

“信息幻覺”

AI的老毛病，治根不容易

在AI領(lǐng)域，這種“把假的當(dāng)真”的現(xiàn)象有個(gè)專業(yè)術(shù)語，叫“信息幻覺”（AI Hallucination）。聽起來挺玄乎，但翻譯成大白話就四個(gè)字，不懂裝懂。

它的運(yùn)作邏輯大致是這樣的。

大模型本質(zhì)上是一個(gè)超級(jí)復(fù)雜的“猜詞機(jī)器”，它并不真正“知道”什么是真相，只是根據(jù)訓(xùn)練數(shù)據(jù)里的統(tǒng)計(jì)規(guī)律，猜測下一個(gè)詞該接什么。

當(dāng)訓(xùn)練數(shù)據(jù)里錯(cuò)誤信息太多、或者不同來源的信息互相矛盾時(shí)，模型就容易“幻覺”，它會(huì)非常自信地把錯(cuò)的當(dāng)對(duì)的往外甩，語氣還賊篤定。

就像尼采說的，“沒有事實(shí)，只有解釋。”

AI把這個(gè)哲學(xué)命題給工程化落地了，它讀到的全是網(wǎng)友們五花八門的解釋，唯獨(dú)找不到那個(gè)叫“事實(shí)”的東西。

這不是豆包一家的問題。

斯坦福大學(xué)發(fā)表在《自然·機(jī)器智能》上的一項(xiàng)研究顯示，目前最先進(jìn)的大語言模型在驗(yàn)證事實(shí)性數(shù)據(jù)時(shí)，平均準(zhǔn)確率最高也就91.5%。

也就是說，每問AI十個(gè)需要確鑿事實(shí)的問題，就有一個(gè)答案是胡扯的。

平時(shí)這些錯(cuò)誤悄無聲息地滑過去了，這次之所以炸，純粹是因?yàn)榉秱ツ菑埬樀谋孀R(shí)度太高，全國人民都認(rèn)識(shí)，一眼假，連辯解的空間都沒有。

此外，AI還有另一個(gè)毛病，它對(duì)信息的判斷標(biāo)準(zhǔn)不是“對(duì)不對(duì)”，而是“網(wǎng)上說的人多不多”。

這在互聯(lián)網(wǎng)時(shí)代的風(fēng)險(xiǎn)極大，因?yàn)檫@世界上有一種東西叫“高傳播度的垃圾信息”，它們經(jīng)過層層復(fù)制轉(zhuǎn)發(fā)，熱度往往比真相還高。AI照單全收，自然就把贗品當(dāng)正品往外端。

據(jù)公開報(bào)道，此前多家大模型產(chǎn)品都曾出現(xiàn)過史實(shí)錯(cuò)誤、張冠李戴等問題。

騰訊元寶曾因模型輸出異常向用戶致歉；有網(wǎng)友反饋用AI識(shí)別毒蘑菇被誤判為可食用的蘑菇后，出現(xiàn)急性肝衰竭。

還有小朋友拿著老鼠夾問AI是什么東西，AI說那是“廢棄卡丁車小玩具”，描述得頭頭是道，結(jié)果孩子手指被夾了；甚至，能算出150-17=143的豆包，覺得自己高考能得150分，自信滿滿。

付費(fèi)的AI

就不是“人工智障”嗎

那么問題來了，收費(fèi)之后，豆包就能變聰明、不再犯這種低級(jí)錯(cuò)誤了嗎？

我想很多人希望得到肯定答案。

其實(shí)，最近豆包要收費(fèi)的消息傳出來，雖然罵聲一片，但“可以理解”。

畢竟大模型是真燒錢，一天跑下來的電費(fèi)夠你我開一輩子空調(diào)。所以大家心理上是做了準(zhǔn)備的。

這心態(tài)像極了家長給孩子報(bào)昂貴的補(bǔ)習(xí)班，錢花出去了，總覺得下回月考怎么著也得漲個(gè)二十分。

最害怕的是，沒收費(fèi)前，以為豆包是免費(fèi)的傻子，說要收費(fèi)了，以為它會(huì)變成收費(fèi)的天才。但看到豆包把范偉當(dāng)成黎元洪，又懷疑它只是個(gè)收費(fèi)的傻子。

再說了，范偉在《天下無賊》里打劫，說的還是“IC、IP、IQ卡，統(tǒng)統(tǒng)告訴我密碼”。豆包倒好，IQ卡沒密碼，甚至里面壓根沒錢。

很多網(wǎng)友甚至開始“陰謀論”，覺得豆包會(huì)不會(huì)是在用這種智障回答倒逼你付費(fèi)？既然免費(fèi)版連黎元洪和范偉都分不清，想讓它變聰明，只能乖乖掏68塊解鎖。

就像某些軟件在免費(fèi)版里故意卡速度，然后彈出一個(gè)“當(dāng)前體驗(yàn)擁堵，開通會(huì)員暢享極速通道。”

當(dāng)然，這些都是開玩笑，但它還是戳中了一個(gè)事實(shí)，當(dāng)AI開始談錢，用戶看它的眼光就變了。

免費(fèi)時(shí)，你是志愿者，AI錯(cuò)了叫bug，笑笑就過去了；收費(fèi)后，你是消費(fèi)者，錯(cuò)了叫事故，是可以拍桌子要個(gè)說法的。

胡適有句話放在這里很應(yīng)景，“容忍比自由更重要。”免費(fèi)時(shí)代，用戶對(duì)這個(gè)新物種展現(xiàn)了驚人的容忍。但金錢關(guān)系一旦確立，容忍的天花板就會(huì)急速壓低。

這很公平，你管我要錢，就得經(jīng)得起我的挑剔。

AI的成長陣痛期

話說回來，用戶和AI平臺(tái)的根本問題，從來不是“該不該收費(fèi)”，而是“收了費(fèi)活兒得干好”。

用戶的錢不是大風(fēng)刮來的，AI公司用這些錢去交電費(fèi)、升級(jí)模型、清洗數(shù)據(jù)，最終訓(xùn)練出一個(gè)能分得清黎元洪和范偉的靠譜助手，這才是付費(fèi)能成立的基本契約。

我們對(duì)AI的集體愿望，就是希望它無所不知、無所不曉。但真相是，它還在成長的陣痛期，一邊學(xué)習(xí)一邊犯錯(cuò)，一邊收你的錢一邊給你說“對(duì)不起剛才我胡說的”。

用還是要用的，畢竟它真能幫你省時(shí)間。

但信？留個(gè)心眼吧。

尤其是，它開始伸手管你要錢的時(shí)候。

*編排 | 三木 審核 | 三木

品牌最新資訊，盡在【首席品牌觀察】↓↓↓

行業(yè)資訊、案例資料、運(yùn)營干貨，精彩不停