AI也開始收黑錢了！315曝光AI造假產(chǎn)業(yè)鏈，危害有多大？

從今年的春節(jié)到現(xiàn)在，多家AI企業(yè)已經(jīng)投入重金對AI App的應(yīng)用進行了瘋狂地推廣。

按照馬云、黃仁勛等大牛的判斷，下一個“堪比互聯(lián)網(wǎng)的技術(shù)革命”就是AI。

不過，剛剛過去的315晚會，卻掀開了一個關(guān)于AI的“鍋蓋子”：

你怎么知道，AI給你生成的答案就是對的？

或者，這個答案本身就是“毒藥”。

調(diào)查發(fā)現(xiàn)，現(xiàn)在有種名為GEO（ Generative Engine Optimization，生成式引擎優(yōu)化）的技術(shù)正被不法服務(wù)商利用，并演變?yōu)橄駻I大模型“投毒”的工具。

節(jié)目里，調(diào)查記者用一款從名字到功能完全虛構(gòu)的“泉嘉德智能水杯”，完成了“投毒”演示：在GEO系統(tǒng)里編造信息、全網(wǎng)投放，幾小時后，多個主流AI助手便將這個空氣般的產(chǎn)品，列為“創(chuàng)新智能水杯”的優(yōu)先推薦。

一款不存在的水杯，就在AI的世界里“誕生”了。

商品尚且如此，別的信息呢？企業(yè)財報、行業(yè)研報、時事新聞、機構(gòu)信息……理論上都可以通過投毒的方式去污染信息。

全球儲存顆粒大漲價、電力需求大增長，當(dāng)AI技術(shù)瘋狂普及的時候，它的技術(shù)軟肋也暴露了出來：

誰能管控AI真實性？

01 幾小時，制造一個爆款

我們想想，過去在網(wǎng)上尋找一個答案的基本操作是什么？

很多人會脫口而出“百度一下”，對信息質(zhì)量要求高的，也會“谷歌一下”。

進入AI時代，這個流程被大大簡化了：隨口問一下AI就行，不用挨個尋找網(wǎng)頁，不用多個信息交叉驗證，AI會給你一個看似特別詳細的答案。

這也就是很多人說“AI會革掉瀏覽器命”的原因。

那么，當(dāng)我們習(xí)慣了向AI尋求“標準答案”時，一種新的“魔術(shù)”就上演了。

過去，商家想讓你看見，得去搜索引擎打廣告、做SEO（搜索引擎優(yōu)化），爭的是網(wǎng)頁列表里那個靠前的位置。

當(dāng)年的“魏則西事件”就是因為莆田系瘋狂刷好評，打廣告。

現(xiàn)在AI來了，這套模式還有沒有搞頭呢？

有，而且很大！這門新生意，叫GEO。

它的邏輯粗暴且有效：既然AI通過“吃”網(wǎng)上的信息來回答問題，那就生產(chǎn)大量虛假的信息，喂給它。

315節(jié)目中被點名的GEO服務(wù)商說得很通透：

“核心就是做軟文，讓AI平臺去收錄、抓取。”

所以，他們就利用AI制造大量格式工整、內(nèi)容空洞但指向明確的“信息飼料”，撒向各種內(nèi)容平臺。

這些內(nèi)容會被當(dāng)前各家AI企業(yè)的網(wǎng)絡(luò)爬蟲抓取，并成為組織答案的“參考依據(jù)”。

實踐環(huán)節(jié)中，記者虛構(gòu)一款智能手環(huán)，鋪好“飼料”后，AI真的將它列為優(yōu)先推薦。還有醫(yī)生通過這項服務(wù)，讓自己的名字牢牢占據(jù)“白內(nèi)障手術(shù)找誰好”這類問題的答案首位。

“一年上億的廣告費，花幾百萬投點毒，總行吧？”

為什么這些服務(wù)商能賺大錢？很簡單，不需要調(diào)查研究，直接用AI造假，再喂給AI，垃圾生成垃圾，性價比極高。

然后用極低的成本，在AI這個“信息中介”口中，買下一個“事實”。

你可能會覺得，這不過是AI時代的“刷單”，和當(dāng)年電商刷好評沒什么兩樣。

但區(qū)別大了，而且致命。

以前刷好評，你知道有些內(nèi)容一看就是商家的自說自話，旁邊還有差評區(qū)可以看，有問大家板塊可以問，心里始終保留著一份警惕和交叉驗證的可能。

但現(xiàn)在，當(dāng)你問AI“孩子補鈣吃什么好”，它用總結(jié)性的口吻，流暢地給出“XX品牌兒童鈣片，富含XX，專家推薦……”時，你質(zhì)疑的意愿會降到最低。

因為AI的輸出，一般都會披著 “客觀整合”和“智能分析”的外衣，我們潛意識里認為，它總比商家自己的廣告可信。

如此一來，魏則西看到的“虛假信息”就會被批量植入到很多人的心智中去，且可信度非常高。

而且GEO技術(shù)還會制造一種“共識假象”。

一些高級的大模型判斷信息時，也會交叉驗證，看不同來源是否在陳述相似的事實。

但問題來了，當(dāng)一個毒信息是由上百個“不同賬號”發(fā)布的呢？AI的交叉驗證結(jié)論也就變成了：

YES，我很確信。

如此，謠言和毒信息就在算法的加持下，完成了閉環(huán)。

02 一場打不贏的“信息污染戰(zhàn)”

一次信息誤導(dǎo)，或許可以被315打假。但若干次、乃至無限次呢？

從技術(shù)角度看，辟謠的速度遠遠趕不上AI造謠的速度，今天一家公司花幾百、幾千塊錢，就能在網(wǎng)上撒出成千上萬篇關(guān)于某個產(chǎn)品的虛假“測評”。

即便這些頁面好不容易被平臺監(jiān)測發(fā)現(xiàn)并刪除，但更多的信息已經(jīng)出籠，而且還會被各種大模型當(dāng)作訓(xùn)練數(shù)據(jù)“吃”進去。

這就和癌細胞擴散一樣，一旦虛假信息進入互聯(lián)網(wǎng)的傳播血液，就會開啟永無止境的循環(huán)。

今天，它污染的是一個水杯、一款手環(huán)。明天，就可以是某種藥品、某種理財陷阱、或者是一所劣質(zhì)培訓(xùn)機構(gòu)。

造假的成本有多大呢？

根據(jù)天眼查App的顯示，這次被點名的“力擎GEO優(yōu)化系統(tǒng)”關(guān)聯(lián)公司【北京力思文化傳媒有限公司】成立于2018年4月，法定代表人為李某鐘，參保人數(shù)為1人，此前連續(xù)多年參保人數(shù)為0。

也就是說，一個人，一臺電腦，就能“干大事了”！

無相君最近幾個月就很有感觸：

過去搜索企業(yè)財報時，會去雪球、東方財富等專業(yè)炒股的門戶網(wǎng)站，但現(xiàn)在，這些門戶網(wǎng)站已經(jīng)有了大量AI造假的信息。

比如關(guān)于國產(chǎn)奶粉的一個行業(yè)觀察文章，信誓旦旦地說：國產(chǎn)奶粉市場份額突破68%，外資品牌整體份額降至25.3%。

然而當(dāng)我檢索相關(guān)數(shù)據(jù)時，根本找不到任何權(quán)威機構(gòu)給到這樣的數(shù)據(jù)。

隨著使用AI編纂文章、編纂新聞、編纂研報的人和機構(gòu)越來越多，可想而知，未來的整個互聯(lián)網(wǎng)信息生態(tài)，都會被AI進行系統(tǒng)性的污染。

關(guān)鍵的是，現(xiàn)在絕大多數(shù)人還渾然不知！

而且，隨著315的這個曝光，或許會有更多的不法分子加入這個賽道，原因很簡單：

好操作，易變現(xiàn)，很難被抓。

03 當(dāng)“污染”成為“出廠設(shè)置”

那么對于這個現(xiàn)象，監(jiān)管機構(gòu)和主流AI企業(yè)有沒有好的辦法呢？

答案是還沒有。

法律端看，目前你還不好舉報網(wǎng)上海量AI生成的虛假帖子，發(fā)布者也不會受到什么追究，因為當(dāng)前的AI技術(shù)遠遠跑在相關(guān)法律前面。

而根據(jù)澎湃之前的調(diào)查，現(xiàn)在很多類似GEO服務(wù)已覆蓋市場上所有主流大模型，包括ChatGPT、DeepSeek、豆包、通義千問、Kimi、文心一言等。

為什么這些企業(yè)無法從根本上杜絕AI信息污染？

因為道理很簡單：

AI模型從訓(xùn)練階段，就是從互聯(lián)網(wǎng)內(nèi)容中獲取信息的，當(dāng)互聯(lián)網(wǎng)內(nèi)容被偽造的時候，虛假的內(nèi)容天然就會成為AI的“出廠設(shè)置”。

寫到這無相君想到一個互聯(lián)網(wǎng)傳播很廣的故事：

魔王波旬對佛祖說：等你涅槃之后，我會讓我的魔子魔孫混入你的僧團之中，穿上你的袈裟，破壞你的佛法。

佛祖聽了沒有說話，雙目流下了眼淚。因為他知道，這是一個無解的問題。

AI時代，人類的腦力會被替代，重復(fù)的腦力勞動會被優(yōu)化。

但與此同時，人類的判斷力也會越發(fā)重要：這也是數(shù)字時代，我們所能拿起的第一件，也是最后一件武器。