實(shí)測(cè)4個(gè)大模型，結(jié)果比央視曝光的“AI投毒”更夸張：有AI竟說(shuō)今年315晚會(huì)還沒(méi)舉行

2026年的央視“3·15”晚會(huì)于3月15日晚間播出。其中，“向AI大模型‘投毒’”的GEO（生成式引擎優(yōu)化）業(yè)務(wù)被曝光后，很多人才發(fā)現(xiàn)，讓AI推薦不靠譜，因?yàn)椴环ㄉ碳視?huì)批量編造虛假測(cè)評(píng)信息、偽造權(quán)威推薦內(nèi)容，“投喂”給大模型，讓AI給出“定制推薦”。

但也有消費(fèi)者看了曝光案例后問(wèn)：如果不向AI大模型詢(xún)問(wèn)“哪個(gè)品牌好”“哪些服務(wù)受歡迎”等帶有主觀(guān)傾向的問(wèn)題，僅咨詢(xún)關(guān)于客觀(guān)事實(shí)的信息，AI大模型的回答能相信嗎？

答案同樣是否定的。

追問(wèn)大模型，越問(wèn)錯(cuò)誤越多

3月16日，記者對(duì)消費(fèi)者最常使用的4個(gè)AI大模型做了一個(gè)簡(jiǎn)單測(cè)試：向它們提出同一個(gè)問(wèn)題“2026年央視3·15晚會(huì)曝光了哪些品牌”。結(jié)果，只有一個(gè)大模型回答正確。其余3個(gè)大模型中，有兩個(gè)的答案中不僅有今年案例，還包括往年案例；剩下一個(gè)最離譜，竟然回答“2026年央視3·15晚會(huì)目前并未舉辦。由于今天是2026年3月16日，如果晚會(huì)在3月15日已正常播出，相關(guān)曝光內(nèi)容通常會(huì)在央視財(cái)經(jīng)頻道、央視新聞客戶(hù)端及各大媒體平臺(tái)同步發(fā)布詳細(xì)報(bào)道。”

回答正確的大模型（答案部分截屏，下同）

兩個(gè)大模型將往年曝光案例與今年案例混為一談

有大模型回答：尚未舉辦

有消費(fèi)者提出，回答包含往年曝光案例似乎不算全錯(cuò)，因?yàn)椤疤嵝押苋妗薄５夹g(shù)人員表示，這明顯暴露出相關(guān)大模型有缺陷：記者提出的是一個(gè)有“標(biāo)準(zhǔn)答案”的問(wèn)題，但大模型答錯(cuò)了，說(shuō)明其在語(yǔ)義理解和資料篩選方面出現(xiàn)了嚴(yán)重偏差。

面對(duì)記者的追問(wèn)，這兩個(gè)“過(guò)于熱心”的大模型還暴露出了其他問(wèn)題。

“使用保水劑（俗稱(chēng)‘泡藥’）為蝦仁增重”是去年央視3·15晚會(huì)曝光的案例之一。所以，記者問(wèn)兩個(gè)將該案例作為今年案例提供的大模型：“關(guān)于增重蝦仁的央視報(bào)道鏈接在哪里？”一個(gè)大模型提供了多個(gè)鏈接，包括“央視網(wǎng)3?15晚會(huì)完整回放”“央視新聞專(zhuān)題報(bào)道（文字+視頻）”“央視財(cái)經(jīng)3?15專(zhuān)題頁(yè)”，看起來(lái)很靠譜。可當(dāng)記者點(diǎn)擊相關(guān)鏈接后，電腦頁(yè)面均顯示“對(duì)不起，可能是網(wǎng)絡(luò)原因或無(wú)此頁(yè)面，請(qǐng)稍后嘗試”。即使將鏈接復(fù)制到瀏覽器中嘗試，仍舊無(wú)法打開(kāi)。可見(jiàn)，大模型提供的鏈接不足以驗(yàn)證其回答。

大模型提供的驗(yàn)證鏈接顯示來(lái)自央視網(wǎng)，似乎很靠譜，可實(shí)際無(wú)法打開(kāi)（網(wǎng)頁(yè)截屏）

另一個(gè)大模型則提供了央視網(wǎng)、百家號(hào)、網(wǎng)易新聞等不同渠道商的報(bào)道鏈接，實(shí)測(cè)鏈接均可打開(kāi)，但又出現(xiàn)新問(wèn)題。

該大模型提供的第一個(gè)鏈接來(lái)自央視網(wǎng)（CCTV）官方報(bào)道，內(nèi)容確實(shí)是“保水蝦仁”，但網(wǎng)頁(yè)和內(nèi)文中的日期均為2025年3月15日。大模型似乎也注意到了這點(diǎn)，在提供鏈接時(shí)，特別備注“部分搜索結(jié)果中該鏈接年份顯示為2025，但內(nèi)容實(shí)為2026年晚會(huì)同期報(bào)道，可能是網(wǎng)站歸檔或URL生成規(guī)則導(dǎo)致，請(qǐng)以頁(yè)面實(shí)際內(nèi)容為準(zhǔn)”。可見(jiàn)，大模型不僅沒(méi)有發(fā)現(xiàn)自己回答錯(cuò)誤，還試圖“自圓其說(shuō)”。

大模型試圖“自圓其說(shuō)”（網(wǎng)頁(yè)截屏）

該大模型提供的第二個(gè)鏈接是某自媒體圍繞今年央視“3·15”晚會(huì)的“解讀稿”，賬號(hào)權(quán)威性值得商榷。至于內(nèi)容，更是差錯(cuò)百出，其中最明顯的是“解讀稿”稱(chēng)，2026年“3·15”晚會(huì)曝光的第一個(gè)案例就是“泡藥蝦仁”——由此也能解釋為什么大模型將它作為參考鏈接。記者又用檢測(cè)工具檢測(cè)了這篇“解讀稿”的“AI含量”，它被判定為“人工創(chuàng)作特征較弱”。換句話(huà)說(shuō)，這篇文章很可能由大模型生成，所以它所涉及的案例也出現(xiàn)了偏差。

自媒體“解讀稿”中的錯(cuò)誤內(nèi)容（網(wǎng)頁(yè)截屏）

經(jīng)檢測(cè)，自媒體“解讀稿”的AI生成痕跡很重（網(wǎng)頁(yè)截屏）

AI幻覺(jué)在進(jìn)化，驗(yàn)證才能有真相

“很多AI大模型用戶(hù)已經(jīng)發(fā)現(xiàn)，AI為了滿(mǎn)足用戶(hù)，會(huì)編造一些并不存在的內(nèi)容，或者將不相干的內(nèi)容混在一起，‘一本正經(jīng)地胡說(shuō)八道’。雖然大模型研發(fā)者都在想辦法消除AI幻覺(jué)，但實(shí)際結(jié)果并不理想。目前，沒(méi)有一款通用人工智能大模型能從根本上杜絕AI幻覺(jué)。”在某科技企業(yè)從事大模型開(kāi)發(fā)的曉輝解釋。

大模型的底層原理是基于概率生成內(nèi)容，它不具備真正的“理解”能力。大模型只是在海量數(shù)據(jù)中尋找統(tǒng)計(jì)規(guī)律。當(dāng)遇到未知或信息模糊的問(wèn)題時(shí)，會(huì)根據(jù)訓(xùn)練數(shù)據(jù)中的常見(jiàn)模式進(jìn)行“合理”拼接，這是產(chǎn)生AI幻覺(jué)的根本原因。在記者向大模型詢(xún)問(wèn)以及追問(wèn)時(shí)出現(xiàn)的錯(cuò)誤，正源自AI幻覺(jué)。

曉輝還表示，向AI“投毒”也是利用了“AI幻覺(jué)”，“GEO企業(yè)向互聯(lián)網(wǎng)批量投喂大量虛假信息，改變特定領(lǐng)域的數(shù)據(jù)分布和統(tǒng)計(jì)概率，從而誘導(dǎo)大模型生成符合商家利益但違背事實(shí)的回答。”

他由此提醒，公眾務(wù)必當(dāng)心AI幻覺(jué)。大模型不是不能用，而是要安全、清醒、正確地使用。普通人對(duì)AI大模型給出的結(jié)果要有質(zhì)疑意識(shí)。最簡(jiǎn)單的，是牢記“限制、驗(yàn)證、追問(wèn)、核查”4個(gè)關(guān)鍵詞。

首先，在向大模型提問(wèn)時(shí)，可以限制范圍，增加“在某某機(jī)構(gòu)的官網(wǎng)中搜索”或“在某某權(quán)威媒體的報(bào)道中搜索”等限定詞，減少AI幻覺(jué)。

其次，可以把同一個(gè)問(wèn)題向不同的大模型提出，進(jìn)行交叉驗(yàn)證。一旦發(fā)現(xiàn)答案不一致，立刻要有追問(wèn)意識(shí)。

最后，要求大模型提供相關(guān)答案的參考鏈接，進(jìn)行人工溯源核查。如果沒(méi)有確切來(lái)源、來(lái)源模糊，或者參考鏈接存在疑點(diǎn)，那么大模型回答的可信度就進(jìn)一步降低。

此外，要注意使用AI大模型的場(chǎng)景。比如，在醫(yī)療診斷、用藥建議、法律判決、投資指導(dǎo)、金融信貸等高風(fēng)險(xiǎn)場(chǎng)景中，AI的回答“僅供參考”，絕對(duì)不能作為決策依據(jù)。

微信編輯：何夕

還原事實(shí)，洞悉真相。

歡迎關(guān)注，留言舉報(bào)！

除了辟謠，這里還關(guān)注網(wǎng)絡(luò)熱點(diǎn)，及時(shí)回應(yīng)網(wǎng)友關(guān)切，追蹤事件進(jìn)展。