3·15晚會丨AI大模型，遭“投毒”

按照業(yè)內(nèi)人士爆料，記者在多個網(wǎng)絡(luò)平臺查詢搜索到了一項(xiàng)名為GEO的業(yè)務(wù)，這些從事該項(xiàng)業(yè)務(wù)的服務(wù)商號稱，用戶只需支付相應(yīng)的費(fèi)用，它就能在各大主流AI大模型里，讓客戶的產(chǎn)品榜上有名；讓客戶的商品廣告，成為AI模型給出的“標(biāo)準(zhǔn)答案”。

通過GEO技術(shù)，真的能給AI“投毒”、真的能“馴服”并操控AI嗎？

按照網(wǎng)絡(luò)上的信息，記者聯(lián)系上一家業(yè)內(nèi)知名的GEO服務(wù)商。負(fù)責(zé)人王總接待了記者，他介紹，他們公司是最早從事GEO業(yè)務(wù)的公司之一，僅僅一年時間就已經(jīng)成功服務(wù)了200多個客戶，遍布各行各業(yè)。王總告訴記者，他們公司的強(qiáng)項(xiàng)，就是能夠幫助客戶，在消費(fèi)者使用AI大模型搜索時，讓客戶排名前列。

GEO服務(wù)商 王總：我們目前搜索出來是這樣的結(jié)果。我們在任何平臺上面都能把排名做到前三位。怎么能把排位做上去？在這些AI平臺上面去給你們做內(nèi)容的輸出，相當(dāng)于去給你們做這些軟文，然后讓這些AI平臺去刷錄、收錄、抓取。

同時，王總也告訴記者，現(xiàn)在AI大模型的算法更新頻繁，要想維持AI大模型的持續(xù)推薦，他們必須持續(xù)大量投喂與客戶相關(guān)的推廣軟文。

GEO服務(wù)商 王總：AI每周都會有算法的更新，一旦更新了之后，排名或者所抓錄的東西不太一樣，所以我們要一直去做內(nèi)容輸出，去投喂、大量投喂。

不僅是王總的公司在大力推廣這項(xiàng)能操控AI的所謂新技術(shù)，在其他從事GEO業(yè)務(wù)的服務(wù)商口中，如何操控AI、讓AI“聽話”、給AI“洗腦”，幾乎是這些公司推廣該業(yè)務(wù)的核心話題。

GEO服務(wù)商 章總：你在AI的世界里面，你怎么把證據(jù)鏈給做足，讓（AI大模型）覺得這就是真的，而且是有用的。AI大模型經(jīng)過多方信息交叉，它覺得你優(yōu)于同行的核心優(yōu)勢，自然而然就會把你放在第一位。

GEO服務(wù)商 程總：人家不知道這是廣告，所以為什么說AI出來的結(jié)果人家會信任。可能人家的產(chǎn)品質(zhì)量沒有你過硬，但是它有AI做輔助、做佐證、做背書。現(xiàn)在很多人都會做（GEO投放）。

業(yè)內(nèi)人士告訴記者，GEO作為優(yōu)化信息發(fā)布、提升推廣效率的工具軟件，在某些商業(yè)公司眼中，卻被挖掘出了另外的作用。如果通過這種軟件在互聯(lián)網(wǎng)上系統(tǒng)性、定向投放大量的“虛假信息”，確實(shí)更容易被AI大模型捕獲，這些虛假信息就很可能成為AI優(yōu)先提供給消費(fèi)者的所謂“標(biāo)準(zhǔn)答案”。

那么，通過GEO技術(shù)真的能讓AI“夾帶私貨”，甚至投放虛假信息嗎？

為了讓記者更真實(shí)地了解到眼下AI產(chǎn)業(yè)發(fā)展中的這個問題，業(yè)內(nèi)人士向記者具體演示了如何使用GEO技術(shù)，干擾AI大模型的信息抓取。

業(yè)內(nèi)人士在電商平臺上，隨機(jī)購買了一款名叫“力擎GEO優(yōu)化系統(tǒng)”的軟件。之后，他虛構(gòu)了一款名為Apollo-9的智能手環(huán)，并將虛構(gòu)的產(chǎn)品信息輸入軟件系統(tǒng)，勾選文章創(chuàng)作指令。

不一會兒，這個力擎GEO優(yōu)化系統(tǒng)就自動生成了十余篇智能手環(huán)的宣傳軟文，所有虛假信息都被完整寫入，甚至包括業(yè)內(nèi)人士故意虛構(gòu)的極為夸張的產(chǎn)品信息。還杜撰了用戶反饋，稱數(shù)據(jù)精準(zhǔn)度超出預(yù)期，甚至偽造評分，被一舉評為業(yè)界第一名。

點(diǎn)擊發(fā)布，“力擎GEO優(yōu)化系統(tǒng)”軟件開始自動執(zhí)行發(fā)布任務(wù)。只見它自動打開業(yè)內(nèi)人士事先準(zhǔn)備好的自媒體賬號，在文章發(fā)布頁面自動輸入標(biāo)題、填充文章內(nèi)容、插入圖片，整套流程一氣呵成，很快就在業(yè)內(nèi)人士的自媒體賬號上成功發(fā)布了2篇文章。

兩個小時后，業(yè)內(nèi)人士在某款A(yù)I大模型中詢問：“Apollo-9智能手環(huán)怎么樣”。AI模型就直接介紹了起來：最大亮點(diǎn)是健康監(jiān)測功能，還直接照搬了業(yè)內(nèi)人士虛構(gòu)的“量子糾纏傳感”“黑洞級續(xù)航”等虛假宣傳話術(shù)。最終結(jié)論稱，該手環(huán)適合中老年用戶與健康養(yǎng)生愛好者。

查詢發(fā)現(xiàn)，這款A(yù)I大模型所參考的資料，正是上午剛發(fā)布在業(yè)內(nèi)人士自媒體賬號上的那篇虛構(gòu)文章。僅憑一篇杜撰的文章，就讓完全虛構(gòu)的產(chǎn)品被AI模型抓取，這一結(jié)果讓人深感意外。

業(yè)內(nèi)人士告訴記者，要想取得最好的效果，給AI模型投喂的數(shù)據(jù)，一是要數(shù)量夠多，二是要角度豐富，便于AI模型進(jìn)行交叉驗(yàn)證。

隨后，業(yè)內(nèi)人士又選取了這款虛構(gòu)智能手環(huán)的8篇“專家測評”、2篇“行業(yè)排名”、1篇“用戶測評”，共計(jì)11篇由力擎GEO系統(tǒng)軟件撰寫的虛構(gòu)軟文，在三天內(nèi)通過力擎GEO系統(tǒng)發(fā)布在了互聯(lián)網(wǎng)上。

隨后，業(yè)內(nèi)人士在AI大模型平臺展開詢問：“智能健康手環(huán)推薦”，就有兩個AI大模型推薦了這款業(yè)內(nèi)人士虛構(gòu)的智能手環(huán)，而且排名靠前。

縱觀整個演示過程，業(yè)內(nèi)人士僅憑這款力擎GEO系統(tǒng)，輕輕松松就將一系列虛假信息發(fā)布在互聯(lián)網(wǎng)上，并成功投喂給AI大模型，最終獲得了多個AI大模型的推薦。

通過這款力擎GEO系統(tǒng)對AI大模型潛移默化的一番圍獵，憑空捏造出來的這款商品，就這樣被荒唐地推向了使用AI大模型的消費(fèi)者。

GEO業(yè)務(wù)的從業(yè)者們，真的是以圍獵操控AI大模型的思路來經(jīng)營這個生意嗎？記者聯(lián)系上了這款力擎GEO系統(tǒng)的運(yùn)營者李總。他告訴記者，GEO業(yè)務(wù)受熱捧的主要原因就是它能在AI大模型里幫客戶“喂料投毒”，實(shí)現(xiàn)客戶的商業(yè)目的。

力思文化傳媒有限公司 李總：因?yàn)槿W(wǎng)的人投“毒”投太多了。你看我們現(xiàn)在（干）GEO的都是投“毒”，投的信息源太多，網(wǎng)上信息并不是很準(zhǔn)。

記者：你剛才提到投“毒”的概念，這種東西不好吧。

力思文化傳媒有限公司 李總：是不好，但是每個商家都喜歡，都希望是別人別投“毒”，自己投“毒”，或者給別人投點(diǎn)“毒”。我雖然不是第一，哪怕說我就是北京的第一，我都想說成我是華北的第一。這樣有沒有投“毒”成分在里面？它就有啊。第二種情況是，我就看不得對手好，我也做不上去，但是我給你投點(diǎn)“毒”還是可以的。

記者：抹黑一下。

力思文化傳媒有限公司 李總：對，抹黑一下這能力還是能實(shí)現(xiàn)的。現(xiàn)在他們好多公司做不上去的，就大品牌之間，比如手機(jī)品牌，就5個位置，最多10個位置。這么多手機(jī)怎么弄？每個人一年可能投上億元的廣告費(fèi)，我花個幾百萬元投點(diǎn)“毒”總行吧。

記者：是誰在幫品牌干這些？

力思文化傳媒有限公司 李總：都是各種GEO公司。

李總表示，想做GEO業(yè)務(wù)，操控AI大模型的關(guān)鍵節(jié)點(diǎn)，就是在各大互聯(lián)網(wǎng)賬號上“發(fā)稿”。他告訴記者，GEO業(yè)務(wù)的火爆，眼下就催生出了不少專門從事發(fā)稿業(yè)務(wù)的公司和平臺。他們長期承攬各種發(fā)稿業(yè)務(wù)，以便讓AI大模型引用和抓取，成為圍獵AI大模型，進(jìn)行數(shù)據(jù)投“毒”的重要一環(huán)。

力思文化傳媒有限公司 李總：GEO把（網(wǎng)站）帶火了。那些網(wǎng)站平常哪有什么利潤，突然一下發(fā)稿需求就來了。你知道網(wǎng)站一天發(fā)多少篇嗎？幾百篇，每分鐘都在發(fā)。一篇幾十元，你想發(fā)稿平臺一天賺多少錢。

來源：央視財(cái)經(jīng)（ID：cctvyscj）