死寂的互聯(lián)網(wǎng)——AI正在為你打造專屬虛假網(wǎng)絡(luò)

生成式AI如何助推“互聯(lián)網(wǎng)已死論”，引發(fā)真實性危機(jī)，以及為什么AI檢測工具無法拯救我們。

作者：ToxSec2025年10月28日

AI正在加速“互聯(lián)網(wǎng)已死”理論的出現(xiàn)。

簡而言之：你在網(wǎng)上感受到的那種詭異感是真實的?；ヂ?lián)網(wǎng)上充斥著大量AI生成內(nèi)容，它們模仿人類的能力遠(yuǎn)勝于我們識別它們的能力。真實性已然終結(jié)。我會向你解釋為什么我們在這場戰(zhàn)斗中已經(jīng)節(jié)節(jié)敗退。

• 我們已經(jīng)從‘垃圾信息時代’邁入了‘模擬造假時代’。

“恐怖谷效應(yīng)” 籠罩整個互聯(lián)網(wǎng)

坦白說，你肯定也有過這種感受：刷網(wǎng)頁時突然覺得不對勁。讀產(chǎn)品評論，某條寫得過于完美，精準(zhǔn)踩中所有營銷關(guān)鍵詞，熱情得不像真人；看評論區(qū)，某條回復(fù)千篇一律，毫無靈魂，仿佛是用一堆 “安全話術(shù)” 拼湊而成。語法無可挑剔，卻少了人類該有的靈氣。

多年來，我們都把這些情況歸為普通垃圾信息。但這種詭異感越來越頻繁，而且虛假內(nèi)容不再粗糙。曾經(jīng)零星的偽造信息如今已泛濫成災(zāi)，AI生成的內(nèi)容鋪天蓋地而來。我們正飛速從 “人類為人類打造的互聯(lián)網(wǎng)”，轉(zhuǎn)向 “機(jī)器為人類打造的互聯(lián)網(wǎng)”—— 而這些機(jī)器的 “工作能力” 已經(jīng)可怕到令人心驚。

這絕非 “更高級的垃圾信息” 那么簡單。我們正在親眼見證一個個性化、合成化的虛擬世界誕生。

“互聯(lián)網(wǎng)已死理論”迎來重大升級

為了把握未來的發(fā)展方向，我們必須回顧一下“互聯(lián)網(wǎng)已死論”。這個理論最初在網(wǎng)絡(luò)論壇上興起，是一種聽起來頗為可信的陰謀論。其核心觀點是，互聯(lián)網(wǎng)早已空洞無物，大量的網(wǎng)絡(luò)活動都是由機(jī)器人偽造的，目的是為了操縱搜索算法和廣告收入。當(dāng)時，大多數(shù)人將其視為科技界的妄想癥。

嗯，這種擔(dān)憂現(xiàn)在看來頗具先見之明，因為這些機(jī)器人剛剛通過大型語言模型（LLM）進(jìn)行了重大升級。過去簡單的腳本已被生成式人工智能所取代。這種變化令人震驚。如果說舊機(jī)器人是提線木偶，那么現(xiàn)代AI就是一支充滿創(chuàng)造力的智能體大軍，能夠以驚人的規(guī)模構(gòu)思出獨特、貼合語境、酷似人類的合成內(nèi)容。

這項技術(shù)飛躍徹底改變了游戲規(guī)則。新一代AI的目標(biāo)是更高層次的博弈：模擬文化本身。其目標(biāo)不再是偽造一條評論，而是制造一種廣泛的社會共識感。

歡迎來到你的專屬虛假互聯(lián)網(wǎng)

真正的危險不在于互聯(lián)網(wǎng)充斥著虛假內(nèi)容，而在于這些內(nèi)容是 “為你量身定制” 的。我們面臨的不是一個統(tǒng)一的虛假互聯(lián)網(wǎng)，而是數(shù)百萬個個性化的AI虛擬世界。這便是終極的AI回音室，一個完美的現(xiàn)實氣泡，你可能根本意識不到自己是唯一的 “居民”。

想象一下，一個搜索引擎能夠即時生成文章，完美地印證它認(rèn)為你已經(jīng)相信的事情。再想象一下，社交媒體上的所有評論都來自AI生成的、旨在與你觀點一致的賬號。這就是在個人層面上制造認(rèn)同的方式。當(dāng)你看到的每篇文章、每條評論都支持你的世界觀時，它就不再是 “觀點”，而會變成你眼中的 “客觀事實”。

最大的犧牲品是 “偶然性”—— 那種偶遇新想法、接觸反對意見的魔力?；ヂ?lián)網(wǎng)曾是混亂卻真實的公共廣場，而AI定制的現(xiàn)實里沒有 “意外之喜”。它是一個干凈的空間，通過消除認(rèn)知失調(diào)讓你保持沉浸，卻也為定向AI虛假信息鋪平了道路。

AI檢測領(lǐng)域的軍備競賽已經(jīng)輸了

所有人都會問：“我們不能開發(fā)AI內(nèi)容檢測工具嗎？” 想法很好，但我們正陷入一場注定要輸?shù)寞偪褴妭涓傎?—— 生成器永遠(yuǎn)占據(jù)上風(fēng)。

檢測工具的工作原理是識別AI模型留下的細(xì)微統(tǒng)計“痕跡”。但是，我們每開發(fā)出一個智能檢測器，就會有更智能的人工智能被訓(xùn)練來隱藏這些痕跡。這是一場永無止境的貓鼠游戲，老鼠會根據(jù)貓的最后舉動重新設(shè)計自己。像“加水印”這樣的解決方案非常脆弱；不法分子只需使用沒有水印功能的模型即可。

當(dāng)技術(shù)之爭注定失敗時，其后果便是社會層面的。我們正步入一個充滿根深蒂固的不信任的時代。歡迎來到“真實性危機(jī)”的世界，在這個時代，你必須假定一切都是假的，直到被證明是真的。這迫使我們所有人背負(fù)沉重的“現(xiàn)實稅”，導(dǎo)致集體倦怠和憤世嫉俗，最終使數(shù)字信任徹底瓦解。

唯一出路：回歸更具人性的互聯(lián)網(wǎng)

我們已經(jīng)從最初在網(wǎng)絡(luò)上看到機(jī)器人時的那種怪異感覺，發(fā)展到理解它對我們未來的真正意義。“互聯(lián)網(wǎng)已死”理論不再是陰謀論，而是對當(dāng)下正在發(fā)生的事情的預(yù)測。這不是遙遠(yuǎn)的反烏托邦，而是已經(jīng)到來的真實性危機(jī)。

那么，我們該怎么辦？出路必然是 “更具人性”。答案并非某種神奇的檢測工具，而是我們數(shù)字素養(yǎng)的全面提升。我們不能只問“這是真的嗎？”，而是“我為什么會看到這些？”健康的批判性思維才是我們最好的防御。

或許，真正互聯(lián)網(wǎng)的未來在于人們有意識地選擇花時間在規(guī)模較小、信任度高的“數(shù)字花園”，比如小眾論壇、私人群組，在這些地方，聲譽(yù)和真實互動至關(guān)重要。我們或許需要重新學(xué)習(xí)如何構(gòu)建社群，確保我們確信屏幕另一端的人是真實的。

這就引出了最重要的問題：隨著我們的世界充斥著完美定制的合成內(nèi)容，我們該如何在網(wǎng)上證明自己是“真人”？

常見問題解答

AI生成的內(nèi)容如今在網(wǎng)絡(luò)上有多普及？它已經(jīng)存在，并且正在呈指數(shù)級增長。我們今天就能看到各種復(fù)雜的AI評論、文章和產(chǎn)品評價。雖然并非所有用戶都完全處于模擬環(huán)境中，但這些工具的部署速度已經(jīng)遠(yuǎn)遠(yuǎn)超出了我們的預(yù)期。趨勢顯而易見，而我們正處于增長曲線的陡峭階段。

AI回音室和信息繭房有什么區(qū)別？信息繭房是被動的：算法會向你推送你可能認(rèn)同的真實用戶的內(nèi)容。AI回音室則是主動的：它會從零開始為你生成全新的合成內(nèi)容和虛假“人物”。這就好比“精選播放列表”和“為你量身創(chuàng)作的歌曲”之間的區(qū)別。

如何保護(hù)自己免受AI驅(qū)動的虛假信息侵害？答案在于轉(zhuǎn)變思維方式。成為一名有意識的信息消費者，并培養(yǎng)良好的數(shù)字素養(yǎng)。積極尋找規(guī)模較小但值得信賴的社群。直接支持人類創(chuàng)作者。最重要的是，保持健康的懷疑態(tài)度，對信息流中的所有內(nèi)容都問問自己“我為什么會看到這些？”

監(jiān)管能解決AI合成內(nèi)容的問題嗎？監(jiān)管可能會發(fā)揮作用（比如強(qiáng)制加水?。?，但這與言論自由之間存在微妙的平衡，而且技術(shù)發(fā)展總是遠(yuǎn)超立法速度。法律雖然有所幫助，但并非萬能靈藥。核心防御始終在于擁有批判性思維和受過良好教育的用戶群體。

本文編譯自substack，原文作者ToxSec

https://substack.com/@toxsec/p-176417949