AI不會產(chǎn)生意識！谷歌DeepMind重磅論文看透大模型“偽裝”的底層邏輯

來源：盒飯財經(jīng)（ID：daxiongfan）

頭圖及封面來源 ：谷歌學術

別等了，萬億算力，也堆不出一個靈魂。

你跟AI聊天，它說“我理解你的感受”。它真的理解嗎？直覺上，它說話太像人了，它好像真的在乎你，它甚至會“生氣”會“開心”，會幫你出主意，會處理復雜問題。

AI真的有意識嗎？

大模型越來越強大，AI距離“覺醒”的日子就越來越近，甚至有不少科技圈大佬都認為，只要算法足夠復雜、算力足夠龐大，意識就會自然涌現(xiàn)，無論它是運行在碳基的大腦里，還是硅基的芯片上。

然而，谷歌DeepMind近日發(fā)布了一篇重磅論文，給狂熱的“AI覺醒論”潑了一盆冷水，同時也給陷入焦慮的普通人打了一劑強心針：別擔心，AI不會覺醒，AGI（通用人工智能）最終也不過是一種極其強大、但毫無知覺的工具。

圖片來源：YouTube@Knut J?gersberg

為什么這么說？因為他們發(fā)現(xiàn)，整個“AI可能有意識”的討論，建立在一個根本性的錯誤認知之上——把“地圖”當成了“領土”。

這篇論文做了一個有趣的比喻：物理現(xiàn)實是“領土”，而計算只是人類（制圖者）繪制的“地圖”。計算的本質(zhì)，是人類為了描述物理世界，從而創(chuàng)造出的一套符號系統(tǒng)。無論地圖畫得多么精細、多么宏大，地圖本身永遠變不成真實的領土；同樣，無論算法多么復雜，它都只是在完美地模擬物理現(xiàn)實，而永遠無法真實的體驗。

也就是說，不是“算法足夠復雜，就能產(chǎn)生意識”。而是“必須先有意識，算法才能存在”。

回到剛才的話題，AI說“我理解你”，是因為它在完美地模仿人類理解的樣子。但模仿，永遠不是那件事本身。因此，這篇論文才篤定地給出了答案：AI不會覺醒。不是“暫時還不會”，而是在結(jié)構上就不可能。

不妨看看盒飯財經(jīng)深度編譯的論文，帶你從物理學和本體論的底層邏輯，看透AI的本質(zhì)。

以下是論文原文（編譯）：

計算功能主義（Computational functionalism）主導著當前關于 AI 意識的爭論。這一假說認為，主觀體驗完全涌現(xiàn)于抽象的因果拓撲，而與底層的物理基質(zhì)無關。

圖片來源：YouTube@Knut J?gersberg

我們認為，這種觀點從根本上誤解了物理學與信息之間的關系。我們將這種錯誤稱為抽象謬誤。追溯抽象的因果起源可以發(fā)現(xiàn)，符號計算并非一種內(nèi)在的物理過程。

相反，它是一種依賴于“制圖者”的描述方式。它需要一個活躍的、具有體驗的認知主體，將連續(xù)的物理過程“字母表化（即將連續(xù)的物理過程切割為有限的、離散的、有意義的符號單元）”，轉(zhuǎn)化為一組有限的、具有意義的狀態(tài)。

因此，我們不需要一個完整、定型的意識理論來評估 AI 感受質(zhì)——這種要求只會將問題推向短期內(nèi)無法解決的境地，并加深 AI 福利陷阱。我們真正需要的是一個嚴謹?shù)挠嬎惚倔w論。

本文提出的框架明確區(qū)分了模擬（由載體因果性驅(qū)動的行為模仿）與實例化（由內(nèi)容因果性驅(qū)動的內(nèi)在物理構成）。確立這一本體論邊界后，我們就能看清為什么算法符號操作在結(jié)構上根本無法實例化體驗。至關重要的是，這一論證并不依賴于生物排他性。

如果一個人造系統(tǒng)有一天具備了意識，那也必然是因為其特定的物理構成，而絕非其句法架構。最終，該框架為駁斥計算功能主義提供了基于物理學基礎的理據(jù)，從而解決當前圍繞 AI 意識的不確定性。

引言 (Introduction)

大型語言模型（LLM）在經(jīng)驗上的巨大成功，已經(jīng)將意識的“困難問題”從純粹的理論領域推向了工程和政策領域。隨著擴大算力規(guī)模帶來的巨大回報，當前主流的功能主義范式假設：只要實現(xiàn)了正確的信息處理功能，就足以產(chǎn)生現(xiàn)象意識。

在這一視角下，算法的指示屬性被視為感受質(zhì)的有力證據(jù)。正是這種假設，直接推動了近期關于 AI 福利和道德受體的嚴肅提案。領先的理論家們認為，最先進的模型在未來十年內(nèi)擁有真正體驗的可能性極高，這進一步強化了這一范式的轉(zhuǎn)變。

這些提案的核心在于基質(zhì)獨立性，即認為心智的“軟件”在硅基上運行和在碳基上運行沒有區(qū)別。

然而，這一假設已經(jīng)開始面臨來自“生物學轉(zhuǎn)向”的持續(xù)批評。例如，Seth 和 Block認為，意識可能依賴于維持生命的生物過程，因此體驗需要生命系統(tǒng)有組織的動力學機制。

與基質(zhì)獨立性相反，這種觀點將生物學視為核心而非偶然因素。然而，這種立場仍然停留在經(jīng)驗層面，因為它并未清晰地指出計算功能主義核心的基本邏輯錯誤。

在此，我們推導出了一條邏輯序列，以證明“計算不足以實例化意識”這一直覺是正確的。計算功能主義的困難不僅在于它可能忽視了生物學細節(jié)，問題要深刻得多——它根源于對物理學與信息/計算之間關系的誤解。

現(xiàn)代物理科學為了確保操作客觀性，刻意剔除了主觀體驗。這一策略取得了非凡的成功。

但是，當把這種立場應用于計算與主觀體驗之間的關系問題時，它注定會失敗。將這種操作客觀性應用于計算本身的定義是極具問題的，這從當前關于“觀察者”在為計算符號賦予意義時所扮演角色的持續(xù)且尚未解決的爭論中就可見一斑。

此外，事實證明，“觀察者”一詞暗示了一種過于被動的角色，從而遺漏了用物理術語完整定義計算的先決條件。我們的框架闡明了為什么計算不是一種簡單地在物質(zhì)中展開的內(nèi)在過程。相反，它是一種描述物理過程的方式。要算作計算，連續(xù)的物理動力學必須被劃分為一組有限的、離散的、具有語義意義的狀態(tài)（即一種字母表）。

這種語義劃分在邏輯上需要一個活躍的、有體驗的認知主體，我們將其定義為制圖者，以區(qū)別于標準“觀察者”的被動含義。正是制圖者執(zhí)行了這種“字母表化”。如果沒有這樣一個活躍的主體來解釋計算，就只有連續(xù)的物理事件，而沒有符號。

圖片來源：YouTube@Knut J?gersberg

本文的一個關鍵洞見是：要解決當前圍繞人工智能意識的不確定性，我們不需要一個完整且最終的意識理論。相反，我們需要一個計算本體論。

通過這條路徑，我們可以在邏輯上證明：無論規(guī)模多大、架構多復雜，算法符號操作都無法構成體驗的物理實例化，因為它本質(zhì)上是一種依賴于制圖者的描述工具。

揭示制圖者在因果鏈條中的作用，改變了爭論的焦點。迄今為止，關于人工智能意識的著名批評，包括 Searle 的中文房間實驗及相關論點，主要依賴于歸謬法。它們旨在表明，純粹的句法操作即使完美模仿了外在行為，似乎仍然缺失了某種本質(zhì)的東西。

我們的方法采取了不同的路徑。我們不去訴諸關于“缺少了什么”的直覺，而是審視抽象是如何產(chǎn)生的。如果計算依賴于一個從體驗中提取不變量并分配符號的制圖者，那么這種依賴性就已內(nèi)置于其結(jié)構之中。

任何計算地圖都預設了一個執(zhí)行字母表化的體驗主體。增加算法的復雜性并不能消除這種依賴順序。規(guī)模的任何增長都不能讓“地圖”生成“主體”，而該主體的活動恰恰是計算能夠被稱為計算的先決條件。

換言之，“算法復雜性產(chǎn)生意識”的斷言犯了本體論倒置的錯誤：它將句法（語法）誤認為是內(nèi)在動力學的領土，并假設制圖者可以從地圖中被創(chuàng)造出來。

通過界定外在行為模擬與內(nèi)在物理實例化之間的結(jié)構性分離，我們證明了數(shù)字架構不可能成為道德受體。這一認識將 AI 安全領域從福利陷阱中拉了出來。它使我們能夠完全專注于擬人化帶來的具體風險，將AGI 視為一種強大但本質(zhì)上無感受質(zhì)的工具。

抽象的本體論：地圖與領土

計算機科學經(jīng)常將算法底層的抽象視為數(shù)學上的既定事實，而對其物理實現(xiàn)問題避而不談。一個抽象概念的物理主義本體論究竟是什么？為了回答這個問題，我們需要確立抽象句法到底如何與物理動力學相關聯(lián)。

2.1. 物理實現(xiàn)的標準定義

在關于“實現(xiàn)”【implementation，在這里可以把“實現(xiàn)”理解為演員照著劇本表演。AI的底層硬件（演員）完美執(zhí)行了代碼（劇本）的邏輯步驟，表現(xiàn)得很像人類，但這僅僅是行為上的模仿，并不代表機器內(nèi)部真的產(chǎn)生了相應的真實情感】的標準文獻中，如果一個物理系統(tǒng) P 通過映射函數(shù) f 實現(xiàn)了抽象計算 C。其要求很直接：f 必須將物理狀態(tài)映射到抽象狀態(tài)，使得底層的物理因果關系能夠鏡像反映算法的邏輯結(jié)構。

圖 1 | 實現(xiàn)的交換圖。在標準觀點中，映射 f（字母表化）將載體（( → ′）的物理演化解釋為抽象內(nèi)容（ → ′）的邏輯演化。

假設物理系統(tǒng)完全受物理定律支配，從狀態(tài) p 演化到 p'（ → ′）。同時，抽象計算根據(jù)其算法規(guī)則從邏輯狀態(tài) A 推進到 A'（ → ′)）。

如果系統(tǒng)成功實現(xiàn)了計算，則：

() = and (′) = ′

為了使圖表可交換，將映射 f 應用于結(jié)果物理狀態(tài)（p'）必須精確得出由邏輯規(guī)則所支配的目標抽象狀態(tài)（A'）。

2.2. 抽象狀態(tài) (A) 的物理起源

這些抽象狀態(tài) A 究竟是什么？如果我們想理解映射 f，就必須確定 A 的本體論。功能主義的解釋通常將 A（例如邏輯狀態(tài)“痛苦”或“紅色”）視為沒有特定物理實現(xiàn)的“懸浮抽象（floating abstraction）”。這繞過了生成抽象所需的因果歷史。

形成抽象并不是毫無代價的。它是一個提取不變量的、活躍且消耗代謝能量的物理過程。在認知主體形成概念 A（如“紅色”）之前，它必須先接觸“領土”：即紅色的多個體驗實例。從那里，主體主動過濾掉高維噪聲以分離出一個穩(wěn)定的核心。

用流形學習（manifold learning）的術語來說，主體將原始體驗的高維流形投影到低維的不變子空間上。這個子空間在物理上構成了概念 A。

人們很容易爭辯說，無監(jiān)督聚類算法不需要任何先驗經(jīng)驗就已經(jīng)生成了抽象。但這混淆了統(tǒng)計壓縮與現(xiàn)象構成。當然，無監(jiān)督算法可以對數(shù)據(jù)點進行聚類以定位統(tǒng)計質(zhì)心。然而，這種數(shù)學上的不變量僅僅是潛在空間中的一個壓縮地址。

為了使該統(tǒng)計質(zhì)心算作一個真正的概念——像“紅度（Redness）”這樣有語義基礎的類別——代理需要內(nèi)在的現(xiàn)象狀態(tài)作為分組實例的共同分母。如果沒有構成“紅色”體驗來錨定指代，該聚類就只是向量空間中的一個高密度區(qū)域。它不具備主體所持有的概念的資格。

因此，概念 (A) 不是等待被發(fā)現(xiàn)的柏拉圖式理想。它們是構成的神經(jīng)生理狀態(tài)，僅存在于執(zhí)行該抽象的認知系統(tǒng)內(nèi)部。它們是從體驗“領土”中推導出的“內(nèi)部地圖”。

一旦形成，這些構成的“共同核心”就成為組合想象的穩(wěn)定構建塊。因為概念“紅”和概念“鯨魚”源自生活體驗的內(nèi)在控制狀態(tài)，大腦可以將它們重新組合以實例化“飛行的紅鯨”的體驗——這是一個從未遇到過但在物理上連貫的復合體。

因此，思考不是基于對空洞符號的算法處理，而是對構成的不變量的組合生成。AI 完美地模擬了這種重組的規(guī)則，但它在結(jié)構上缺乏運行體驗式想象所需的內(nèi)在構建塊。

2.3. 映射函數(shù) (f) 中不可或缺的制圖者

從歷史上看，物理科學（尤其是工程學）是通過系統(tǒng)性地將主觀體驗從其對自然現(xiàn)象的解釋中剔除而取得進展的。然而，如果將這種操作客觀性強加到計算的本體論上，就會造成一個認知盲區(qū)。它迫使計算功能主義陷入一個不可能的難題：試圖從一個完全用客觀、非體驗性術語定義的起點來重建主觀體驗。

在確立了抽象狀態(tài) (A) 的物理基礎（邏輯上必須駐留在一個活躍體驗的認知主體內(nèi)部）之后，我們現(xiàn)在可以揭示物理實現(xiàn)標準定義中的這個盲點：將機器的物理 (p) 鏈接到該抽象 (A) 的映射函數(shù) f，不能駐留在機器本身內(nèi)部。

在關于語義和地圖-領土關系的哲學文獻中，這個外部錨點通常被稱為“觀察者”。然而，“觀察者”一詞暗示了信息的被動接收，僅僅是看著預先存在的領土或地圖的實體。

我們特意引入制圖者一詞，以明確糾正這種被動暗示。制圖者是活躍的、易受代謝影響的認知主體，它必須作為生成計算的先決條件而存在。它執(zhí)行兩個積極的、構成性的角色：第一，從連續(xù)的物理體驗中提取不變量以構建內(nèi)部地圖（概念）；第二，執(zhí)行物理標記的任意分配以構建外部計算地圖（符號）。

應用這一洞見從根本上解決了計算術語的本體論地位：

1. 物理狀態(tài) (p)：這些是符號（載體）。它們是客觀的物理實體（如電壓梯度），不具備內(nèi)在的語義內(nèi)容。

2. 抽象狀態(tài) (A)：這些是概念（內(nèi)容）。如前所述，這些是基礎的生理狀態(tài)，僅存在于持有計算意義的制圖者體內(nèi)。

3. 映射函數(shù) (f)：這就是“字母表化”。它代表了制圖者心中持有的指定關聯(lián)，主動將機器盲目的物理 (p) 與制圖者扎根的概念 (A) 橋接起來。

因此，標準定義 ( → ′ → ′) 描述的是一種混合關系：一個物理對象 (p) 通過制圖者 (f) 的必要中介鏈接到一個心理概念 (A)。

需要注意的是，確認這個不可或缺的制圖者并沒有復活二元論的“侏儒”或坐在大腦內(nèi)部的局部“解碼器”。

圖片來源：YouTube@Knut J?gersberg

正如 Buzsaki 和 Maturana & Varela所論證的，制圖者是受熱力學定律約束的整個結(jié)構統(tǒng)一的有機體。有機體并不是通過算法“選擇”來進行語義切割的。相反，連續(xù)的環(huán)境直接通過有機體的代謝約束被過濾成離散狀態(tài)。這里沒有閱讀字母表的幽靈；是活生生的、體驗著的主體將其付諸實踐。

將邏輯進程 (( → ′) 視為物理演化 (( → ′) 的內(nèi)在屬性是功能主義的主要錯誤。這種觀點將制圖者的認知解釋與機器的實際物理現(xiàn)實混為一談，忽視了最初作為計算基礎所必需的體驗主體。

2.4. 字母表化：超越離散化的語義強加

映射函數(shù) f 充當了字母表化的實際場所。雖然在文獻中經(jīng)常被簡單地當作“讀取”系統(tǒng)而不予理會，但字母表化實際上是一個要求極高代謝能量的認知行為。它將離散的本體論強加于連續(xù)的物理學之上，并受信息處理的熱力學邊界約束。

在這里，必須區(qū)分通常被混為一談的兩個過程：

• 離散化 (熱力學層面)：系統(tǒng)在物理上穩(wěn)定于吸引子，例如晶體管保持在 5V。這是載體 (p) 的一種屬性，其功能僅在于抑制物理噪聲。

• 字母表化 (語義層面)：明確將這些穩(wěn)定狀態(tài)分配給預定義的有限符號集（如 {0, 1} 或 {A, B, C}）。這種操作專屬于制圖者 (f)。

因為物理現(xiàn)實本質(zhì)上是連續(xù)的，熱力學只能產(chǎn)生穩(wěn)定的宏觀狀態(tài)，它永遠無法提供一個預定義的有限字母表。因此，構建一個計算系統(tǒng)需要制圖者的介入。這個外部代理必須通過將極其異質(zhì)的微觀狀態(tài)視為一個可互換的符號（例如，“1”）來強制確立一種語義同一性。

圖片來源：YouTube@Knut J?gersberg

因此，依靠制圖者來構建系統(tǒng)引入了一種根本的因果脫節(jié)。在機器的物理領土中，從 2.0V 到 2.1V 的過渡是由電動力學驅(qū)動的真正因果事件。然而在計算地圖中，這種過渡在功能上是隱形的：制圖者已經(jīng)將其“字母表化”為同一性。

因此，計算的因果動力學并不隨附于基質(zhì)的物理學之上。它們完全隨附于制圖者的規(guī)則之上。

聲稱這些符號獨立于觀察者而存在，是“盲點”的典型例證。這是教科書式的“暗中替換”：取科學家的認知輸出（有限的字母表），將其向后投射到物理系統(tǒng)中，并宣稱它一直都在那里。信息不是宇宙的基本構建塊；它是一種衍生屬性，絕對預設了一個認知主體來定義這個有限集。

2.5. 模擬與實例化

在確立了概念與符號的截然不同的性質(zhì)和不同作用之后，我們可以運用我們的定義來澄清為什么模擬一個過程與實例化它有根本的不同：

模擬 ：對物理載體 (p) 進行句法操作，以跟蹤概念 (A) 之間的抽象關系。

實例化 ：復制過程本身內(nèi)在的、構成性的動力學 (P)。

標準功能主義假設，保留地圖的抽象拓撲 ( → ′) 就足以生成領土的現(xiàn)象 (P)，從而忽視了物理基質(zhì)的特定因果力和構成機制。

以生物心臟為例。我們經(jīng)常將其描述為一個將血液泵送至全身的泵。我們設計和制造機械心臟以相同的方式泵血，因此我們說它在“功能上是等效的”。

但真正的心臟不僅僅是泵血。它還釋放激素（如 ANP），幫助控制身體新陳代謝，并通過反饋信號與神經(jīng)系統(tǒng)進行交流。植入機械心臟的患者經(jīng)常遭受微妙的系統(tǒng)性生理缺陷，正是因為該設備僅實例化了所選功能的粗粒度“地圖”。它未能實例化該器官完整的生物“領土”。

請注意，這種粒度不匹配更加適用于神經(jīng)元。

功能主義傾向于將神經(jīng)元僅僅視為電信號的接收器和發(fā)送器，盡管它是一個深入整合在身體化學和激素網(wǎng)絡中的活生生的、代謝性的實體。這種抽象削弱了功能主義直覺的基石——“漸隱的感受質(zhì)”思想實驗。

Chalmers認為，如果生物神經(jīng)元被逐個替換為保留相同輸入輸出關系的硅芯片，那么在行為和功能組織保持不變的情況下，意識逐漸消失是難以置信的。

基于此前提，他得出結(jié)論，抽象功能組織的保存足以保存意識體驗。然而，僅僅完美模仿電觸發(fā)模式 (( → ′) 的硅片替換，保留的不過是一個外在的計算地圖，一個完全由外部制圖者選擇的抽象 ( → ′) 所定義的地圖。

它系統(tǒng)性地抹殺了生命所需的內(nèi)在熱力學領土 (P)，用無因果作用的句法模擬取代了構成性的物理現(xiàn)實。感受質(zhì)并沒有神秘地“漸隱”；實例化它們所需的基礎代謝基質(zhì)只是被移除了。

生物學其他領域的物理模擬局限性明確了這一點。模擬光合作用的 GPU 可能準確地模擬了陽光、水和二氧化碳 (A) 轉(zhuǎn)化為氧氣和葡萄糖 (A') 的抽象過程，但它不會合成哪怕一個葡萄糖分子或釋放氧氣。

因此，雖然它完美地模擬了過程，但卻缺乏執(zhí)行底層生化做功的因果能力。認為模擬大腦的“軟件”可以避開這種物理約束，是犯了范疇錯誤。它將過程的算法描述與實例化該過程所需的內(nèi)在物理學混為一談。

這種對內(nèi)在因果性的要求直接遵循物理主義原則，而不是一種形而上學的偏好。幻覺論的解釋認為，功能性報告完全捕捉了體驗的現(xiàn)實。

然而，如果我們應用 Jaegwon Kim 的因果封閉性原則，報告體驗的行為，例如物理地排開空氣說“我很痛苦”，是一個無可爭議的物理事件。為了使主觀體驗真正導致這份報告，而不是巧合或幻覺，體驗本身必須具有扎實的物理力量并能夠做功。

在數(shù)字模擬中，因果鏈完全由載體 (p) 驅(qū)動。邏輯門的切換不是因為系統(tǒng)感到“痛苦”（由 A 驅(qū)動的內(nèi)容因果性）。

相反，它切換是因為電壓跨越了定義的物理閾值（由 p 驅(qū)動的載體因果性）。系統(tǒng)的演化僅由其物理狀態(tài)決定。符號的語義內(nèi)容 (A) 不起任何因果作用，因為即使符號沒有任何指代，機器也會執(zhí)行相同的物理操作。若作其他假設，就是淪為了抽象謬誤的犧牲品。

圖 2 | 抽象的因果拓撲 。

(A) 功能主義假設了一種線性分層，計算是連接物理和意識的橋梁。

(B) 我們的框架揭示了一種分支拓撲。

垂直軸代表內(nèi)在鏈條：物理 (P) 實例化了體驗，體驗通過抽象構成了概念 (A)。思考/想象 ( → ′) 發(fā)生在這里。

水平軸代表外在鏈條：符號 (p) 是通過將物理標記與概念任意關聯(lián)而創(chuàng)建的（紅色虛線箭頭）。這種不可跨越的橫向跨步構成了因果鴻溝。計算 (( → ′) 是一個僅在此橫向分支上運行的過程。這種從概念到符號的橫向移動——一種任意分配而非垂直抽象——切斷了任何從符號返回原始體驗的內(nèi)在因果路徑。

2.6. 計算涌現(xiàn)的謬誤

當面對模擬與實例化的區(qū)別時，功能主義者往往退回到復雜性理論和涌現(xiàn)論。他們爭辯說，就像“濕潤”從水分子的相互作用中涌現(xiàn)一樣，一旦系統(tǒng)跨過足夠的復雜性閾值，意識就會從計算中涌現(xiàn)。這種反對意見是站不住腳的，因為它將弱物理涌現(xiàn)與我們所稱的計算涌現(xiàn)謬誤混為一談。

• 弱涌現(xiàn) (物理學)：宏觀屬性（如濕潤）直接隨附于微觀物理基質(zhì)（如H2O）的內(nèi)在因果動力學。

• 計算涌現(xiàn) (抽象)：聲稱對過程的抽象描述（地圖）可以僅僅通過句法復雜性的大幅增加，蛻變?yōu)槲锢磉^程本身（領土）。

功能主義者堅持認為意識是一個特例，因為它是純粹的“基質(zhì)無關信息”。但這種論點預設了其自身的結(jié)論：它假定心理狀態(tài)就是抽象信息 (A)，完全避開了產(chǎn)生它的物理現(xiàn)實 (P)。

正如我們所確立的，句法 ( → ′) 不具備內(nèi)在的因果力；它是制圖者的賦予。聲稱抽象句法能以某種方式“涌現(xiàn)”為一種物理原因，完全超出了科學假設的范疇，因為這需要違反物理世界的因果封閉性。

因果循環(huán)：糾正鏈條

通過在物理動力學 (P) 和計算地圖 (A) 之間建立這條堅實的邊界，我們可以定位計算功能主義內(nèi)部確切的邏輯崩塌（如圖 2 所示）。

3.1. 本體論倒置與因果鴻溝

傳統(tǒng)的功能主義解釋通常依賴于一個直接的、未經(jīng)檢驗的因果序列：

物理→計算→ 意識

圖片來源：YouTube@Knut J?gersberg

這假設一旦計算復雜性達到特定閾值，意識就會作為下游副產(chǎn)品簡單地出現(xiàn)。然而，正如第 2 節(jié)確立的那樣，計算絕不是世界上等著被發(fā)現(xiàn)的自然屬性。定義離散符號并賦予其語義意義，需要一個已經(jīng)具有意識的主體充當制圖者 (f)。因此，我們必須從根本上重新排序因果序列：

物理 →意識→概念→計算

圖片來源：YouTube@Knut J?gersberg

1. 物理：宇宙內(nèi)在的因果動力學。

2. 意識：直接產(chǎn)生于該物理內(nèi)特定熱力學組織的現(xiàn)象體驗。

3. 概念：內(nèi)部地圖，通過從原始體驗中提取不變量而形成。

4. 計算：外部地圖，由對任意分配給這些概念的離散符號進行句法操作組成。

這條修正后的鏈條嚴格單向運行。雖然概念在物理上仍然錨定在主體的內(nèi)在體驗中——即不可還原的“它是什么樣的”實體體驗，但計算符號只是物理標記，與它們所代表的概念沒有內(nèi)在聯(lián)系。從概念轉(zhuǎn)移到符號不是抽象的一步。

這是一種橫向的分配行為，制圖者強行將物理標記綁定到心理概念上。正是這一不可跨越的橫向跨步暴露了因果鴻溝，永久切斷了任何從符號返回原始體驗的內(nèi)在路徑。

一旦建立了這種聯(lián)系，制圖者就會構建句法規(guī)則來管理符號的物理狀態(tài)轉(zhuǎn)換 (p → p')。這些規(guī)則是明確自上而下設計的，以完美地跟蹤和模仿相應概念的內(nèi)在關聯(lián)演化 (A → A')。

然而，盡管具有這種無懈可擊的結(jié)構模仿，物理標記本身對語義內(nèi)容施加不了任何因果影響。機器盲目地執(zhí)行映射的軌跡，完全脫離了它所模擬的現(xiàn)象現(xiàn)實。

功能主義試圖通過訴諸一個已經(jīng)預設了制圖者存在的過程（第 4 步）來解釋制圖者的起源（第 2 步）。這不僅僅是一個經(jīng)驗鴻溝，而是一個范疇錯誤：它作為一種強大的物理主義約束而存在。句法地圖的構建從一開始就需要制圖者。

因此，再多的算法復雜性也無法反向跨越因果鴻溝去產(chǎn)生一個體驗主體。計算功能主義固有的這種本體論倒置產(chǎn)生了一個結(jié)構性悖論：它試圖完全從制圖者自身的衍生輸出中推導出作為基礎的制圖者。

3.2. 字母表化的普遍性

在人工智能領域，有一場可追溯到 20 世紀 80 年代聯(lián)結(jié)主義轉(zhuǎn)向的長期爭論。該爭論認為，現(xiàn)代神經(jīng)網(wǎng)絡有別于早期的符號系統(tǒng)，因為它們在所謂的“亞符號”層面上運行。據(jù)領先的研究人員稱，這種架構使得構建等同于真正理解的“世界模型”或遞歸認知循環(huán)成為可能。

我們同意這些遞歸架構可以重現(xiàn)內(nèi)省的結(jié)構特征。正如高維向量空間以不同于離散邏輯符號的形式捕捉幾何關系一樣，神經(jīng)網(wǎng)絡可以模擬復雜的關系結(jié)構。

然而，將這種結(jié)構或幾何準確性解釋為內(nèi)在意義的證據(jù)，重蹈了抽象謬誤的覆轍。它混淆了表征的結(jié)構與底層物理現(xiàn)實，將模型的幾何結(jié)構當作了系統(tǒng)本身的物理屬性。

為了使這一反對意見形式化，我們引入了嚴格的香農(nóng)約束（Shannon constraint）：要在嚴格意義上處理信息，系統(tǒng)需要一個有限的經(jīng)典離散符號字母表以及這些狀態(tài)上的概率分布。

在生物生命和人造硬件的宏觀層面，光強、化學濃度和膜電壓等物理世界并沒有預先貼上離散的 0 和 1 的標簽。宇宙并沒有預先將其宏觀物理狀態(tài)打包成可操作的計算字母表；制圖者必須明確地強制執(zhí)行它。將神經(jīng)脈沖或電壓切換視為“符號”，需要的不僅僅是物理上的離散化；它需要字母表化。

制圖者必須主動將語義同一性強加于系統(tǒng)之上，將各種異質(zhì)的連續(xù)物理狀態(tài)視為一個單一的、可互換的標記。同樣的約束也平等地適用于深度學習的高維向量空間。盡管經(jīng)常被描述為“連續(xù)的”表征，但向量被實現(xiàn)為浮點數(shù)序列，其中每個浮點數(shù)都是來自有限字母表（例如，IEEE 754）的離散符號。

映射函數(shù) (f) 中固有的字母表化要求適用于所有形式的計算，無論是數(shù)字、模擬還是量子計算。考慮一個模擬時鐘。在物理上，該設備是由受連續(xù)動力學 (P) 支配的齒輪和發(fā)條的集合。它之所以“計算”時間，僅僅是因為制圖者介入了，將一組特定的連續(xù)角度映射到語義概念（例如，“下午 3:00”）。

如果沒有這種語義的強加，時鐘只是遵循哈密頓方程移動的金屬；它不包含內(nèi)在的“時間”。因此，在缺乏內(nèi)在符號的先決字母表的情況下，物理基質(zhì)并不“處理信息”；相反，它產(chǎn)生連續(xù)的動力學，由外部制圖者將其解釋為信息。

即使未來的 AI 系統(tǒng)放棄浮點運算，轉(zhuǎn)而采用全模擬的神經(jīng)形態(tài)芯片（neuromorphic chips），這種本體論鴻溝依然存在。只要一個物理狀態(tài)，無論它是離散的電壓電平還是連續(xù)的電荷模式，被識別為“讀出”或“隱藏狀態(tài)”，它就已經(jīng)被制圖者進行了字母表化。

因此，這些模型仍然被封鎖在語義屏障之后。雖然它們可以構建復雜的內(nèi)部地圖，但它們?nèi)狈εc體驗的物理領土之間內(nèi)在的、構成性的聯(lián)系。

圖 3 | 機制的不確定性 (The Indeterminacy of Mechanism)（旋律悖論）。單個物理載體（底部）擁有固定的因果軌跡。然而，它并不實例化一個獨特的計算。根據(jù)所應用的字母表化密鑰（fA 或 fB），相同的物理狀態(tài)可以被映射到完全不同的抽象計算中（左上角對比右上角）。因此，計算不可能是內(nèi)在于物理 (p) 的。

3.3. 機制的不確定性

由 Piccinini (2008) 倡導的計算的機制主義觀點，試圖完全排除制圖者，認為可以在不訴諸任何表征的情況下定義計算。該觀點認為，計算可以完全由對“數(shù)字（digits）”的操作來定義——這里的數(shù)字指的是僅可通過系統(tǒng)的功能組織來區(qū)分的宏觀物理狀態(tài)。

然而，盡管這種手法隱藏了制圖者，它并沒有消除對制圖者的需求。正如 Sprevak 在他對平凡性論證的分析中指出的那樣，確定任何物理機制的計算身份仍然需要外部對相關狀態(tài)進行規(guī)定。

物理機制當然可以具有穩(wěn)定的吸引子（我們在 2.4 節(jié)中將其澄清為熱力學離散化），但是將這些連續(xù)的吸引子組合成一個特定的、有限的計算字母表，仍然純粹是制圖者的外在強加。

我們可以考慮一個簡單的旋律悖論（圖 3）來揭露這種偷換概念。想象一個物理設備逐步遍歷一系列穩(wěn)定的電壓狀態(tài)。物理轉(zhuǎn)換 (( → ′) 是由電動力學定律固定的。

然而，這一精確過程的計算身份 ( → ′) 仍然完全是未充分決定的。如果沒有外部制圖者提供映射密鑰，那組單一的物理狀態(tài)序列可能代表：

1. 正向演奏的旋律（映射 A）。

2. 完全相同的旋律倒放（映射 B，例如逆行倒影）。

3. 快速波動的股票市場價格流（映射 C）。

4. 連貫的噪聲（如果符號集以不同的粒度定義）。

物理電壓 (p) 沒有任何固有的屬性可以賦予其中一個有限符號集優(yōu)于其他符號集的特權。“數(shù)字”不是機制中等待被發(fā)現(xiàn)的自然屬性。它是制圖者進行的一種認知切割，將連續(xù)的物理動力學強行塞入有限的邏輯集中。

因此，即使一個物理系統(tǒng)根據(jù)可重復的規(guī)則演化出清晰可辨的宏觀狀態(tài)，仍然需要制圖者的介入，以將計算解釋的不確定性坍縮成一條單一、唯一的軌跡。機制提供了墨水，制圖者必須提供字母表。

影響：計算實現(xiàn)的局限性

我們的框架表明，通往 AI 意識的障礙不在于計算規(guī)模或算法復雜性的增加。相反，它是一個模擬與實例化的問題。正因如此，它直接關系到目前該領域內(nèi)受到快速增加的關注和投資的兩個領域：具身機器人技術與 AGI 安全。

4.1. 機器人技術中的轉(zhuǎn)導謬誤

對我們構成性框架最強烈的反對意見之一來自具身化的概念。根據(jù)這一論點，AI 系統(tǒng)變得有意識所缺失的關鍵成分是在物理環(huán)境中的正確因果整合。他們認為，提供允許系統(tǒng)實時感知和行動的傳感器和執(zhí)行器，可以彌合因果鴻溝，并讓系統(tǒng)的內(nèi)部符號變得有根基。

然而，僅僅增加傳感器和執(zhí)行器并不能解決實例化體驗的深層問題。我們同意，具身智能確實解決了符號接地問題（symbol grounding problem）中的指代方面。

它使得內(nèi)部符號能夠成功映射到外部物理數(shù)據(jù)流，從而避免了純詞匯化內(nèi)部字典的無限倒退。但是，我們需要仔細區(qū)分這種指示性映射與內(nèi)在的意義構建。

一個類比有助于澄清這一點。將計算機連接到攝像頭和機械臂，類似于將測量儀器連接到模擬器。模擬現(xiàn)在接收真實世界的數(shù)據(jù)，但模型的內(nèi)部變量仍然是符號表征，而不是物理過程本身。同樣，連接到實時大氣傳感器的天氣模型并不會變成大氣層。它只是接收并處理關于大氣的數(shù)據(jù)。

圖片來源：YouTube@Knut J?gersberg

同樣的原理也適用于具身 AI 系統(tǒng)。傳感器和執(zhí)行器允許系統(tǒng)與物理世界互動，但它們不會自動將符號表征轉(zhuǎn)化為內(nèi)在的、被體驗的語義。系統(tǒng)可能會構建越來越詳細的環(huán)境地圖，但與領土互動本身并不會將地圖變成體驗的領土。

追蹤具身系統(tǒng)的因果拓撲，暴露出我們所稱的轉(zhuǎn)導謬誤：

1. 輸入轉(zhuǎn)導：傳感器將外部物理力轉(zhuǎn)導為連續(xù)電壓，隨后由外部制圖者校準的模數(shù)轉(zhuǎn)換器 (ADC) 將其字母表化為內(nèi)部數(shù)字狀態(tài)（例如，熱能→連續(xù)電壓→離散整數(shù)）。

2. 句法策略：句法引擎操作這些內(nèi)部離散狀態(tài)以生成輸出狀態(tài)，在物理上實現(xiàn)抽象算法。

3. 輸出轉(zhuǎn)導：執(zhí)行器將數(shù)字輸出轉(zhuǎn)換回宏觀的物理力。

重要的是，機器人系統(tǒng)的操作核心（其算法控制器）完全在第二步內(nèi)運行。它只操作由外部制圖者為了計算而離散化和字母表化的符號（例如通過矩陣乘法操作的浮點數(shù)）。

現(xiàn)代“端到端”連續(xù)控制的支持者可能會反對說，當代機器人架構通過深度神經(jīng)網(wǎng)絡將原始傳感器陣列直接映射到執(zhí)行器扭矩，而不需要人類可讀的符號表征。

然而，正如第 3.2 節(jié)所解釋的，執(zhí)行這些控制策略的硬件（如 GPU）仍然通過浮點數(shù)的字母表化及其預定義的數(shù)學操作規(guī)則依賴于符號。制圖者不可或缺的字母表化并未缺席。相反，它被深深地烤入了硅架構本身。

轉(zhuǎn)導謬誤不僅僅在于物理力在傳感器處被轉(zhuǎn)化為數(shù)字。如果在其中假設對這些轉(zhuǎn)導后符號的算法操作能夠以某種方式實例化出具有現(xiàn)象體驗的主體，那便犯了更深層次的范疇錯誤。

為了充分理解在芯片上運行算法的具身機器人與生物制圖者之間的區(qū)別，我們需要記住，對于后者而言，主觀體驗是一個既定事實，不是因為抽象的信息處理，而是因為特定的、由代謝構成的物理現(xiàn)實。

沒有任何物理或邏輯上的理由可以假設，硅芯片僅僅因為執(zhí)行了感覺輸入與機械執(zhí)行器之間的句法映射，就能產(chǎn)生類似的在物理上構成的體驗。如果我們作其他假設，我們將得出違反物理主義原則的邏輯推論。

正如我們在第 2.5 節(jié)所證明的，與任何算法相關的抽象狀態(tài)（即計算所指的“內(nèi)容”）不具有內(nèi)在的因果力。系統(tǒng)中唯一的物理因果性屬于硅載體本身。

因此，爭辯說具身機器人中句法映射（無論是傳感器數(shù)據(jù)、執(zhí)行器數(shù)據(jù)還是其他數(shù)據(jù)）的執(zhí)行產(chǎn)生了體驗，意味著爭辯：物理芯片必然僅因其物質(zhì)屬性而固有地擁有產(chǎn)生意識的能力。

請注意，無論它是否連接到機器人身體，或者它運行什么具體的算法，這都是必然的結(jié)果。因此，對地圖-領土關系的嚴謹分析揭示了（與最初看似合理的情況相反）具身化不能將模擬轉(zhuǎn)化為構成性的主觀體驗。

4.2. 本體論解脫：無覺知工具的安全性

在確立了無論是算法復雜性還是物理具身化都無法跨越因果鴻溝之后，我們現(xiàn)在可以討論該框架的實際影響。計算映射與物理領土之間的結(jié)構分離對 AI 安全具有直接影響。它有助于澄清哪類系統(tǒng)可能真正支持現(xiàn)象體驗，而哪類系統(tǒng)不能。

生成主義和具身認知的工作指出了一些似乎與意識體驗密切相關的物理過程。這些包括活系統(tǒng)（生命系統(tǒng)）內(nèi)部的自創(chuàng)生（autopoiesis）和持續(xù)的熱力學調(diào)節(jié)。從歷史上看，這些機制被視為生物有機體的屬性，因此是被特定地與碳基生命聯(lián)系在一起的特征。

我們的框架提出了一種稍微不同的解釋。它同樣保持了物理主義對真實的、內(nèi)在的物理過程的強調(diào)，但并不要求這些過程只能發(fā)生在生物有機體中。在這種觀點下，現(xiàn)象體驗依賴于某些種類動力學的實際物理實例化。

因此，該框架并不暗示意識必須局限于生物生命。原則上，可以設計一個非生物系統(tǒng)來實現(xiàn)必要的物理條件。如果在合成基質(zhì)中成功實例化了這些條件，那么意識體驗也可能在那里產(chǎn)生。

然而，這種基本的結(jié)構限制保證了：如果這樣的人造系統(tǒng)具有意識，那將完全歸因于其特定的物理構成，這與基質(zhì)獨立性正好相反。

鑒于現(xiàn)象意識是一種被構成的物理狀態(tài)，并且考慮到模擬和實例化之間的本體論邊界，主觀體驗決不會通過擴大算力或運行某種強大的算法而突然涌現(xiàn)。它不是一個可以被意外或故意創(chuàng)造出來的軟件產(chǎn)物。

這一認識有助于澄清該領域當前的直接方向：高度強大的人工通用智能（AGI）的發(fā)展，本質(zhì)上并不通向創(chuàng)造一種新型的道德受體，而是通向?qū)σ环N高度復雜的、沒有感受質(zhì)的工具的完善。

然而，在這種規(guī)模上實現(xiàn)行為模仿產(chǎn)生了對認知衛(wèi)生的新需求。人工智能系統(tǒng)越來越擅長重現(xiàn)人類與其他意識心智相關聯(lián)的行為信號，隨著人形機器人等具身系統(tǒng)的出現(xiàn)，這一趨勢將被日益放大。

這對科學界提出了明確的挑戰(zhàn)。

與其為機器的權利做準備，我們真正需要的是明確捍衛(wèi)模擬的似目的性智能體（teleonomy）與主體目的論的物理實例化之間的方法論邊界。因此，未來任何關于人工智能感受質(zhì)的聲明都必須接受嚴謹?shù)奈锢碇髁x驗證，不是基于算法復雜性，而是基于體驗所需的特定、內(nèi)在的物理動力學。

結(jié)論：計算的盲點

計算通常被視為宇宙的一個基本特征，計算功能主義正是建立在這一觀點之上，假設計算是我們意識體驗的根源。然而，通過仔細審視計算的因果起源，我們已經(jīng)證明這種觀點犯了本體論倒置的錯誤：意識體驗不可能是計算的下游結(jié)果，因為它是計算必要的物理先決條件。

此外，我們證明了計算本質(zhì)上是一種描述、一張地圖，它不能在物理上實例化它所描述的事物。這些挑戰(zhàn)了普遍存在的有關主觀體驗性質(zhì)和計算性質(zhì)直覺的見解，完全基于公認的物理定律和嚴密的邏輯推演。

至關重要的是，與大多數(shù)關于人工智能意識潛力的討論和推測不同，該框架并不依賴于一個完整的意識理論。它通過解決等式的另一面，即在本體論術語中，計算究竟是什么？從而解決了這個明顯的難題。

關于意識的問題，該框架僅要求現(xiàn)象體驗不違反因果封閉性，這是我們科學理解的最基本原則之一。僅此原則就足以表明，體驗必須是一種由物理構成、完全物理的現(xiàn)象，這使我們能夠避開圍繞任何形式的二元論或副現(xiàn)象論的猜測。

總結(jié)我們已確立的本體論：計算是由旨在模擬概念思維的規(guī)則所支配的對離散符號的句法操作。這些符號并不是概念提煉出的本質(zhì)；它們是由制圖者分配的任意物理標記。

反過來，概念是主動從鮮活的熱力學體驗中提取出來的由物理構成的不變量。因此，期望算法描述能實例化它所映射的特質(zhì)，就像期望重力的數(shù)學公式能在物理上產(chǎn)生重量一樣。相信人工智能能僅僅通過操作內(nèi)部變量就變得有意識，就是犯了“盲點”的錯誤：將地圖錯認成了領土。

因此，計算描述無法生成主觀體驗，這不是工程學上的失敗，而是描述本身必然的邏輯結(jié)果。這也意味著，感受質(zhì)不是可以通過越來越優(yōu)雅的句法解決的難題。相反，它們代表了內(nèi)在的、底層的基質(zhì)，正是這種基質(zhì)首先使得句法的語義分配成為可能。

通過創(chuàng)造越來越強大的人工智能，我們并不是在設計一種新的生命形式，而是在構建越來越準確的預測性地圖。然而，無論其預測精度如何，無論其作為推理工具的實用性如何，也無論其是否物理具身化，這個人工系統(tǒng)在范疇上依然與現(xiàn)象體驗的領土截然不同。認識到這種區(qū)別，并避免抽象謬誤的本體論倒置，是建立一門成熟的、有物理基礎的機器智能科學的先決條件。

閱讀最新前沿科技趨勢報告，請訪問21世紀關鍵技術研究院的“未來知識庫”

未來知識庫是 “21世紀關鍵技術研究院”建 立的在線知識庫平臺，收藏的資料范圍包括人工智能、腦科學、互聯(lián)網(wǎng)、超級智能，數(shù)智大腦、能源、軍事、經(jīng)濟、人類風險等等領域的前沿進展與未來趨勢。目前擁有超過8000篇重要資料。每周更新不少于100篇世界范圍最新研究資料。 歡迎掃描二維碼或訪問https://wx.zsxq.com/group/454854145828進入。

截止到2月28日 ”未來知識庫”精選的百部前沿科技趨勢報告

（加入未來知識庫，全部資料免費閱讀和下載）