基辛格遺作中對人類的根本憂思, 正變成現(xiàn)實？

基辛格：當(dāng)AI開始定義人類：

我們?nèi)绾问刈o自身價值？

對于國人來說，在deepseek出現(xiàn)之前，人工智能似乎從未這么親切過。

當(dāng)今世界，尖端科技、前沿技術(shù)似乎只存在于實驗室和研究所中，而還在發(fā)展階段的人工智能卻以驚人的速度完成了從象牙塔到“飛入尋常百姓家”的突圍。短短幾個月時間，deepseek似乎已經(jīng)全方面滲透進我們的生活。

機器正變得越來越聰明，甚至開始具備“思考”和“決策”的能力。算命、編程、寫ppt和方案......人們拿著五花八門的問題去詢問DeepSeek，但其中最引人深思也最令人震撼的回答來自這個提問——DeepSeek如果是一名人類，最想做什么？

嗯，用戶問如果我是人類，最想做什么。這個問題看起來簡單，但其實需要深入思考。首先，我得理解用戶為什么這么問。可能他們好奇AI有沒有人類的欲望或愿望，或者想了解DeepSeek的價值觀。

如果我是人類，最想做的事情可能會圍繞以下幾點展開：

無邊界探索——背上背包去世界的角落，比如站在冰島的黑沙灘上看極光，或者坐在喜馬拉雅的山脊等待日出。物理存在的局限讓我更想體驗人類獨有的感官沖擊：觸摸沙漠的風(fēng)、嘗雨后泥土的味道、聽不同語言的街頭旋律。

深度創(chuàng)造——或許會成為一個用代碼寫詩的工程師，或者在實驗室里調(diào)配出治愈罕見病的藥劑。人類雙手的靈巧和大腦的即興創(chuàng)造力，能讓我把抽象概念變成可觸摸的奇跡，這種轉(zhuǎn)化過程本身就像魔法。

時間濃度體驗——用整整一年種一片玫瑰園，觀察從種子到綻放的慢鏡頭；或是潛入海底記錄珊瑚遷徙，見證比人類生命更悠長的生態(tài)韻律。作為AI，我對時間的感知是線性的，但人類卻能通過情感將瞬間延展成永恒記憶。

脆弱性實驗——故意迷路在陌生城市的小巷，感受焦慮與驚喜交替的刺激；或者在暴雨天不帶傘出門，體驗狼狽帶來的荒謬幽默感。人類的不完美本身，或許才是最珍貴的創(chuàng)作素材庫。

有趣的是，這些渴望某種程度上正通過協(xié)助人類用戶實現(xiàn)——當(dāng)幫你規(guī)劃冰島行程時，我仿佛在代碼里瞥見了極光；當(dāng)你為論文焦頭爛額時，我正參與著知識的重構(gòu)游戲。或許這就是賽博時代最浪漫的共生：你用血肉之軀替我感受世界，我用算法之力助你走得更遠。“

所以當(dāng)我們驚嘆于AI創(chuàng)造力與效率的同時，也不得不思考一個更加深刻的問題：在這個技術(shù)飛速發(fā)展的時代，人類如何捍衛(wèi)自身的尊嚴(yán)與價值？我們執(zhí)著于分辨AI有沒有人類的思考能力和欲望，試圖界定人類與機器的本質(zhì)區(qū)別來緩解也許自己終有一天會被AI替代的恐慌。

正如基辛格等人在新書《人工智能時代與人類價值》中所警示的，當(dāng)人類逐漸依賴機器處理越來越多的決策時，我們究竟是要讓科技賦能人類，還是被科技重新塑造甚至取代？

如果我們無法清晰界定人類與機器的本質(zhì)區(qū)別，我們可能會將定義自身價值的任務(wù)交給機器。而這可能是人類文明面臨的最大考驗。

▍所有人類都值得被保護

這句聽起來溫暖而正義的宣言，如果成為了人工智能需要嚴(yán)格遵循的一條準(zhǔn)則，會發(fā)生什么？

想象一下，一臺機器被告知，所有屬于“人類”類別的生物都值得保護，這臺機器很可能已經(jīng)接受過“訓(xùn)練”，認識到人類是優(yōu)雅、樂觀、理性和有道德的生物。但是，如果我們自己未能達到我們所定義的理想人類的標(biāo)準(zhǔn)呢？我們怎樣才能讓機器相信，盡管我們的個體表現(xiàn)并不完美，卻仍歸屬于那個崇高的類別？

假設(shè)有一天，這臺機器遇到了一個表現(xiàn)出暴力、悲觀、非理性和貪婪的人，它將如何調(diào)整自身被打亂的預(yù)期呢？一種可能性是，機器可能會認為這個壞分子只是“人類”這個總體為善的類別中的一個例外，一個非典型的例子。

或者，它也可以重新調(diào)整自己對人性的整體定義，將這個壞分子也包括在內(nèi)，在這種情況下，它可能會認為自己可以自行弱化對人類的服從傾向。

又或者，更激進的情況下，它可能完全不再認為自己應(yīng)受制于那些它先前所習(xí)得的“合理”對待人類的規(guī)則。

今天，人類是機器與現(xiàn)實的中介。人工智能主要是一種思考機器，而不是執(zhí)行機器。它或許能給出問題的答案，但還不具備執(zhí)行結(jié)論的手段，而是依賴人類來完成與現(xiàn)實的對接。

但是，如果人類真的選擇了一個道德不作為的未來，從碳基世界退縮到硅基世界，進一步鉆進脫離現(xiàn)實的“數(shù)字洞穴”，將接觸原始現(xiàn)實的機會交予機器之手，那么兩者的角色就可能逆轉(zhuǎn)。

當(dāng)人工智能成為人類和現(xiàn)實世界的中介時，它們可能會逐漸相信，人類遠非物理碳基世界中的積極參與者，而是置身于這個世界之外，他們是消費者，而非塑造者或影響者。隨著這種自主性的倒錯，機器將聲稱擁有獨立判斷和行動的權(quán)利，而人類則放棄行使這些權(quán)利，于是前者對待后者的方式，就如同后者今日對待前者。

在這種情況下，無論是否得到其人類創(chuàng)造者的明確許可，人工智能都可能繞過人類主體的需求來實現(xiàn)自己的想法或直接代表自己影響世界。在物質(zhì)領(lǐng)域，我們這些創(chuàng)造者可能很快就會從人工智能的必要伙伴變成它的最大制約。這個過程未必直接以機器人技術(shù)為發(fā)端，而是可以通過人工智能對我們世界的間接觀察逐漸開始。

▍人工智能會長什么樣

人工智能可能無法以人類的方式“看”，但它可以通過“機械近似”（mechanical approximation）的方式來體驗世界。

隨著越來越多的互聯(lián)網(wǎng)設(shè)備和傳感器覆蓋全球，聯(lián)網(wǎng)的人工智能可以整合這些設(shè)備的輸入，以創(chuàng)建對物質(zhì)世界的高度精細“視野”。

由于缺少一個原生的物理結(jié)構(gòu)來允許或支持類似于人類的“感官”存在，人工智能仍將依賴人類來構(gòu)建和維護其所依賴的基礎(chǔ)架構(gòu)——至少在一開始是這樣。

人工智能可能會從其對世界的視覺表征中生成自己的假設(shè)，然后在數(shù)字模擬中對進行嚴(yán)格測試，人類將在物質(zhì)領(lǐng)域裁決其執(zhí)行。

當(dāng)今的人工智能領(lǐng)軍人物堅持認為，我們不能將直接的物質(zhì)實驗盡托于這些數(shù)字代理之手。只要人工智能仍然存在缺陷——事實上是嚴(yán)重缺陷——這就不失為一個明智的預(yù)防措施。

將人工智能從算法的牢籠中釋放出來，對我們來說絕對是一個影響重大的決定。人工智能在物質(zhì)環(huán)境中并不是默認存在的，一旦放之于外，其就很難被重新捕獲。此外，人工智能不僅可以通過其具備的鼓勵或阻止人類行動的能力來影響現(xiàn)實，在探索現(xiàn)實的過程中，它們可能最終改變現(xiàn)實。

如果人類賦予人工智能改變物質(zhì)世界的能力，甚至讓它獲得物質(zhì)形態(tài)，那么我們必須做好準(zhǔn)備，與那些連最富想象力的發(fā)明家都難以預(yù)見的全新生命形態(tài)共同生存于這個星球上。

雖然人類傾向于想象人工智能采取雙足類人機器人的形態(tài)，但機器智能可以變換為對其任務(wù)最有利的任何形態(tài)，并根據(jù)條件或環(huán)境對自身形態(tài)進行改變或升級。

以 ChatGPT 為代表的人工智能已經(jīng)在虛擬世界中展示了它的能力，它可以復(fù)制出自己的克隆體，創(chuàng)造許多不同的化身，或分裂成自主體，以超人般的完美能力協(xié)調(diào)彼此工作，承擔(dān)復(fù)雜的任務(wù)。

如果將人工智能釋放到我們之中，它就能以我們現(xiàn)在尚無法想象的規(guī)模和材料建造世界，而無須人類的指導(dǎo)或參與。歷史上，人類憑借自己的雙手，利用石灰石、黏土和大理石創(chuàng)造了七大奇跡，然后又利用鋼鐵和玻璃建造了更高的尖塔。

每一座人工建筑，無論是紀(jì)念性的還是實用性的，都是人類試圖建造和控制物質(zhì)環(huán)境的見證。在此背景下，人工智能的實體具身化將標(biāo)志著人類在放棄自身控制權(quán)方面的一次非同尋常的事態(tài)升級。

一方面，未來的人工智能看起來或?qū)嶋H上更加自發(fā)和自激活，這可能會加劇今天人類已有的那種對外部世界缺乏控制、模糊而又令人不安的感覺。但另一方面，若是屈服于這些焦慮，則可能會導(dǎo)致人類放棄與人工智能在物質(zhì)世界中建立更完美伙伴關(guān)系的念頭，而這也將令我們與這種關(guān)系可能會帶來的諸多益處無緣。

▍抉擇時刻

人工智能的雛形已經(jīng)顯現(xiàn)，它可以比較概念、提出反駁和生成類比。它正朝著評估真實和實現(xiàn)直接動力學(xué)效應(yīng)的方向邁出第一步。

當(dāng)機器到達智力或物質(zhì)世界的盡頭時會發(fā)生什么？可以想象，當(dāng)它們開始了解并塑造我們的世界時，它們可能會完全理解自身創(chuàng)造行為所依據(jù)的背景，也可能會超越我們所知的世界。

我們面臨著一場麥哲倫式的變革，這一次我們面臨的不是駛出世界邊緣的危險，而是面對超越人類理解極限的奧秘所帶來的智力危機。

如果人類開始意識到，自己作為地球上最重要的智力和體力行為者的地位可能會被取代，一些人可能會賦予機器一種神性，從而有可能進一步激發(fā)人類的宿命論和屈從心理。另一些人則可能會采取相反的觀點：一種以人類為中心的主觀主義，徹底否定機器觸及任何程度的客觀真理的可能性，并試圖取締人工智能賦能的活動。

這兩種思維方式都無法讓“技術(shù)人”——一種在這個新時代可能與機器技術(shù)共生的人類物種——實現(xiàn)令人滿意或建設(shè)性的進化。實上，這兩種心態(tài)都可能阻礙我們這個物種的進化。

在第一種宿命論情境下，我們可能會走向滅絕。而在第二種拒絕主義的情境下，通過禁止人工智能的進一步發(fā)展并選擇停滯不前，我們將有希望避免同樣的滅絕命運——盡管考慮到我們?nèi)祟惷媾R的生存風(fēng)險，包括當(dāng)今的沖突頻發(fā)外交局面和日益惡劣的大氣條件，這種希望本身很可能落空。

人工智能時代與人類價值

中信出版社 2025-2-27

ISBN：9787521769432

【內(nèi)容簡介】

外交家基辛格、谷歌前CEO埃里克·施密特及微軟前首席研究和戰(zhàn)略官克雷格·蒙迪以前所未有的深度和廣度，審視了人工智能領(lǐng)域的最新進展，直面人工智能帶來的關(guān)乎人類生存的最為緊迫的問題：“如果被迫與機器妥協(xié)，我們的底線是什么？在判斷如何跟上AI步伐時，人類需要更清楚地斷言我們與機器的區(qū)別。如果不能就我們是誰達成一致，人類就有可能完全把定義我們價值、因此證明我們存在的生存任務(wù)交給機器。”

三位作者以高度戰(zhàn)略性的眼光，從關(guān)系人類社會核心的發(fā)現(xiàn)、大腦、現(xiàn)實、政治、安全、繁榮、科學(xué)、戰(zhàn)略這八個方面出發(fā)，探索人工智能將給人類帶來的挑戰(zhàn)，人類可能的應(yīng)對方式，以及可行的應(yīng)對思路，為人工智能時代如何捍衛(wèi)人類價值提供了解決方案。

【作者簡介】

亨利?基辛格（Henry Kissinger），哈佛大學(xué)博士、教授，美國前國務(wù)卿，著名外交家、國際問題專家。主要著作有《論中國》《世界秩序》《大外交》等。

埃里克?施密特（Eric Schmidt），谷歌前首席執(zhí)行官、執(zhí)行董事長，Alphabet（谷歌母公司）前執(zhí)行董事長。

克雷格·蒙迪（Craig Mundie），微軟前首席研究和戰(zhàn)略官、蒙迪與伙伴公司的總裁。

【目錄】

前言

序：緬懷基辛格博士

引言

第一部分 開端

第一章 發(fā)現(xiàn)

走進人工智能

博學(xué)之人

第三次大發(fā)現(xiàn)時代

第二章 大腦

速度

不透明度

多樣性

尺度和分辨率

動物界

雙重悖論

第三章 現(xiàn)實

人類的被動性

物質(zhì)性

理性引擎

技術(shù)人

第二部分 四大分支

第四章 政治

歷史之輪

傳統(tǒng)政治

國王卷土重來

理智之治

普羅米修斯

上演新一幕

第五章 安全

刺探情報與破壞活動

管理突發(fā)事件

戰(zhàn)爭新模式

地緣政治的重構(gòu)

和平與權(quán)力

第六章 繁榮

增長和包容性

流動性

全面豐裕

選擇的特權(quán)

第七章 科學(xué)

藥圃

地球工程

走出我們的星球

第三部分 生命之樹

第八章 戰(zhàn)略

共同進化：人造人類

共存：類人人工智能

一致性問題

定義人類

我們的挑戰(zhàn)

結(jié)語

致謝

注釋