《紐約客》｜山姆·奧特曼可能正掌控我們的未來 —— 他值得信任嗎？

由于不可抗力的限流導致無法接收推送文章的問題，我們迫切需要以下操作：

點擊標題下方藍字 “一半杯 ” → 點擊右上角“...” → 點選“設為星標 ★ ”，這樣就更容易找到我們和收到推送文章！

保持愛讀文章，保持領先！

新的采訪和嚴密封存的文件，讓圍繞 OpenAI 負責人長期存在的疑慮浮出水面。

2023年秋天，OpenAI 首席科學家伊利亞·蘇茨克維（Ilya Sutskever）向該機構董事會的另外三名成員發送了秘密備忘錄。數周來，他們一直在私下討論：OpenAI 首席執行官山姆·奧特曼（Sam Altman）以及他的副手格雷格·布羅克曼（Greg Brockman），是否適合繼續執掌這家公司。伊利亞曾把兩人都視為朋友。2019年，他還曾主持布羅克曼的婚禮。那場婚禮就在 OpenAI 辦公室舉行，婚禮儀式上負責遞送婚戒的，是一只機械手。但隨著他愈發相信，公司正逼近其長期目標，也就是創造一種能夠匹敵甚至超越人類認知能力的人工智能，他對奧特曼的疑慮也越來越深。正如伊利亞當時對另一位董事所說的那樣：“我不認為，山姆是那個應該把手放在按鈕上的人。”

應其他董事要求，伊利亞與一些志同道合的同事一起，整理出大約70頁 Slack 信息和人力資源文件，并附上說明文字。這些材料中還包括用手機拍攝的圖片，顯然是為了避開公司設備上的監測。他通過閱后即焚消息，把最終備忘錄發給其他董事，以確保不會再有別人看到這些內容。一位收到備忘錄的董事回憶說：“他當時怕極了。”我們審閱了這些備忘錄，它們此前從未被完整披露。文件指稱，奧特曼曾向高管和董事歪曲事實，并在公司內部安全規程問題上誤導他們。其中一份關于奧特曼的備忘錄開頭列著一串標題為“山姆持續表現出以下模式”的事項，第一條就是“撒謊”。

許多科技公司會籠統宣稱自己在改善世界，轉頭卻一心追求營收最大化。但 OpenAI 創立時的前提，就是它必須不同。其創始人包括奧特曼、伊利亞、布羅克曼和埃隆·馬斯克。他們主張，人工智能可能是人類歷史上最強大、也可能最危險的發明。鑒于這種關乎人類存續的風險，也許需要一種不同尋常的公司結構。因此，這家公司被設立為一家非營利機構，其董事會有責任把人類安全置于公司成功之上，甚至置于公司生存之上。首席執行官必須是一個具有非凡操守的人。按照伊利亞的說法，“任何致力于打造這種將改變文明的技術的人，都肩負沉重負擔，承擔著前所未有的責任。” 但他也說，最后坐到這種位置上的，往往都是某一類人，是那種迷戀權力的人，是政客，是喜歡權力本身的人。在其中一份備忘錄中，他似乎擔心，把這項技術托付給一個只會撿別人愛聽的話說的人。如果事實證明 OpenAI 的首席執行官并不值得信賴，那么當時由六名成員組成的董事會有權將其解職。一些董事，包括人工智能政策專家海倫·托納（Helen Toner）和企業家塔莎·麥考利（Tasha McCauley），把這些備忘錄視為對她們早已形成判斷的印證：奧爾特曼所處的位置，實際上把人類的未來托付到了他手中，但他并不值得信賴。

奧特曼當時正在拉斯維加斯觀看一場一級方程式賽車比賽，這時伊利亞邀請他與董事會進行一次視頻通話，隨后宣讀了一份簡短聲明，告知他已經不再是 OpenAI 的員工。董事會遵循法律顧問意見，只對外發布了一則公開說明，稱奧特曼被免職的原因是，他“在溝通中并非始終坦誠”。許多 OpenAI 的投資人和高管都感到震驚。微軟此前已向 OpenAI 投資約130億美元，但直到免職發生前幾分鐘，才得知這一計劃。微軟首席執行官薩提亞·納德拉（Satya Nadella）后來表示：“我當時非常震驚。誰都沒法從任何人嘴里問出點什么。” 他隨后與 LinkedIn 聯合創始人、OpenAI 投資人兼微軟董事里德·霍夫曼（Reid Hoffman）通了話。霍夫曼開始四處打電話，想弄清奧特曼是否犯下了某種明確的過錯。“我當時他媽完全不知道發生了什么。” 霍夫曼對我們說，“我們在找的，是侵吞公款，或者性騷擾之類的問題，可我什么也沒找到。”

其他商業伙伴也同樣被打了個措手不及。奧特曼打電話告訴投資人羅恩·康威（Ron Conway）自己被解雇時，康威正與聯邦眾議員南希·佩洛西共進午餐，他把手機舉給了佩洛西。她對康威說：“你最好趕緊離開這里。” 當時，OpenAI 正接近完成一筆來自風投公司 Thrive 的大額融資。Thrive 由喬什·庫什納（Josh Kushner）創立，他是賈里德·庫什納（Jared Kushner）的兄弟，也與奧特曼相識多年。這筆交易將使 OpenAI 的估值達到860億美元，并讓許多員工套現數百萬美元股權。庫什納剛結束與音樂制作人里克·魯賓（Rick Rubin）的一場會面，就看到奧特曼打來的未接來電。庫什納后來說：“我們立刻就進入了戰斗狀態。”

奧特曼被解雇當天，便飛回了他位于舊金山那棟價值2700萬美元的豪宅。那棟房子可俯瞰海灣，曾配有一座懸挑式無邊泳池。他在那里建立起了他所稱的“某種流亡政府”。康威、Airbnb 聯合創始人布賴恩·切斯基（Brian Chesky）以及以作風凌厲著稱的危機公關經理克里斯·勒哈恩（Chris Lehane）都加入了進來，常常通過電話和視頻一聊就是幾個小時。奧特曼高管團隊中的一些成員甚至直接駐扎在這棟房子的走廊里。律師們則在他臥室旁邊的一間家庭辦公室里辦公。失眠發作時，奧特曼會穿著睡衣在他們身邊來回走動。我們最近與奧特曼交談時，他把自己被解雇后的那段經歷形容為“就是一種很奇怪的恍惚狀態”。

在董事會保持沉默之際，奧特曼的顧問們開始在公開輿論場上為他回歸造勢。勒哈恩一直堅持稱，這次解雇是一場政變，是由一群失控的“有效利他主義者”（effective altruists）策動的。這是一套強調最大化全人類福祉的信念體系，而這些人已開始把人工智能視為一種關乎存續的威脅。（霍夫曼曾對納德拉說，這次解雇可能是“有效利他主義式的瘋狂”。）據稱，勒哈恩的座右銘引自邁克·泰森（Mike Tyson）：“每個人都有自己的作戰計劃，直到嘴上挨了一拳。” 他敦促奧特曼發動一場激進的社交媒體戰役。切斯基則與科技記者卡拉·斯威舍（Kara Swisher）保持聯系，向她轉述外界對董事會的批評。

奧特曼每天晚上6點都會暫停他的“作戰室”，喝上一輪內格羅尼雞尾酒。他回憶自己當時會說：“你得冷靜點。該發生的總會發生。” 但他也補充說，通話記錄顯示，那段時間他每天打電話的時長都超過12小時。據一位了解相關對話的人士說，奧特曼曾對米拉·穆拉蒂（Mira Murati）表示，他的盟友們正在“全力出擊”，并且“挖掘黑料”，要損害她以及其他反對過他的人的聲譽。穆拉蒂曾向伊利亞提供備忘錄所依據的材料，并在那一時期擔任 OpenAI 臨時首席執行官。奧特曼則表示，他不記得這段對話了。

在解雇發生后的數小時內，Thrive 就暫停了原定投資，并暗示，只有奧特曼回歸，這筆交易才會最終完成，員工們也才能因此拿到套現收益。這一時期的短信顯示，奧特曼與納德拉之間協調得極為緊密。當兩人共同擬定一份聲明時，奧特曼建議寫上：“薩提亞和我當前的首要任務仍然是拯救 OpenAI。” 納德拉則提出另一種表述：“確保 OpenAI 繼續蓬勃發展。” 不久后，微軟宣布，將為奧特曼及任何離開 OpenAI 的員工另建一個競爭性項目。公司內部也開始流傳一封公開信，要求讓奧特曼回歸。一些對是否簽名仍在猶豫的人，接到了同事們懇求他們支持的電話和信息。最終，OpenAI 多數員工都威脅說，要跟著奧特曼一起離開。

董事會被逼到了墻角。托納說：“撤銷，算是一種選擇，也就是撤回解雇決定。另一種選擇，就是公司分崩離析。” 最終，就連穆拉蒂也在公開信上簽了名。奧特曼的盟友們則努力爭取伊利亞倒戈。布羅克曼的妻子安娜（Anna Brockman）在辦公室找到他，懇求他重新考慮。她說：“你是個好人，你可以把這一切修好。” 伊利亞后來在法庭證詞中解釋說：“我當時覺得，如果我們真的走到不讓山姆回歸那一步，OpenAI 就會毀掉。” 有一天夜里，奧特曼服下安眠藥 Ambien 后入睡，卻被他的丈夫奧利弗·穆赫林（Oliver Mulherin）叫醒。穆赫林是一名澳大利亞程序員，他告訴奧特曼，伊利亞開始動搖了，而且許多人都在說，奧特曼應該與董事會談談。奧特曼對我們說：“我當時是在一種瘋狂的安眠藥迷糊狀態里醒來的，整個人都暈頭轉向。我當時想的是，我現在根本沒法和董事會談。”

在一連串氣氛愈發緊張的電話中，奧特曼要求那些推動解雇他的董事辭職。談到自己最初對回歸一事的想法時，奧特曼回憶說：“我還要在這種瘋狂的懷疑氛圍里替他們收拾爛攤子？我當時的反應就是，絕對他媽不行。” 最終，伊利亞、托納和麥考利都失去了董事席位。問答社區 Quora 的創始人亞當·迪安杰洛（Adam D’Angelo）成為唯一留任的原始董事。作為離開的條件，這些即將退出的董事要求對針對奧特曼的指控展開調查，這些指控包括他挑動高管彼此對立，并隱瞞自己的財務利益關聯。他們還要求組建一個新的董事會，以便能夠獨立監督外部調查。但新增的兩名董事，前哈佛大學校長勞倫斯·薩默斯（Lawrence Summers）和前 Facebook 首席技術官布雷特·泰勒（Bret Taylor），都是在與奧特曼密切溝通后選定的。奧特曼曾發短信給納德拉：“你愿意這么安排嗎？布雷特、拉里·薩默斯、亞當組成董事會，我繼續當首席執行官，然后由布雷特負責調查。” 麥考利后來在證詞中表示，之前曾考慮讓泰勒進入董事會時，她就擔心他對奧特曼過于順從。

距離被解雇還不到五天，奧特曼便官復原職。如今，員工們把這一時刻稱為“閃逝時刻”，這個說法來自漫威電影中的一個情節：角色們從現實中消失，隨后又原封不動地返回，而他們缺席期間，世界早已被深刻改變。但關于奧特曼是否值得信任的爭論，已經不再局限于 OpenAI 的董事會會議室。那些促成他被趕下臺的同事指控說，他的欺騙程度，對任何企業高管而言都不可接受，而對于一項如此具有變革性的技術的領導者而言，則更是危險。穆拉蒂對我們說：“我們需要配得上自己手中權力的機構。董事會曾征求反饋，我就把自己看到的情況如實說了出來。我說的每一件事都準確無誤，我堅持這些說法。” 另一方面，奧特曼的盟友長期以來一直淡化這些指控。解雇發生后，康威發短信給切斯基和勒哈恩，要求發動一輪公關反擊。“這關乎山姆的聲譽。” 他寫道。他還對《華盛頓郵報》表示，奧特曼“受到了一個失控董事會的惡劣對待”。

此后，OpenAI 已成為全球最有價值的公司之一。據報道，這家公司正在籌備首次公開募股，潛在估值可達1萬億美元。奧特曼正推動建設規模驚人的人工智能基礎設施，其中一部分集中部署在外國專制政體之中。OpenAI 也在拿下范圍廣泛的政府合同，并正在為人工智能如何用于移民執法、國內監控以及戰區自主武器設定標準。

奧特曼一直通過兜售一種愿景來推動 OpenAI 的擴張。他在2024年的一篇博客文章中寫道，在那樣的未來里，“令人驚嘆的勝利，例如解決氣候問題、建立太空殖民地，以及發現全部物理學規律，最終都會變得司空見慣。”這種話語幫助支撐起了創業公司史上燒錢速度最快的業務之一，而它所依賴的合作伙伴本身也借入了巨額資金。美國經濟正日益依賴少數幾家高杠桿的人工智能公司，許多專家都曾警告，這個行業正處于泡沫之中，奧特曼有時自己也這么說。“總會有人虧掉一筆驚人的錢。” 他去年曾這樣對記者表示。如果泡沫破裂，隨之而來的可能就是經濟災難；如果他最樂觀的預測被證明是正確的，那么他可能會成為這個星球上最富有、也最有權勢的人之一。

在奧特曼被解職后的一通緊張電話里，董事會逼他承認自己存在一種持續性的欺瞞模式。據通話知情人士稱，他反復說道：“這事真是太他媽離譜了。”“我沒法改變我的性格。” 奧特曼則表示，他不記得這段交鋒了。“也許我當時的意思更接近于，‘我的確在努力做一個能夠把大家凝聚起來的人。’” 他對我們說，并補充稱，也正是這種特質，使他得以領導一家取得巨大成功的公司。他把這些批評歸因于自己的一種傾向，尤其是在職業生涯早期，就是“過于回避沖突”。但一位董事對他這番話作出了另一種解讀：“這話的意思其實是，‘我有這么一種特質，我會對人撒謊，而且我不會改。’” 那么，那些推動奧特曼下臺的同事，究竟是出于危言聳聽和個人怨恨，還是說，他們認定他不值得信任，本來就是對的？

今年冬天的一個早晨，我們在舊金山的 OpenAI 總部見到了奧特曼。這只是我們為撰寫本文與他進行的十多次交談中的一次。公司最近搬進了兩座11層高的玻璃大樓，其中一座曾由另一家科技巨頭優步使用。優步聯合創始人兼首席執行官特拉維斯·卡蘭尼克（Travis Kalanick）曾一度看上去像是勢不可擋的天才人物，直到2017年，在投資人以其道德問題令人擔憂為由施壓后，他辭去了職務。（卡蘭尼克現在經營著一家機器人創業公司；他最近表示，自己閑暇時會使用 OpenAI 的 ChatGPT，“去逼近量子物理學已知邊界”。）

一名員工帶我們參觀了辦公室。在一片擺滿公共長桌、空間通透的區域里，掛著一幅動畫數字畫，畫中人是計算機科學家艾倫·圖靈（Alan Turing）；我們經過時，那雙眼睛會追隨著我們。這件裝置顯然是在調侃“圖靈測試”，也就是圖靈在1950年提出的那個思想實驗：機器是否能夠令人信服地模仿人類。（在2025年的一項研究中，ChatGPT 通過這項測試的穩定性，甚至超過了真人。）通常情況下，參觀者可以與這幅畫互動。但我們的引導員說，聲音功能已經被關閉了，因為它老是偷聽員工說話，然后插進他們的對話。辦公室的其他地方，牌匾、宣傳冊和周邊商品上都印著一句話：“Feel the AGI”。這句話最初與伊利亞有關，他曾用它提醒同事注意通用人工智能的風險，也就是機器達到與人類認知能力相當這一門檻后的風險。而在那場“閃逝”之后，它卻變成了一句歡快的口號，用來禮贊一個超級豐裕的未來。

我們在八樓一間看起來毫不起眼的會議室里見到了奧特曼。“以前人們總跟我說什么決策疲勞，我那時候根本不懂。” 奧特曼對我們說，“現在我每天都穿灰色毛衣和牛仔褲，光是從衣柜里挑哪件灰色毛衣，我都會想，我真希望不用費這個腦子。” 奧特曼長相年輕，身材瘦削，雙眼間距較寬，藍眼睛，頭發略顯蓬亂，但他如今已經40歲了。他和穆赫林通過代孕育有一個一歲的兒子。“我敢肯定，當美國總統肯定是壓力更大的工作，但在我覺得自己現實中有可能勝任的所有工作里，這是我能想象到壓力最大的一份。” 他說，一邊看著我們其中一個人，隨后又看向另一個人。“我跟朋友們解釋這件事時，總是這么說：‘在我們推出 ChatGPT 的那一天之前，這是世界上最好玩的工作。’我們當時正在取得這些重大的科學突破。我覺得，我們做出了過去很多很多年里最重要的一項科學發現。” 他說到這里垂下了眼睛。“但從 ChatGPT 發布以后，做決定就變得非常困難了。”

奧特曼在密蘇里州克萊頓長大。那是圣路易斯一個富裕的郊區。他是家中四個兄弟姐妹里的老大。母親康妮·吉布斯廷（Connie Gibstine）是皮膚科醫生，父親杰里·奧特曼（Jerry Altman）曾是一名房地產經紀人，也是一名住房權益活動人士。奧特曼小時候參加改革派猶太會堂的活動，也曾就讀于一所私立預科學校。他曾這樣形容那所學校：“那可不是一種你真的會站出來公開談論自己是同性戀的地方。” 不過總體來說，這個家庭所處的富裕郊區圈層相對自由派。他說，在16歲或17歲時，有一次他深夜出現在圣路易斯一個以同性戀群體為主的社區，結果遭到了一場殘暴的肢體襲擊，并遭到帶有仇視同性戀者意味的辱罵。奧特曼沒有報案，也不愿在記錄中向我們透露更多細節。他說，更完整地講述這件事，“會讓我看起來像是在操控別人，或者是在博取同情”。他淡化了這一事件以及自己的性取向對其身份認同的重要性。但他說，“也許這件事在心理深處確實留下了某種東西。雖然我覺得自己已經走出來了，但其實并沒有。那種東西和不想再面對更多沖突有關。”

奧特曼的弟弟曾在2016年對《紐約客》說，奧特曼小時候的態度是：“我必須贏，而且一切都得由我說了算。” 他后來進入斯坦福大學就讀，在校期間經常參加校外的撲克牌局。他后來表示：“我覺得，我從那些牌局里學到的關于人生和商業的東西，比我在大學里學到的還多。”

斯坦福的學生個個都很有野心，但其中最有進取心的那批人，很多都會中途退學。大二結束后的那個夏天，奧特曼去了馬薩諸塞州，加入了 Y Combinator 的首批創業者項目。Y Combinator 是一家“創業孵化器”，由著名軟件工程師保羅·格雷厄姆（Paul Graham）聯合創辦。每個入選者都要帶著一個創業點子加入 Y.C.。（與奧特曼同一批的，還有 Reddit 和 Twitch 的創始人。）奧特曼的項目后來叫作 Loopt，它是社交網絡的早期雛形，利用人們翻蓋手機的位置數據，告訴他們的朋友他們在哪里。這家公司既體現了他的沖勁，也體現出他傾向于把模糊情境解釋為對自己有利的方式。聯邦法規要求通信運營商必須具備追蹤手機位置以便提供緊急服務的能力；奧特曼則與運營商達成協議，把這些能力接入公司業務中使用。

Loopt 的大多數員工都喜歡奧特曼，但也有人說，他們對他夸大其詞的傾向印象深刻，哪怕是在一些瑣碎小事上也是如此。有人回憶說，奧特曼曾四處吹噓自己是乒乓球冠軍，“好像是什么密蘇里州高中乒乓球冠軍”，結果真打起來，卻成了辦公室里打得最差的人之一。（奧爾特曼說，他大概只是在開玩笑。）年紀比他大、曾在 Loopt 工作，并受投資人委托擔任奧特曼“保姆”的馬克·雅各布斯坦（Mark Jacobstein），后來曾對基奇·黑吉（Keach Hagey）說。黑吉在她為奧特曼撰寫的傳記《樂觀者》（The Optimist）中記錄了這番話：“‘我覺得自己也許能做到這件事’和‘我已經做到這件事了’之間，常常會出現模糊地帶。這種傾向最有毒的形態，就會導向 Theranos 式的結果。” Theranos 是伊麗莎白·霍姆斯（Elizabeth Holmes）那家靠欺詐運作的創業公司。

據黑吉記載，Loopt 內部幾批資深員工曾因擔憂奧特曼的領導方式及其缺乏透明度，兩度要求公司董事會撤換他的首席執行官職務。但奧特曼也同樣能激發出極其強烈的忠誠。一名前員工被告知，當時有一位董事會成員的回應是：“這是山姆的公司，回去他媽干活。”（一位董事會成員否認說，罷免奧特曼首席執行官的嘗試曾經是認真的。）Loopt 一直難以獲得用戶，2012年被一家金融科技公司收購。知情人士稱，這筆收購之所以得以安排，主要是為了讓奧特曼能體面下臺。盡管如此，到2014年格雷厄姆從 Y.C. 退休時，他還是招募奧特曼擔任自己的繼任者，出任總裁。“我是在我們家廚房里向山姆提出這件事的。” 格雷厄姆對《紐約客》說，“然后他笑了，那種表情就像，成了。我從沒見過山姆露出過那種不受控制的笑容。就像你把一個紙團從房間這頭扔進那頭的廢紙簍時會露出的那種笑。”

奧特曼的新職位，使年僅28歲的他成了一個“造王者”。他的工作是挑出最饑渴、也最有前途的創業者，把他們與最優秀的程序員和投資人連接起來，并幫助他們把初創企業發展成定義行業的壟斷者，同時 Y.C. 從中抽取6%至7%的股份。奧特曼掌管 Y.C. 期間，公司進入了一個激進擴張階段，其孵化的創業公司數量從幾十家增長到數百家。但硅谷一些投資人開始認為，他的忠誠對象并不單一。一位投資人對我們說，奧特曼以“會有選擇地向最好的公司進行個人投資、從而把外部投資人擋在外面”而聞名。（奧特曼否認自己擋過任何人。）奧特曼還曾作為紅杉資本的“偵察員”工作。那是一個針對早期創業公司的投資計劃，參與者可從投資收益中分得一小部分利潤。據一位熟悉交易的人士說，奧特曼在對金融服務初創公司 Stripe 進行天使投資時，堅持要求獲得更大份額，這讓紅杉的合伙人們十分惱火。那位人士補充說：“他的政策就是‘薩姆優先’。” 按奧特曼自己的估算，他還是另外大約400家公司的投資人。（奧特曼否認這是對 Stripe 交易的準確描述。大約在2010年，他最初向 Stripe 投資了1.5萬美元，占股2%。如今這家公司估值已超過1500億美元。）

到2018年，幾位 Y.C. 合伙人對奧特曼的行為已經不勝其煩，于是去找格雷厄姆投訴。格雷厄姆和妻子杰西卡·利文斯頓（Jessica Livingston），也就是另一位 Y.C. 創始人，顯然與奧特曼進行過一次坦率談話。此后，格雷厄姆開始對外表示，盡管奧特曼已經同意離開公司，但實際上卻在抗拒離開。奧特曼則對一些 Y.C. 合伙人說，他會辭去總裁職務，但轉任董事長。2019年5月，一篇宣布 Y.C. 新總裁上任的博客文章里帶著一個星號注釋：“山姆正在過渡為 Y.C. 董事長。” 幾個月后，這篇文章被修改為“山姆·奧特曼已不再擔任 Y.C. 的任何正式職務”；而再后來，這句話又被徹底刪掉了。盡管如此，直到2021年，美國證券交易委員會的一份文件中，仍把奧特曼列為 Y Combinator 董事長。（奧特曼說，他直到很久之后才知道這件事。）

多年來，無論是在公開場合，還是在最近的證詞中，奧特曼都一直堅稱自己從未被 Y.C. 解雇；他還對我們說，自己并沒有抗拒離開。格雷厄姆則在 X 上發文稱：“我們并不是想讓他離開，只是想讓他在 Y.C. 和 OpenAI 之間做出選擇。” 在一份聲明中，格雷厄姆對我們表示：“我們在法律上無權解雇任何人。我們唯一能做的，只是施加道德壓力。” 然而私下里，他卻毫不含糊地表示，奧特曼之所以被移出 Y.C.，是因為 Y.C. 合伙人對他失去了信任。關于奧特曼在 Y Combinator 期間的這段經歷，本文采訪了數位 Y.C. 創始人和合伙人，并參考了同時期材料；所有這些都表明，雙方的分手并非完全出于共同意愿。格雷厄姆有一次曾對 Y.C. 同事說，在奧特曼被撤換之前，“山姆一直在對我們所有人撒謊。”

2015年5月，奧特曼給埃隆·馬斯克發了一封電子郵件。當時，馬斯克是全球第100大富豪。和許多硅谷知名創業者一樣，馬斯克當時正被一系列他認為具有存續風險、但在多數人看來相當遙遠的威脅所困擾。“我們必須對人工智能極其謹慎。” 他曾在社交媒體上寫道，“它可能比核武器還危險。”

奧特曼原本總體上是一個技術樂觀主義者，但他關于人工智能的表述很快轉向了末日論色彩。無論在公開場合，還是在他與馬斯克等人的私人通信中，他都警告說，這項技術不應由一家以利潤為導向的超級公司所主導。“我一直在想，是否有可能阻止人類發展人工智能。” 他在給馬斯克的信中寫道，“如果這件事無論如何都會發生，那似乎最好由谷歌之外的某個主體先做出來。” 順著核武器的比喻，他提出要為人工智能打造一個“曼哈頓計劃”。他概述了這樣一個組織應遵循的總體原則，例如“安全應當是一項一級要求”，“顯然我們會遵守并積極支持一切監管”，而他和馬斯克最終也為這個項目確定了名字：OpenAI。

與最初那個催生原子彈的“曼哈頓計劃”不同，OpenAI 至少在最開始將由私人出資。奧特曼預測，超級人工智能，也就是一種比通用人工智能更高一層的理論門檻，在這個門檻上，機器將全面超越人類心智能力，最終會創造出足以“攫取宇宙未來一切價值所處的光錐”的經濟收益，也就是未來一切價值可能展開的范圍。但他同時也警告，存在關乎存續的危險。到了某個階段，國家安全層面的影響可能會嚴重到讓美國政府不得不接管 OpenAI，甚至可能通過將其國有化、并把業務轉移到沙漠中的一座安全地堡來實現控制。到2015年末，馬斯克已被說服。“我們應該說，我們啟動時將承諾投入10億美元資金。” 他寫道，“其他人出不了的部分，我來補。”

奧特曼把 OpenAI 安置在 Y Combinator 的非營利部門之下，并把它包裝成一個內部慈善項目。他向 OpenAI 的招募對象提供 Y.C. 股份，并通過 Y.C. 賬戶來轉運捐款。曾有一段時間，這家實驗室還得到 Y.C. 一只基金的支持，而奧爾、特曼本人在那只基金中持有個人利益。（奧特曼后來將這部分持股形容為微不足道。他對我們說，自己給招募對象的 Y.C. 股份，來自他個人持有的那部分。）

“曼哈頓計劃”的類比也被用到了員工招募上。就像核裂變研究一樣，機器學習當時也是一個規模不大、卻具有時代性意義的科學領域，而它由一小群古怪的天才人物主導。馬斯克和奧特曼，以及后來從 Stripe 加入的布羅克曼，都堅信，當今真正有能力實現所需突破的計算機科學家屈指可數。谷歌擁有壓倒性的現金優勢，也比他們提前起步了好幾年。馬斯克后來在一封郵件中寫道：“和他們相比，我們在人手和火力上都處于荒謬級別的劣勢。” 但他也寫道：“如果我們能夠隨著時間推移吸引到最有才華的人，而且我們的方向校準正確，那么 OpenAI 最終會勝出。”

他們重點招募的目標之一，是伊利亞·蘇茨克維。這位研究者性格強烈而內向，常被稱為他這一代人中最有天賦的人工智能科學家。伊利亞1986年出生于蘇聯，發際線后移，眼神深沉，說話前常常會停頓片刻，目不轉睛地斟酌用詞。另一位目標是達里奧·阿莫代伊（Dario Amodei）。他是一位生物物理學家，精力異常充沛，常會緊張地扭動自己的黑發，對別人發來的一行字郵件，往往能回上好幾段。兩人當時都在別處拿著豐厚薪水，但奧特曼對他們投入了大量精力。后來他還開玩笑說：“我當時簡直是在跟蹤伊利亞。”

馬斯克名氣更大，但奧特曼更擅長那種圓滑而細密的接觸方式。他先給阿莫代伊發了郵件，隨后兩人在一家印度餐廳安排了一對一晚餐。（奧特曼：“fuck，我坐的 Uber 出車禍了！我大概要晚10分鐘。” 阿莫代伊：“天哪，希望你人沒事。”）和許多人工智能研究者一樣，阿莫代伊相信，只有在證明這項技術能夠與人類價值觀“對齊”時，才應該去構建它。也就是說，它應按照人類希望的方式行動，而不會犯下潛在致命的錯誤。比如，它如果接到“清理環境”的指令，不該通過消滅最大污染源，也就是人類，來完成任務。奧特曼給人的感覺很讓人安心，他會順著這種安全擔憂的思路說下去。

后來加入公司的阿莫代伊，多年來一直在詳細記錄奧特曼和布羅克曼的行為，標題就叫“我在 OpenAI 的經歷”，副標題則是“私人文件：請勿分享”。與阿莫代伊有關的一組文件，連同他的筆記、內部郵件和備忘錄在內，總計超過200頁，曾在硅谷同事之間流傳，但此前從未公開披露。在這些筆記里，阿莫代伊寫道，奧特曼的目標是建立“一個以安全為重點的人工智能實驗室，‘也許不是立刻，但會在條件允許后盡快做到’”。

2015年12月，在 OpenAI 正式對外宣布成立前數小時，奧特曼給馬斯克發郵件說，有傳言稱，谷歌“明天將向 OpenAI 的每個人開出高額反挖角報價，試圖把它扼殺在搖籃里”。馬斯克回信問道：“伊利亞那邊已經給出明確的肯定答復了嗎？”奧特曼向他保證，伊利亞的態度并沒有松動。谷歌曾向伊利亞開出年薪600萬美元的條件，而 OpenAI 連接近這個數字都做不到。但奧特曼又頗為得意地寫道：“可惜，他們并不占著‘做正確的事’這層道義。”

馬斯克為 OpenAI 提供了一部分辦公場地，地點在舊金山米慎區一座以前生產行李箱的工廠里。伊利亞對我們說，當時他們向員工推銷的說法是：“你們將會拯救世界。”

如果一切順利，OpenAI 的創始人相信，人工智能將開啟一個“后稀缺”的烏托邦：它會把繁重瑣碎的苦工自動化，治愈癌癥，并把人們從勞作中解放出來，讓他們享受閑適而富足的生活。但如果這項技術失控，或者落入惡人手中，那么造成的破壞也可能是徹底的。可能會用它制造一種新型生物武器，或一支先進無人機機群；某個人工智能模型可能會智勝監管它的人，在秘密服務器上復制自己，從而變得無法關閉；在更極端的情況下，它甚至可能奪取電網、股市或核武庫的控制權。至少可以說，并不是所有人都相信這些情景，但奧特曼一再確認，自己確實相信。他在2015年的博客中寫道，超越人類的機器智能“并不需要是科幻小說里那種天生邪惡的版本，才會把我們全部殺死。更可能出現的情形是，它根本并不怎么在乎我們，但在試圖完成某個別的目標時，把我們順手消滅了。” OpenAI 的創始人承諾，不會為了速度而犧牲安全，而該機構的公司章程則把“造福全人類”規定為一項具有法律約束力的義務。如果人工智能注定會成為歷史上最強大的技術，那么隨之而來的結論就是，任何單獨掌控它的人，都可能變得擁有一種獨一無二的權力。創始人把這種局面稱為“AGI 獨裁”。

奧特曼曾對早期招募對象表示，OpenAI 將始終保持為一家純粹的非營利機構，而程序員們也因此接受了大幅降薪，來到這里工作。公司接受過慈善資助，其中包括來自當時名為 Open Philanthropy 的機構提供的3000萬美元。該機構是有效利他主義運動的一個重要樞紐，其資助承諾之一是支持向全球貧困人口發放蚊帳。

布羅克曼和伊利亞負責 OpenAI 的日常運作，而馬斯克和奧特曼由于仍忙于各自的其他工作，大約每周來一次。不過，到2017年9月，馬斯克已經開始失去耐心。在討論是否將 OpenAI 重組為一家營利性公司時，他要求獲得多數控制權。奧特曼的回應則會因情境不同而有所變化。他最穩定、也最核心的要求似乎是：如果 OpenAI 要在某位首席執行官的控制下重組，那么那個職位必須歸他。伊利亞顯然對此感到不安。他代表自己和布羅克曼給馬斯克和奧特曼發去一封冗長、近乎懇求的郵件，主題是“坦率的想法”。他寫道：“OpenAI 的目標，是讓未來變得更好，并避免出現 AGI 獨裁。” 接著，他轉而對馬斯克寫道：“因此，建立一種可能讓你成為獨裁者的結構，并不是個好主意。” 他也向奧特曼表達了類似的擔憂：“我們不明白，首席執行官這個頭銜為什么對你如此重要。你給出的理由一直在變，很難真正弄清到底是什么在推動你這樣做。”

“各位，我已經受夠了。” 馬斯克回信說，“要么你們自己另起爐灶去做點什么，要么就繼續把 OpenAI 保持為一家非營利機構”，否則的話，“我就只是個傻子，本質上是在免費給你們提供資金，好讓你們搞出一家創業公司。” 五個月后，他帶著強烈不滿退出了 OpenAI。（2023年，他創辦了一家名為 xAI 的營利性競爭對手。次年，他以欺詐和違反慈善信托義務為由起訴奧特曼和 OpenAI，稱自己曾被“精心操弄”，中了“奧特曼長期騙局”的圈套。也就是說，奧特曼利用他對人工智能危險的擔憂，把他的錢從他手中套走。OpenAI 對這起訴訟進行了強力抗辯，該案目前仍在審理之中。）

馬斯克離開后，阿莫代伊和其他一些研究人員對布羅克曼的領導日益不滿。有人認為，布羅克曼作風強硬、咄咄逼人；而伊利亞雖然通常被視為有原則，卻缺乏條理。在成為首席執行官的過程中，奧特曼似乎向公司內部不同派別作出過不同承諾。他向一些研究人員保證，布羅克曼的管理權限將被削弱。但他們并不知道的是，他同時又與布羅克曼和伊利亞私下達成了一項君子協定：奧特曼獲得首席執行官頭銜；作為交換，如果另外兩人認為有必要，他就同意辭職。（奧特曼不同意這種說法，稱自己之所以擔任首席執行官，只是因為別人請他來做。三人都證實這項約定確實存在，不過布羅克曼說，它只是非正式安排。“是他單方面告訴我們，如果我們兩人哪天都要求他下臺，他就會辭職。” 布羅克曼對我們說，“我們反對過這個想法，但他說這對他很重要。這完全是出于利他。”）后來，董事會震驚地發現，公司的首席執行官實際上已經替自己安排了一個“影子董事會”。

內部記錄顯示，早在2017年，創始人們私下里就已經對非營利結構產生了懷疑。那一年，在馬斯克試圖奪取控制權之后，布羅克曼在日記中寫道：“如果三個月后我們就改做 b-corp，那就不能說我們真心致力于非營利……那之前說的話就是謊言。” 阿莫代伊在自己早期的一份筆記里回憶說，他曾追問布羅克曼的優先事項是什么，而布羅克曼的回答是，他想要的是“金錢和權力”。布羅克曼對此予以否認。他那段時期的日記顯示，他內心存在彼此沖突的沖動。其中一篇寫道：“只要別人也別靠這件事發財，我自己不發財也無所謂。” 另一篇里，他問自己：“所以，我真正想要的到底是什么？” 在他的答案中，有一條是：“從財務上說，什么能讓我做到身家10億美元。”

2017年，伊利亞在辦公室里讀到谷歌研究人員剛剛發表的一篇論文，文中提出了“一種新的簡單網絡架構，Transformer”。他一下從椅子上跳起來，沿著走廊跑去，對其他研究人員說：“把手頭所有事都停下。這就是它了。” 伊利亞意識到，Transformer 可能是一項關鍵創新，能讓 OpenAI 訓練出復雜得多的模型。正是從這一發現中，誕生了第一個生成式預訓練 Transformer，也就是后來 ChatGPT 的種子。

隨著這項技術越來越強大，我們得知，OpenAI 大約十幾名頂尖工程師曾舉行過一系列秘密會議，討論 OpenAI 的創始人，包括布羅克曼和奧特曼，是否值得信任。在其中一次會議上，有位員工想起英國喜劇二人組 Mitchell and Webb 的一則小品：一名身處東線戰場的納粹士兵，在某個突然清醒的瞬間問道：“難道我們才是壞人嗎？”

到2018年，阿莫代伊已經開始更公開地質疑創始人的動機。“一切都成了一套輪番上陣的融資花招。” 他后來在筆記中寫道，“我覺得，OpenAI 需要的是一份清楚說明自己會做什么、不會做什么，以及它的存在將如何讓世界變得更好的聲明。” OpenAI 當時已經有一份使命宣言：“確保通用人工智能造福全人類。” 但在阿莫代伊看來，這句話對高管層究竟意味著什么，甚至是否意味著任何實質內容，都并不清楚。阿莫代伊后來說，2018年初，他開始為公司起草一份章程，并在與奧特曼和布羅克曼連續數周的交談中，推動加入其中最激進的一項條款：如果某個“價值觀對齊且重視安全的項目”比 OpenAI 更接近率先造出 AGI，那么公司將“停止與該項目競爭，轉而協助該項目”。按照這項后來被稱為“合并與協助”條款的規定，舉例來說，如果谷歌的研究人員先一步找到了構建安全 AGI 的辦法，那么 OpenAI 就可以自行退出競爭，并把自己的資源轉交給谷歌。按照任何正常的公司邏輯，這都是一個瘋狂的承諾。但 OpenAI 本來就不該是一家普通公司。

這一前提在2019年春天遭遇了考驗。當時，OpenAI 正在與微軟談判一筆10億美元投資。阿莫代伊當時負責公司的安全團隊，雖然他曾幫助向比爾·蓋茨推介這筆交易，但團隊中許多人都對此感到不安，擔心微軟會加入某些條款，從而凌駕于 OpenAI 的倫理承諾之上。阿莫代伊給奧特曼提交了一份按優先級排序的安全要求清單，其中排在最前面的，就是保留“合并與協助”條款。奧特曼同意了這一要求，但到了6月，在交易即將敲定時，阿莫代伊發現，合同里又加入了一項條款，賦予微軟阻止 OpenAI 進行任何合并的權力。“章程里有百分之八十的內容就這樣被背叛了。” 阿莫代伊回憶說。他當面質問奧特曼，后者否認這項條款存在。阿莫代伊便指著文本，把條款逐字讀出來，最終還迫使另一名同事當著奧特曼的面，直接向他確認這項條款確實存在。（奧特曼表示自己不記得這件事了。）阿莫代伊的筆記描述了幾次愈發緊張的交鋒，其中包括數月后的一次：奧特曼把他和他妹妹達妮埃拉·阿莫代伊（Daniela Amodei）叫去。達妮埃拉當時在公司負責安全和政策工作。奧特曼告訴他們，自己從一位高管那里得到了“可靠消息”，說他們一直在策劃政變。筆記接著寫道，達妮埃拉“徹底爆發了”，把那位高管直接叫了進來，而對方否認自己說過這樣的話。正如一位聽取過情況通報的人士回憶的那樣，奧特曼隨后又否認自己提出過這一指控。“我根本沒那么說。” 他說。“你剛才就是這么說的。” 達妮埃拉回擊道。（奧特曼表示，這并不完全符合他的記憶，他說自己只是指責阿莫代伊兄妹存在“政治性操作”。）2020年，阿莫代伊、達妮埃拉以及其他一些同事離開 OpenAI，創辦了 Anthropic。如今，這家公司已成為 OpenAI 的主要競爭對手之一。

奧特曼繼續宣揚 OpenAI 對安全的承諾，尤其是在潛在招募對象聽得見的時候。2022年末，四位計算機科學家發表了一篇論文，部分動機正是出于對“欺騙性對齊”的擔憂。所謂欺騙性對齊，是指足夠先進的模型可能會在測試時假裝表現良好，而一旦部署出去，就轉而追求自己的目標。（這只是聽上去像科幻小說的幾種人工智能情景之一，但在某些實驗條件下，它其實已經發生了。）論文發表幾周后，其中一位作者，一名加州大學伯克利分校的博士生，收到了一封奧特曼發來的電子郵件。奧特曼在信中說，他越來越擔心“未對齊”人工智能所構成的威脅。他還說，自己正在考慮為這個問題投入10億美元。許多人工智能專家認為，這是當今世界最重要的未解問題之一。奧特曼設想的做法之一，是設立一項獎項，激勵全球研究人員去研究這一問題。那位博士生對我們說，盡管他此前“隱約聽過一些關于山姆為人滑頭的傳聞”，但奧特曼表現出的這種投入還是打動了他。他因此從學術崗位暫時離職，加入了 OpenAI。

但在2023年春天的幾次會議過程中，奧特曼似乎開始動搖。他不再提設立獎項的事，轉而主張成立一支內部“超級對齊團隊”。一份正式公告承諾，這支團隊將獲得公司迄今已爭取到手的算力資源中的20%，其潛在價值可能超過10億美元。公告稱，這項工作之所以必要，是因為如果對齊問題仍得不到解決，AGI 可能會“導致人類失去自主地位，甚至滅絕”。被任命與蘇茨克維一同領導該團隊的揚·萊克（Jan Leike）對我們說：“這確實是個相當有效的留人手段。”

然而，這項20%的承諾后來化為烏有。四位曾在該團隊工作或與該團隊密切合作的人士表示，團隊實際得到的資源只占公司總算力的1%到2%。此外，團隊中的一名研究人員說，“分給超級對齊的那些算力，其實大多都在最舊的集群上，用的是最差的芯片。” 這些研究人員認為，更好的硬件被留給了能夠帶來利潤的業務活動。（OpenAI 對此予以否認。）萊克曾向當時擔任首席技術官的穆拉蒂抱怨，但她告訴他，不要再揪著這個問題不放，因為那項承諾從一開始就不現實。

大約就在這個時期，一位前員工對我們說，伊利亞“越來越變得極端安全至上了”。在 OpenAI 早期，他雖然認為災難性風險值得重視，但那仍是相對遙遠的事。如今，隨著他愈發相信 AGI 已迫在眉睫，他的擔憂也變得更為尖銳。那位前員工繼續說，曾有一次全員大會，“伊利亞站起來，大意是說，各位，未來幾年里會有一個時點，到那時這家公司里幾乎每個人都得轉去做安全，否則我們就完了。” 但到了次年，這支超級對齊團隊就在尚未完成使命的情況下被解散了。

到那時，內部信息顯示，公司高管和董事會成員已經開始相信，奧特曼的遺漏和欺瞞可能會對 OpenAI 產品的安全產生影響。2022年12月的一次會議上，奧特曼向董事會成員保證，即將發布的 GPT-4 中的多項功能已經獲得安全小組批準。身為董事、也是人工智能政策專家的海倫·托納（Helen Toner）要求查看文件記錄。結果她發現，其中最具爭議的兩項功能并未獲批，一項允許用戶為特定任務對模型進行“微調”，另一項則把它作為個人助理推出。企業家塔莎·麥考利（Tasha McCauley）也是董事會成員。她離開會議時，有員工把她拉到一旁，問她是否知道“印度那起違規事件”。奧特曼在對董事會進行長時間匯報時，始終沒有提到一件事：微軟曾在未完成必要安全審查的情況下，就在印度發布了 ChatGPT 的一個早期版本。“這件事基本上就被徹底忽略了。” 當時在 OpenAI 從事研究工作的雅各布·希爾頓（Jacob Hilton）說。

盡管這些疏漏并未釀成安全危機，但另一位研究人員卡羅爾·溫賴特（Carroll Wainwright）說，這些問題體現出一種“不斷滑向重產品、輕安全”的傾向。GPT-4 發布后，萊克給董事會成員發去一封郵件。“OpenAI 正在偏離自身使命的軌道。”他寫道，“我們如今把產品和營收置于首位，其次是人工智能能力、研究和擴張，而對齊與安全則只排在第三位。” 他接著寫道：“谷歌之類的其他公司如今從中得出的教訓是，它們應該更快部署產品，并對安全問題置之不理。”

麥考利在一封發給其他董事的郵件中寫道：“我認為，我們顯然已經到了董事會應當提高審查力度的時候。” 董事會成員試圖應對他們眼中這個不斷惡化的問題，但他們在力量上處于下風。前董事蘇·尹（Sue Yoon）說：“說得直白一點，你面對的是一群資歷尚淺、實際上沒真正做成過什么事的人。”到2023年，公司正準備發布 GPT-4 Turbo 模型。根據伊利亞在備忘錄中的說法，奧特曼顯然曾告訴穆拉蒂，這個模型不需要經過安全審批，并援引公司總法律顧問杰森·權（Jason Kwon）的話作為依據。但當穆拉蒂通過 Slack 去問杰森·權時，后者回道：“唉……我搞不清山姆為什么會有這種印象。”（OpenAI 的一位代表表示，權目前仍在該公司任職，而這件事“算不上什么大問題”。）

不久之后，董事會作出了解雇奧特曼的決定。隨后，全世界又眼看著奧特曼把這一決定扭轉了回來。如今，OpenAI 的官網上仍然可以看到一版公司章程。但熟悉其治理文件的人士說，這份章程已經被稀釋到了幾乎失去意義的地步。去年6月，奧特曼在個人博客中談到超級人工智能時寫道：“我們已經越過了事件視界；起飛已經開始。” 按照那份章程，這本來可以說正是 OpenAI 可能停止與其他公司競爭、轉而開始與它們合作的時刻。但在那篇題為《溫和的奇點》（The Gentle Singularity）的博文中，他采用了一種新的語調，用興高采烈的樂觀主義取代了過去的存續性恐懼。“我們都會擁有更好的東西。” 他寫道，“我們將為彼此建造越來越美妙的事物。” 他承認，對齊問題仍未解決，但他重新定義了它：它不再是一種致命威脅，而只是一個不便之處，就像那些誘使我們在 Instagram 上無休止刷下去、浪費時間的算法一樣。

奧特曼常常被人帶著敬意，或懷著懷疑，形容為他這一代人中最厲害的推銷者。史蒂夫·喬布斯是他的偶像之一。人們說，喬布斯身上帶著一種“現實扭曲力場”，那是一種不可動搖的自信，仿佛世界終將順從他的愿景。但即便是喬布斯，也從沒對顧客說過，如果他們不買他家的 MP3 播放器，他們所愛的人就會死。2008年，23歲的奧特曼在導師格雷厄姆筆下是這樣的人：“你把他空投到一個滿是食人族的島上，五年后再回來，他已經會是那里的國王。” 這種判斷并不是基于奧特曼當時尚稱有限的履歷，而是基于他那種非贏不可的意志。格雷厄姆認為，這種意志幾乎無法約束。當有人建議不要把 Y.C. 校友列入“全球頂級創業者”名單時，格雷厄姆還是把奧特曼放了進去。“山姆·奧特曼不會被這種輕飄飄的規矩攔住。” 他寫道。

格雷厄姆原本是把這話當作贊美來說的。但奧特曼身邊一些最親近的同事，后來卻對這種特質有了不同看法。伊利亞對人工智能安全愈發感到憂慮之后，整理出了關于奧特曼和布羅克曼的那些備忘錄。此后，這些備忘錄在硅谷幾乎帶上了傳奇色彩；在某些圈子里，人們干脆直接把它們稱作“伊利亞備忘錄”。與此同時，阿莫代伊也在繼續整理自己的筆記。這些筆記以及其他與他有關的文件，勾勒出他如何從謹慎的理想主義一步步轉向警覺不安。他的措辭比伊利亞更激烈，時而對奧特曼怒不可遏，“他說的話幾乎肯定全是胡扯”，時而又對自己所說的沒能糾正 OpenAI 方向一事流露出惆悵。

這兩組文件里都沒有所謂“一錘定音”的鐵證。相反，它們記錄的是一連串據稱存在的欺瞞與操弄；其中每一件事，單獨拿出來看，或許都只會讓人聳聳肩：奧特曼據說把同一份工作同時許給兩個人，就誰該出現在一次直播中給出彼此矛盾的說法，又在安全要求上含糊其詞、閃爍其辭。但伊利亞得出的結論是，這種行為“不會營造出有利于創造安全 AGI 的環境”。阿莫代伊和伊利亞從來不是關系親密的朋友，但他們得出了相似的判斷。阿莫代伊寫道：“OpenAI 的問題，就在山姆本人。”

我們采訪了一百多位親身了解奧特曼如何做生意的人：現任和前任 OpenAI 員工及董事會成員，奧特曼不同住處的訪客和工作人員，他的同事與競爭對手，他的朋友與敵人，以及若按硅谷那種唯利是圖的文化來看，有些人甚至兩種身份都當過。（OpenAI 與《紐約客》母公司康泰納仕（Condé Nast）簽有一項協議，允許 OpenAI 在限定期限內于搜索結果中展示其內容。）

有些人為奧特曼的商業手腕辯護，并把他的對手，尤其是伊利亞和阿莫代伊，斥為覬覦他王座卻最終失手的人。也有人把他們描繪成輕信、心不在焉的科學家，或是歇斯底里的“末日派”，被一種幻覺攫住，仿佛他們所建造的軟件終究會活過來并把他們殺死。前董事尹（Yoon）則認為，奧特曼“并不是那種馬基雅維利式的反派”，他只是能夠說服自己相信自己推銷說辭中不斷變化的現實，而且這種能力幾乎到了“輕率失當”的地步。“他太沉浸于自己的自我信念之中了。”她說，“所以他會做出一些事情，如果你生活在現實世界里，就會覺得完全說不通。但他并不活在現實世界里。”

然而，我們采訪的大多數人都認同伊利亞和阿莫代伊的判斷：奧特曼身上有一種不知疲倦的權力意志，即便放在那些會把自己名字印在宇宙飛船上的工業巨頭中間，這種特質也依然使他顯得格外突出。一位董事會成員對我們說：“真相對他構不成約束。他身上有兩種幾乎不會同時出現在同一個人身上的特質。第一種，是強烈地想取悅別人，想在任何一次互動中都讓人喜歡自己。第二種，則是近乎反社會人格式地不在乎欺騙別人可能帶來什么后果。”

那位董事并不是唯一一個在沒有被引導的情況下主動用了“反社會人格”這個詞的人。奧特曼在第一屆 Y Combinator 隊列中的同批創業者之一，是亞倫·斯沃茨（Aaron Swartz）。這位才華橫溢卻命途多舛的程序員于2013年自殺身亡，如今在許多科技圈子里幾乎被視作某種先知式人物。就在去世前不久，斯沃茨曾向幾位朋友表達過他對奧特曼的擔憂。“你必須明白，山姆永遠不值得信任。” 他對其中一人說，“他是個反社會人格者。他什么事都做得出來。” 微軟多位高管也表示，盡管納德拉長期對奧特曼保持忠誠，但微軟與奧特曼的關系已變得緊張棘手。“他曾歪曲、扭轉、重新談判，也曾在達成協議后又反悔。” 其中一人說。今年早些時候，OpenAI 再次確認微軟是其“無狀態”模型，也就是不保留記憶的模的獨家云服務提供商。就在同一天，OpenAI 又宣布了一項價值500億美元的交易，由亞馬遜成為其面向人工智能代理企業平臺的獨家轉售商。盡管轉售本身是被允許的，但微軟高管認為，OpenAI 的這項安排可能與微軟的獨家權相沖突。（OpenAI 堅稱，與亞馬遜的交易不會違反此前合同；微軟一位代表則表示，公司“有信心相信 OpenAI 理解并尊重”其法律義務。）那位微軟高管談到奧特曼時說：“我認為，最終人們把他記作伯尼·麥道夫（Bernie Madoff）或山姆·班克曼-弗里德（Sam Bankman-Fried）級別騙子的可能性雖然不大，但確實存在。”

奧特曼并不是技術上的神童。按照許多與他關系密切的人的說法，他在編程或機器學習方面并不具備深厚專長。多位工程師回憶說，他曾誤用或混淆一些最基礎的技術術語。他打造 OpenAI，很大程度上靠的是調動別人的資金和技術才能。這并不使他顯得獨特，只說明他是個商人。更不同尋常的是，他能夠讓原本遲疑不定的工程師、投資人，以及對科技本就存疑的公眾相信，他們的優先事項，即便彼此互相沖突，也同樣是他的優先事項。每當這些人試圖阻礙他的下一步行動時，他往往總能找到一套說辭，至少暫時把他們安撫住；通常等到他們終于對他失去耐心時，他早已經拿到了自己想要的東西。前 OpenAI 研究員溫賴特說：“他會先搭建一些從紙面上看未來會約束他的結構。可等到未來真的來了，輪到這些結構去約束他時，他就會把那套結構直接拆掉。”

一位曾與奧特曼共事的科技公司高管說：“他的說服力強得不可思議，簡直像絕地武士的心靈操控。他就是高了一個層級。” 在對齊研究中，有一種經典的假設情境，講的是人類與高能力人工智能之間的意志較量。研究人員通常認為，在這樣的較量中，人工智能幾乎肯定會贏，就像國際象棋大師一定能擊敗一個孩子一樣。這位高管接著說，在“閃逝”期間看著奧特曼在周圍人之間輾轉騰挪、步步占先，就像是在看“一個 AGI 從盒子里逃出來”。

在被解職后的那幾天里，奧特曼竭力阻止任何外部調查去核查針對他的指控。他曾對兩個人說，他擔心哪怕只是存在一項調查這件事本身，都會讓自己看起來像有罪一樣。（奧特曼對此予以否認。）不過，在辭任的董事會成員把“必須進行獨立調查”作為離職條件之后，奧特曼同意對“近期事件”進行一次“審查”。據參與談判的人士說，兩位新董事堅持要求由他們來掌控這次審查。薩默斯憑借其在政界和華爾街的人脈網絡，似乎為這次審查增添了可信度。（去年11月，在披露出一批電子郵件后，人們發現薩默斯在追求一位年輕門生并與其發展戀愛關系期間，曾向杰弗里·愛潑斯坦征求建議。此后，他辭去了董事席位。）OpenAI 聘請了威嘉律師事務所負責這次審查。這家知名律所曾主持安然和世通的內部調查。

六位與這次調查關系密切的人士指稱，這項調查看上去像是被刻意設計成盡量減少透明度。其中一些人說，調查人員起初甚至沒有聯系公司里一些關鍵人物。一名員工主動聯系了薩默斯和泰勒提出質疑。那名員工回憶說，自己接受調查人員訪談時的感受是：“他們只關心董事會風波期間發生的那一小段事情，而不關心他誠信方面的歷史。” 另一些人則不愿分享自己對奧特曼的擔憂，因為他們覺得在匿名保護方面做得遠遠不夠。“一切跡象都表明，他們想要的結果就是給他脫罪。” 這名員工說。（參與調查的一些律師則為流程辯護稱：“這是一次獨立、審慎、全面的審查，事實把我們引向哪里，我們就跟到哪里。” 泰勒也表示，這次審查“徹底而獨立”。）

企業調查的一個目的，是為某件事賦予合法性。在私營公司里，調查結論有時不會被寫成書面文件，這也可能是為了限制責任暴露。但在涉及公眾丑聞的案件中，外界通常會對透明度抱有更高期待。2017年，在卡蘭尼克離開優步前，優步董事會曾聘請一家外部機構進行調查，并向公眾發布了一份13頁的摘要。鑒于 OpenAI 具有 501(c)(3) 非營利身份，而這次解職又高度引人注目，公司內部許多高管原本都預計會看到一份內容詳盡的調查結論。然而，到了2024年3月，OpenAI 宣布奧特曼被證明沒有問題，卻沒有公布任何報告。公司只是在官網上放出大約八百字的說明，承認曾出現過“信任破裂”。

參與調查的人士說，沒有發布報告，是因為壓根就沒有寫報告。調查結果僅限于口頭匯報，并傳達給了薩默斯和泰勒。與調查關系密切的一人說：“這項審查并沒有得出結論，說山姆在誠信方面像華盛頓砍櫻桃樹的故事那樣無可挑剔。” 但這項調查似乎并沒有把導致奧特曼被解職的誠信問題置于核心位置，而是把大量注意力放在尋找明確的刑事犯罪上；在此基礎上，調查得出結論認為，他可以繼續擔任首席執行官。不久后，奧特曼在被解職時失去的董事席位也恢復了。那位知情人士告訴我們，不把報告寫成書面文本的決定，部分是根據薩默斯和泰勒私人律師的建議作出的。（薩默斯拒絕在記錄中發表評論。泰勒則表示，既然已經有口頭匯報，“就沒有必要再出一份正式的書面報告”。）

許多曾經或仍在 OpenAI 工作的人告訴我們，他們對缺乏披露感到震驚。奧特曼則表示，他相信在自己復職后加入董事會的所有成員都聽取了那些口頭匯報。對此，一位直接了解情況的人說：“這完全是徹頭徹尾的謊言。” 一些董事告訴我們，圍繞那份審查報告完整性的持續疑問，可能會像其中一人所說的那樣，帶來“需要再次調查”的情況。

沒有書面記錄，使這些指控更容易被淡化。與此同時，奧特曼在硅谷地位的不斷抬升，也在起到同樣作用。多位曾與奧特曼共事的知名投資人告訴我們，如果投資人支持 OpenAI 的競爭對手，奧特曼就有把他們排除在圈外的名聲。其中一人說：“如果他們投了某個他不喜歡的項目，那他們以后就拿不到其他機會了。” 奧特曼權力的另一個來源，是他龐大的投資名單，這種影響有時甚至延伸到他的私人生活。他與許多前任戀愛對象存在財務糾葛，有時是作為基金聯席管理人，有時是領投人，有時則是頻繁共同投資的伙伴。這當然不算罕見，硅谷許多異性戀男性高管也會對自己的戀愛對象或性關系對象做同樣的事。（一位知名首席執行官對我們說：“你不得不這樣。”）奧特曼說：“很明顯，我確實在事后和一些前任一起投過項目。我覺得這完全沒問題。” 但這種關系會帶來一種不同尋常的控制程度。一位與奧特曼關系密切的人說：“這本質上會制造出一種非常非常高的依賴。很多時候，這是一種終身依賴。”

即便是昔日同事，也可能受到影響。穆拉蒂于2024年離開 OpenAI，并開始籌建自己的人工智能創業公司。奧特曼的親密盟友喬什·庫什納曾給她打過電話。他先稱贊了她的領導力，隨后又發出一種近乎隱晦的威脅，表示自己“擔心”她的“名聲”，并說她過去的同事現在把她視作“敵人”。（庫什納通過一位代表表示，這一說法“沒有傳達出完整語境”；奧特曼則說，他并不知道這通電話。）

在擔任首席執行官之初，奧特曼曾宣布，OpenAI 將建立一家“利潤封頂”的公司，由非營利機構持有。這種錯綜復雜的公司結構似乎在奧特曼設計出來之前根本不存在。在改制過程中，一位名叫霍爾頓·卡爾諾夫斯基（Holden Karnofsky）的董事對此提出反對，認為非營利機構的估值被嚴重低估了。卡爾諾夫斯基說：“我沒法憑著良心這么做。” 他是阿莫代伊的連襟。根據同時期筆記，他投了反對票。然而，在董事會一位律師表示，他的異議“可能構成一個信號，需要進一步調查”這種新結構是否合法之后，他的投票記錄被改成了棄權，而且顯然未經他的同意，這可能構成對商業記錄的篡改。（OpenAI 告訴我們，有幾名員工記得卡爾諾夫斯基當時投的是棄權票，并提供了會議紀要，顯示他的表決被記錄為棄權。）

去年10月，OpenAI 完成“資本重組”，變為一家營利性實體。公司將與之關聯的非營利機構，如今稱為 OpenAI 基金會（OpenAI Foundation），宣傳為史上“資源最充足”的基金會之一。但這家基金會如今只持有公司26%的股份，而且其董事，除一人外，也同時都是營利性董事會成員。

在國會作證時，奧特曼曾被問到，自己是不是“賺了很多錢”。他回答說：“我在 OpenAI 沒有任何股權……我做這件事，是因為我熱愛它。” 在他通過 Y.C.基金間接持有權益的情況下，這是一種措辭非常謹慎的回答。從嚴格意義上說，這話至今仍然成立。但包括奧特曼本人在內的幾個人都向我們表示，這種情況很快可能會改變。奧特曼說：“投資人會說，我得知道，在局面變得艱難的時候你還會繼續留在這件事上。” 不過他又補充說，目前并沒有“積極進行中的討論”。根據一份法律證詞，布羅克曼似乎持有一筆價值約200億美元的公司股份。奧特曼若持股，其價值大概率還會更高。盡管如此，他仍告訴我們，驅動自己的首要因素并不是財富。一位前員工回憶說，奧特曼曾表示：“我不在乎錢。我更在乎權力。”

2023年，奧特曼與穆赫林在他們位于夏威夷的一處住宅舉行了一場小型婚禮。（兩人是在九年前相識的，當時已是深夜，他們待在彼得·蒂爾（Peter Thiel）的熱水浴缸里。）他們曾在那處房產接待各類賓客，而我們采訪過的來客所見到的，無非是超級富豪的標準消遣：私人廚師準備的餐食，夕陽時分的乘船游玩。有一年新年派對以真人秀《幸存者》（Survivor）為主題；一張照片里，幾名袒露上身、面帶笑容的男子出鏡，真正的《幸存者》主持人杰夫·普羅斯特（Jeff Probst）也在其中。奧特曼還曾在自己的其他房產里接待過規模更小的朋友聚會，至少有一次其中玩過頗為熱烈的脫衣撲克。（那次活動的一張照片里沒有奧特曼，誰贏了并不清楚，但至少有三名男子顯然輸了。）我們采訪了許多曾到訪的客人，他們提出的印象幾乎只有一點：奧特曼是個慷慨的主人。

盡管如此，有關奧特曼私生活的流言，卻被競爭對手利用并加以扭曲。殘酷的商業對抗并不新鮮，但人工智能行業內部的競爭已變得異常你死我活。（一位 OpenAI 高管對我們形容它時用了“莎士比亞式”這個詞，并補充說：“通常的游戲規則現在已經不太適用了。”）與馬斯克有直接聯系，并且至少有一人在收取報酬的情況下，幾位中間人散布了數十頁關于奧特曼的詳細反對派調查材料。這些材料反映出極其廣泛的監視，記錄了與他有關的殼公司，他親近同事的私人聯系方式，甚至還有人在同志酒吧里就一名所謂性工作者展開訪談的內容。其中一位馬斯克陣營的中間人聲稱，奧特曼的航班以及他參加過的派對都在被追蹤。奧特曼對我們說：“我想，大概沒有誰像我這樣，被人雇來這么多私家偵探專門調查過。”

一些極端指控也在流傳。右翼播音員塔克·卡爾森（Tucker Carlson）在沒有明顯證據的情況下暗示，奧特曼與一名吹哨人的死亡有關。這類說法以及其他指控，又被競爭對手進一步放大。奧特曼的妹妹安妮在一樁訴訟中以及在接受我們采訪時聲稱，奧特曼曾長期對她實施性侵，始于她三歲、而他十二歲的時候。（我們無法證實安妮的說法。奧特曼對此予以否認，而他的兄弟和母親則稱這些指控“完全不屬實”，并說它給“我們整個家庭帶來了巨大痛苦”。在記者凱倫·郝（Karen Hao）為其著作《AI 帝國》（Empire of AI）所作的采訪中，安妮曾暗示，這些被侵害的記憶是在成年后經歷閃回時被重新喚起的。）

來自競爭公司和投資機構的多名人士還向我們影射說，奧特曼會對未成年人進行性追逐。這種敘事在硅谷持續存在，但看起來并不屬實。我們花了數月時間調查此事，進行了數十次采訪，卻找不到任何支持這一說法的證據。奧特曼對我們說：“我認為，某個競爭對手這種行為令人作嘔，我想這大概是為了在我們即將到來的案件中污染陪審團視聽。” 他還說：“盡管不得不把這種話說出口本身就很荒唐，但所有關于我與未成年人發生性關系、雇傭性工作者，或卷入一起謀殺案的說法，都完全不屬實。” 他補充說，某種程度上自己“反而有點感激”，因為我們花了幾個月時間“如此激烈地試圖查證這些事”。

奧特曼承認，自己曾與符合法定年齡的年輕男性交往。我們采訪了他的幾位伴侶，他們都表示并不認為這有什么問題。但來自馬斯克陣營中間人的那些材料，卻把這件事包裝成一條攻擊路線。（這些材料中還夾雜著一些帶有性獵奇色彩、卻未經證實的提法，例如所謂“美少年軍團”和“糖爹的性習慣”。）奧特曼說：“我覺得，里面有很多恐同因素被推了出來。” 科技記者斯威舍也表示認同。“這些有錢人做的荒唐事多得是，比我聽說過的任何關于山姆的事情都更夸張。” 她告訴我們，“但他是舊金山的一個同性戀男人”，她接著說，“所以這一點就會被武器化。”

十年來，社交媒體高管一直承諾，他們能夠改變世界，而且幾乎沒有代價或副作用。他們把那些想讓他們放慢腳步的議員斥為技術盧德分子，最終招來了兩黨共同的嘲諷。相比之下，奧特曼給人的感覺則是令人耳目一新的認真謹慎。他沒有試圖擋開監管，反而幾乎是在懇求監管。2023年在參議院司法委員會作證時，他曾提議成立一個新的聯邦機構，對先進人工智能模型進行監管。“如果這項技術出了問題，那后果可能會非常嚴重。” 他說。以與科技公司首席執行官交鋒時言辭尖刻著稱的路易斯安那州參議員約翰·肯尼迪（John Kennedy）似乎都被他打動了，一只手托著臉，甚至暗示也許應由奧特曼本人來執行這些規則。

但在公開歡迎監管的同時，奧特曼也在私下游說反對監管。《時代》周刊報道稱，2022年和2023年，OpenAI 成功推動歐盟削弱一項監管努力。原本那項努力會讓大型人工智能公司受到更多監督。2024年，加州州議會提出一項法案，要求對人工智能模型進行安全測試。法案中的一些條款，與奧特曼此前在國會聽證時主張的內容頗為相似。OpenAI 公開反對這項法案，同時私下開始發出威脅。一位立法助理對我們說：“我會說，在那一整年里，我們看到 OpenAI 的行為越來越狡猾，也越來越具有欺騙性。”

投資人康威曾游說包括南希·佩洛西和加文·紐森在內的州級政治領袖，要求扼殺這項法案。最終，法案在兩黨支持下通過州議會，但被紐森否決。今年，那些支持人工智能監管的國會候選人，面對的是由“引領未來”這一新成立的“親人工智能”超級政治行動委員會資助的對手。該委員會的目標正是阻止這類限制措施。OpenAI 的官方立場是，不會向此類超級政治行動委員會捐款。“這個問題超越黨派政治。” 勒哈恩最近對 CNN 表示。但“引領未來”的主要捐助者之一，正是格雷格·布羅克曼，他已承諾捐出5000萬美元。（今年，布羅克曼和他的妻子還向親特朗普的超級政治行動委員會 maga Inc. 捐了2500萬美元。）

OpenAI 的行動并不止于傳統游說。去年，一項后續法案被提交到加州參議院。一天晚上，29歲的律師內森·卡爾文（Nathan Calvin）正和妻子在家吃晚飯。他供職于非營利組織 Encode，并曾參與起草該法案。這時，一名送達員上門，送來一份來自 OpenAI 的傳票。公司聲稱自己是在尋找證據，以證明馬斯克正在秘密資助其批評者。但它要求提供的，卻是卡爾文就加州參議院這項法案所進行的一切私人通信。“他們完全可以直接問我們，‘你們有沒有和埃隆·馬斯克接觸過，或者拿過他的錢？’ 而答案是沒有。” 卡爾文對我們說。其他支持這項法案的人，以及一些批評 OpenAI 營利化重組的人，也都收到了傳票。掌管詹姆斯·歐文基金會（James Irvine Foundation）這一慈善機構的唐·霍華德（Don Howard）說：“他們就是在針對這些人，基本上是想把他們嚇得閉嘴。”（OpenAI 則表示，這只是標準法律程序的一部分。）

奧特曼長期支持民主黨。“我對那種強大的專斷統治者編造恐懼敘事、煽動起來去對付弱者的做法一直非常警惕。” 他對我們說，“這更多是一種猶太人的敏感，而不是同性戀者的敏感。” 2016年，他支持希拉里·克林頓，并稱特朗普是“美國前所未有的威脅”。2020年，他向民主黨和拜登勝利基金捐款。在拜登政府時期，奧特曼至少六次與白宮會面。他還幫助制定了一項篇幅很長的行政命令，為人工智能建立起第一個聯邦層面的安全測試和其他防護欄框架。拜登簽署該命令時，奧特曼稱其為“一個良好的開端”。

2024年，隨著拜登民調下滑，奧特曼的說辭開始變化。“我相信，無論這次選舉結果如何，美國都會沒事。” 他說。特朗普獲勝后，奧特曼向其就職基金捐了100萬美元，隨后又在就職典禮上與網紅兄弟杰克·保羅（Jake Paul）和洛根·保羅（Logan Paul）自拍合影。在 X 上，奧特曼用他一貫的小寫風格寫道：“最近更仔細地觀察 @potus，真的改變了我對他的看法（我真希望自己早些多獨立思考一點……）。” 特朗普在重返白宮的第一天，就廢除了拜登關于人工智能的行政命令。一位拜登政府的高級官員評價奧特曼時說：“他已經找到一種非常有效的方式，讓特朗普政府按他的意愿行事。”

馬斯克仍在公開場合持續痛罵奧特曼，叫他“騙子奧特曼”（Scam Altman）和“狡詐的山姆”（Swindly Sam）。（當奧特曼在 X 上抱怨自己訂購的一輛特斯拉時，馬斯克回擊說：“你偷走了一家非營利機構。”）然而，在華盛頓，奧特曼似乎已經從側翼壓過了他。馬斯克曾花費超過2.5億美元幫助特朗普再次當選，并在白宮工作了數月。后來，他離開了華盛頓，同時也損害了自己與特朗普的關系。

如今，奧特曼已成為特朗普青睞的富豪之一，甚至還曾陪同特朗普前往溫莎城堡拜訪英國王室。奧特曼和特朗普每年會通話幾次。奧特曼說：“你可以直接給他打電話。這不算什么哥們兒關系。但對，如果我有事需要和他說，我會打。” 去年特朗普在白宮宴請科技領袖時，馬斯克明顯缺席，而奧特曼則坐在總統對面。“山姆，你是個大人物。” 特朗普說，“你以前跟我講過一些事，簡直讓人難以置信。”

這些年來，奧特曼一直把追求 AGI 比作“曼哈頓計劃”。當年，J. 羅伯特·奧本海默（J. Robert Oppenheimer）為了說服物理學家離開原有生活、搬去洛斯阿拉莫斯，曾慷慨激昂地訴諸“拯救世界、避免納粹得手”這樣的理由。奧特曼則借助人們對其技術所涉地緣政治風險的擔憂，來推動自己的目標。面對不同聽眾時，他用這一類比既可以鼓動加速，也可以鼓動謹慎。2017年夏天，在一次與美國情報官員的會面中，他宣稱????已經啟動了一個“AGI 曼哈頓計劃”，而 OpenAI 需要數十億美元的政府資金，才能跟上步伐。當對方追問證據時，奧特曼說：“我聽到過一些消息。” 這是他在數次會面中首次提出這一說法。會后，他還告訴一位情報官員，自己會隨后提供證據。但他從未這么做。那位官員在調查所謂????項目后得出結論：沒有證據表明它存在。“這只不過是拿來當作推銷說辭。”（奧特曼則表示，他不記得自己曾以完全這樣的方式描述他們這樣的努力。）

而在面對對安全問題更為敏感的聽眾時，奧特曼又借這一類比傳達出幾乎相反的立場：AGI 必須在審慎推進和國際協調之下發展，否則后果可能是災難性的。2017年，阿莫代伊聘請佩奇·赫德利（Page Hedley）出任 OpenAI 的政策與倫理顧問。赫德利此前是一名公益律師。在她為公司高管準備的一份早期幻燈片中，她概述了 OpenAI 或許可以如何避免一場“災難性的”軍備競賽：比如先促成人工智能實驗室形成一個聯盟，最終再與某種類似北約的國際機制協調，以確保這項技術得到安全部署。按照赫德利的回憶，布羅克曼并不明白，這套設想究竟如何幫助公司擊敗競爭對手。‘無論我怎么說，’赫德利對我們說，‘格雷格總會繞回來問：那我們怎么籌到更多錢？我們怎么贏？’根據多次采訪和同時期記錄，布羅克曼隨后提出了一個替代方案：OpenAI 可以通過挑動包括????和俄羅斯在內的大國彼此競爭、從中漁利來讓自己變得更富，比如在它們之間挑起一場競價戰。按赫德利的說法，當時那套想法似乎是：既然核武器那一套行得通，人工智能為什么不行？

赫德利對此駭然失色。“那個前提，而且他們并沒有否認，就是：‘我們談論的，可能是有史以來破壞力最強的技術。如果把它賣給普京，會怎么樣？’” （布羅克曼堅稱，自己從未認真考慮過把人工智能模型拿去向各國政府競價出售。“當時只是在高層次上討論一些想法，看看什么樣的潛在框架可以鼓勵國家間合作，也許類似人工智能版的國際空間站。” 一位 OpenAI 代表說，“試圖把它描述成除此之外的任何東西，都荒謬至極。”）

頭腦風暴會議常常會冒出一些離奇想法。赫德利原本希望，這個后來在公司內部被稱為“國家計劃”的方案會被擱置。但根據幾位參與者的說法以及同時期文件，OpenAI 高管似乎反而對它越來越興奮。時任 OpenAI 政策主管的杰克·克拉克（Jack Clark）說，布羅克曼的目標是“基本上建立一種囚徒困境，讓所有國家都不得不給我們提供資金”，而這“也就隱含著，如果不給我們錢，會變成一件有風險的事”。一位初級研究員回憶說，在一次公司會議上聽到對這一計劃的詳細說明時，自己心里想的是：“這他媽完全瘋了。”

高管們曾就這一做法與至少一位潛在捐助者進行過討論。但就在當月稍后，幾名員工談到要辭職之后，這項計劃被放棄了。赫德利說，奧特曼“會失去員工”。“我感覺，在山姆的盤算里，這一點一直都比‘這不是一個好計劃，因為它可能會在大國之間引發戰爭’更有分量。”

盡管“國家計劃”夭折，奧特曼仍繼續追求同一主題的變體。2018年1月，他在貝萊爾酒店召集了一場“AGI 周末會議”。這是一家帶有老好萊塢風格的度假酒店，花園連綿起伏，粉色九重葛環繞，還有一片人工池塘，里面養著真正的天鵝。與會者包括牛津大學哲學家、人工智能末日論先知式人物尼克·博斯特羅姆（Nick Bostrom），阿聯酋人工智能事務國務部長奧馬爾·阿爾·奧拉馬（Omar Al Olama），以及至少七位億萬富豪。其中那些更關心安全的人，被告知這是一次思考社會如何為通用人工智能帶來的劇烈沖擊做準備的機會；而投資人則是帶著聽推介的預期到場的。

白天，眾人都在一間現代感十足的會議室里聽與會者發言。（LinkedIn 聯合創始人霍夫曼還在會上談到，如何把佛教式的慈悲觀念植入人工智能。）最后出場的是奧特曼。他帶來了一套推介幻燈片，講的是一種全球性加密貨幣，可以用來兌換 AGI 的“注意力”，也就是換取 AGI 的服務時間。一旦 AGI 變得極其有用，并且不會作惡，世界各地的人都會爭相購買 OpenAI 服務器的使用時長。阿莫代伊在筆記中寫道：“這個想法表面上就荒謬得很，事后看來，這是關于山姆諸多我本該更認真對待的危險信號之一。” 這個計劃看上去像是一次赤裸裸的圈錢之舉，但奧特曼卻把它包裝成有助于人工智能安全的方案。他有一頁幻燈片上寫著：“我想讓盡可能多的人加入‘好人’陣營，贏下來，并做正確的事。” 另一頁則寫著：“請把笑聲留到演講結束之后。”

奧特曼的融資說辭這些年來不斷演變，但它始終反映著一個事實：開發 AGI 需要令人瞠目的資本投入。他所遵循的是一條相對簡單的“擴展法則”：訓練模型時使用的數據和算力越多，模型似乎就會變得越聰明。而支撐這一過程的專用芯片，價格極其高昂。僅在最近一輪融資中，OpenAI 就籌得超過1200億美元，這不僅是歷史上規模最大的私人融資輪次，而且金額比史上最大規模的首次公開募股還高出四倍。一位科技行業高管兼投資人對我們說：“如果你去想，每年能夠自由支配1000億美元資金的實體，全球其實就那么幾個。美國政府、美國那四五家最大的科技公司、沙特人、阿聯酋人，基本上也就這些了。”

奧特曼最初瞄準的是沙特阿拉伯。他第一次見到沙特王儲、實際統治者穆罕默德·本·薩勒曼是在2016年，當時是在舊金山費爾蒙酒店的一場晚宴上。赫德利回憶說，那之后，奧特曼會把這位王儲稱作“朋友”。根據赫德利2018年9月的筆記，奧特曼當時曾說：“我在考慮，我們會不會接受沙特主權財富基金 PIF 的數百億美元。”

次月，據稱奉穆罕默德·本·薩勒曼之命行事的一支行動小隊勒死了曾批評沙特政權的《華盛頓郵報》記者賈邁勒·卡舒吉，并用骨鋸肢解了他的遺體。一周后，外界得知，奧特曼已加入 Neom 的顧問委員會。Neom 是本·薩勒曼希望在沙漠中打造的一座“未來之城”。如今在 Anthropic 任職的前 OpenAI 政策主管克拉克回憶說，他當時曾對奧特曼說：“山姆，你不能待在這個顧問委員會里。” 奧特曼起初為自己參與其中辯護，告訴克拉克，賈里德·庫什納曾向他保證，這件事“不是沙特人干的”。（奧特曼表示自己不記得這件事。庫什納則說，他們當時并無聯系。）

隨著本·薩勒曼所扮演的角色越來越清晰，奧特曼退出了 Neom 董事會。然而，在幕后，一位曾向奧特曼提供政策建議的顧問回憶說，奧特曼把這件事當成了暫時性挫折，轉而詢問自己是否仍有辦法從本·薩勒曼那里拿到錢。“問題不在于‘這件事到底壞不壞’，” 這位顧問說，“而只是，‘如果我們這樣做，會有什么后果？會不會涉及某種出口管制問題？會不會有制裁？也就是說，我能不能蒙混過關？’”

到了那時，奧特曼已經把目光投向了另一個資金來源：阿拉伯聯合酋長國。該國正處于一個為期十五年的轉型計劃之中，試圖從石油國家變成科技樞紐。這個項目由謝赫·塔赫農·本·扎耶德·阿勒納哈揚（Sheikh Tahnoon bin Zayed al-Nahyan）主導，他是阿聯酋總統的兄弟，也是這個國家的情報總管。塔赫農掌管著國有人工智能企業集團 G42，并控制著1.5萬億美元的主權財富。2023年6月，奧特曼訪問阿布扎比，會見了阿聯酋人工智能、數字經濟和遠程工作應用事務國務部長奧馬爾·蘇丹·奧拉馬（Omar Sultan Al Olama）及其他官員。在一場由政府支持的活動上，他表示，阿聯酋“在人工智能還沒成為潮流之前，就已經在談論人工智能”，并勾勒出一個未來圖景：在這個圖景中，中東將“扮演核心角色”。

對許多大型企業而言，從海灣國家融資已經成了慣常做法。但奧特曼所追求的是一個更宏大的地緣政治構想。2023年秋天，他開始悄悄為一項計劃招募新人才。這一計劃后來被稱作 ChipCo，其設想是由海灣國家出資數百億美元，建設龐大的芯片工廠和數據中心，其中一部分將坐落于中東。奧特曼曾向如今擔任 Meta 人工智能主管的亞歷山大·王（Alexandr Wang）推介一個領導職位，并告訴他，亞馬遜創始人杰夫·貝索斯可以來執掌這家新公司。奧特曼向阿聯酋尋求數額巨大的出資。一位董事會成員說：“據我了解，這整件事發生時，董事會對此毫不知情。” 曾被奧特曼招募加入該項目的研究人員詹姆斯·布拉德伯里（James Bradbury）回憶說，自己當時拒絕了。“我的第一反應是，‘這事會成，但我不知道自己是否希望它成。’” 他說。

人工智能能力也許很快就會取代石油或濃縮鈾，成為決定全球權力平衡的資源。奧特曼曾說，算力是“未來的貨幣”。正常情況下，數據中心建在哪里也許無關緊要。但許多美國國家安全官員都對將先進人工智能基礎設施集中布置在海灣專制國家感到不安。阿聯酋的電信網絡在很大程度上依賴一家與國家權力深度綁定的科技巨頭所提供的硬件設備；而且據報道，該國過去還曾發生美國敏感技術外泄的情況。正因如此，情報機構擔心，輸往阿聯酋的美國先進芯片，可能最終落入第三方工程技術人員之手。中東地區的數據中心也更容易遭受軍事打擊；就在最近幾周，伊朗曾轟炸美國在巴林和阿聯酋的數據中心。再進一步設想，某個海灣君主制國家甚至可能直接接管一個美國擁有的數據中心，并利用它來訓練出能力極其強大的模型。這會變成“AGI 獨裁”情景的一種現實版本，而且發生地真的是一個獨裁國家。

在奧特曼被解職之后，他最依賴的人是切斯基。這位 Airbnb 聯合創始人也是奧特曼最忠誠的支持者之一。切斯基對我們說：“看著我的朋友那樣直視深淵，讓我開始懷疑一些關于究竟該如何經營公司的根本性問題。” 次年，在一次 Y Combinator 校友聚會上，他做了一場臨時演講，結果一講就是兩個小時。“感覺像一場團體治療。” 他說。其核心意思是：對于如何經營你親手創辦的公司，你自己的直覺才是最好的直覺；任何告訴你并非如此的人，都只是在對你進行煤氣燈操控。“你并沒有瘋，哪怕那些給你打工的人說你瘋了。” 切斯基說。保羅·格雷厄姆（Paul Graham）后來在一篇關于這場演講的博客里，為這種反抗姿態起了個名字：“創始人模式”（Founder Mode）。

自“閃逝”之后，奧特曼就一直處于“創始人模式”之中。2024年2月，《華爾街日報》披露了奧特曼對 ChipCo 的設想。他把它構想為一家聯合實體，需要5萬億到7萬億美元投資。（他還在 X 上發文說：“fuck，干脆為什么不8萬億。”）對許多員工來說，他們正是通過這篇報道才第一次知道這一計劃。萊克回憶說：“所有人都一臉，‘等等，什么？’” 奧特曼在一次內部會議上堅稱，安全團隊此前已經被“納入討論”。萊克則給他發信息，敦促他不要誤導別人，以為這項計劃已經得到批準。

在拜登政府時期，奧特曼曾考慮申請安全許可，以參與機密級別的人工智能政策討論。但協助推進該流程的蘭德公司工作人員對此表示擔憂。其中一人寫道：“他一直在積極從外國政府籌集‘數千億美元’資金。阿聯酋最近還送了他一輛車。（我猜那一定是一輛非常好的車。）” 這位工作人員接著寫道：“我唯一能想到曾在這種規模的外國財務關系下走安全審查流程的人，就是賈里德·庫什納，而裁決人員當時建議不要授予他許可。” 最終，奧特曼自己退出了這一流程。一位參與與奧特曼會談的前政府高級官員告訴我們：“他推動的是一種交易性關系，主要對象是阿聯酋，這讓我們當中的很多人都感到強烈警惕。政府里很多人都沒有百分之百信任他。”

當我們問奧特曼，塔赫農送過他什么禮物時，他說：“我不會具體講他送過我什么。但他和其他一些國家領導人……確實送過我禮物。” 他還補充道：“我們有一套標準政策，對我也適用，那就是來自任何潛在商業伙伴的禮物，都要向公司披露。” 奧特曼至少擁有兩輛超級跑車：一輛全白色的科尼賽克 Regera，價值約200萬美元；一輛紅色的邁凱倫 F1，價值約2000萬美元。2024年，有人拍到奧特曼駕駛那輛 Regera 在納帕行駛。幾秒鐘的視頻流上社交媒體：奧特曼坐在一臺閃亮白色機器的低矮桶形座椅里，從車窗向外望去。一位與馬斯克立場一致的科技投資人把這段視頻發到 X 上，并寫道：“我也要去開一家非營利機構了。”

2024年，奧特曼曾帶著兩名 OpenAI 員工，前往塔赫農那艘價值2.5億美元的超級游艇 Maryah 上做客。Maryah 是全球最大的超級游艇之一，配有直升機停機坪、夜總會、電影院和海灘俱樂部。奧特曼帶去的員工，在塔赫農配備武裝安保的環境中顯得格外突兀，至少其中一人在事后告訴同事，自己覺得那次經歷令人不安。后來，奧特曼在 X 上把塔赫農稱作“親愛的私人朋友”。

奧特曼繼續與拜登政府會面，而拜登政府當時已出臺一項政策，要求任何敏感技術出口都必須獲得白宮批準。多位政府官員回憶說，從這些會面中出來時，他們都對奧特曼在中東的雄心感到不安。按這些官員的說法，他經常提出一些宏大到近乎夸飾的說法，包括把人工智能稱作“新的電力”。2018年，他曾表示，OpenAI 計劃從一家名為 Rigetti Computing 的公司購買一臺完全可用的量子計算機。這件事對當時在場的其他 OpenAI 高管而言都還是頭一回聽說。而 Rigetti 當時離能賣出一臺真正可用的量子計算機還差得很遠。在另一次會議上，奧特曼聲稱，到2026年，美國各地廣泛部署的核聚變反應堆網絡將為人工智能熱潮提供動力。那位政府高級官員說：“我們當時都在想，‘嗯，這可真是新聞，如果他們已經搞定了核聚變的話。’” 拜登政府最終沒有批準這一計劃。商務部一位負責人對奧特曼說：“我們不會在阿聯酋建設先進芯片。”

據《華爾街日報》報道，在特朗普就職前四天，塔赫農向特朗普家族支付了5億美元，以換取其加密貨幣公司股份。第二天，奧特曼與特朗普通了一次25分鐘的電話。兩人討論了宣布一個 ChipCo 版本的可能性，并希望把時間點安排得恰好能讓特朗普把功勞算到自己頭上。特朗普重返白宮的第二天，奧特曼站在羅斯福廳宣布了“星際之門”計劃。這是一項價值5000億美元的合資項目，目標是在美國境內建設龐大的人工智能基礎設施網絡。

5月，特朗普政府撤銷了拜登時期對人工智能技術出口的限制。奧特曼和特朗普一同前往沙特王室宮廷，會見本·薩勒曼。幾乎就在同時，沙特宣布將在國內成立一家大型國家支持的人工智能公司，手握數十億美元預算，用于國際合作。大約一周后，奧特曼又提出了讓 Stargate 擴展到阿聯酋的計劃。公司計劃在阿布扎比建設一片數據中心園區，面積是紐約中央公園的七倍，用電量則大致相當于整個邁阿密市。一位前 OpenAI 高管說：“說到底，我們是在建造一些傳送門，通過這些門，我們真的在召喚外星人。現在這些門已經存在于美國和????，而山姆又在中東加了一道。” 他接著說：“我覺得，真正重要的是要意識到這件事本該多么可怕。這是迄今做過的最魯莽的事。”

安全承諾的侵蝕，已經成了整個行業的常態。Anthropic 創立時的核心前提之一，就是認為只要擁有正確的結構和領導層，它就能在商業壓力下守住安全承諾。其中一項承諾就是“負責任擴展政策”，該政策要求 Anthropic 如果無法證明更強大模型是安全的，就必須停止訓練。到了今年2月，這家公司在獲得300億美元新融資之際，削弱了這項承諾。從某些方面看，Anthropic 依然比 OpenAI 更強調安全。但前政策主管克拉克說過：“資本市場這套系統傳遞出的信號就是，跑得更快。” 他還說：“做出這個決定的，是整個世界，不是公司。” 去年，阿莫代伊曾向 Anthropic 員工發送一份備忘錄，披露公司將尋求來自阿聯酋和卡塔爾的投資，并承認這很可能會讓“獨裁者”受益。（和許多作者一樣，我們也是一項集體訴訟的當事方。該訴訟指控 Anthropic 未經許可使用我們的著作來訓練其模型。康泰納仕則已就 Anthropic 使用其及其子公司出版的部分圖書一事，選擇加入與 Anthropic 達成的和解協議。）

2024年，Anthropic 與 Palantir 合作。Palantir 是硅谷最鷹派的國防承包商之一，而 Anthropic 則把自己的人工智能模型 Claude 直接推入了軍事生態系統。Anthropic 也成了唯一一家其人工智能承包業務被五角大樓用于最高機密環境的公司。去年，五角大樓又向其授予了一份2億美元合同。今年1月，美軍發動了一次午夜突襲，抓獲了委內瑞拉總統尼古拉斯·馬杜羅。據《華爾街日報》報道，Claude 被用于這場機密行動中。

但 Anthropic 與政府之間也出現了緊張。更早之前，OpenAI 已從公司政策中刪去一項全面禁令，這項禁令原本禁止將其技術用于“軍事和戰爭”。隨后，Anthropic 的競爭對手，包括谷歌和 xAI，都同意向軍方提供模型，用于“所有合法目的”。Anthropic 則在這些問題上堅持不退，其政策禁止其技術被用于完全自主武器或國內大規模監控，這也導致雙方就修訂后協議的談判進展放緩。2月下旬的一個星期二，國防部長皮特·赫格塞斯把阿莫代伊召到五角大樓，并下達最后通牒：公司必須在周五下午5點01分前放棄這些禁令。截止期限前一天，阿莫代伊拒絕這么做。赫格塞斯隨后在 X 上發文稱，他將把 Anthropic 列為“供應鏈風險”。幾天后，他果然兌現了這一威脅。

OpenAI 和谷歌的數百名員工簽署了一封題為《我們不會被分裂的公開信，聲援 Anthropic。奧特曼則在一份內部備忘錄中寫道，這場爭端是“整個行業都要面對的問題”，并聲稱 OpenAI 與 Anthropic 擁有相同的倫理邊界。但事實上，奧特曼至少早在兩天前就已經在與五角大樓展開談判。負責研究與工程事務的國防部副部長埃米爾·邁克爾在尋找 Anthropic 替代方案時聯系了奧特曼。邁克爾回憶說：“我得抓緊找其他替代者。我給山姆打了電話，而他很愿意跳進來。我覺得他是個愛國者。” 奧特曼問邁克爾：“我能為國家做點什么？” 看起來，他似乎已經知道答案。OpenAI 原本并不具備進入 Anthropic 技術所嵌入的那類機密系統所需的安全資質。但就在那個星期五早晨，雙方宣布了一項價值500億美元的交易，把 OpenAI 的技術整合進了亞馬遜云服務，而后者正是五角大樓數字基礎設施的關鍵組成部分。當晚，奧特曼便在 X 上宣布，軍方將開始使用 OpenAI 的模型。

從某些指標看，奧特曼的這番操作并沒有妨礙公司的成功。就在他宣布這筆交易的那一天，新一輪融資使 OpenAI 估值增加了1100億美元。但許多用戶刪除了 ChatGPT 應用。至少有兩名高級員工離職，其中一人去了 Anthropic。在一次員工會議上，奧特曼斥責了那些表達擔憂的員工。“也許你覺得打擊伊朗是對的，而入侵委內瑞拉是錯的。” 他說，“但你們沒有資格對這種事發表意見。”

幾位與 OpenAI 有關聯的高管一直對奧特曼的領導方式心存疑慮，并把曾任 Instacart 首席執行官、現任 OpenAI AGI 部署首席執行官的菲吉·西莫（Fidji Simo）作為潛在繼任人選提了出來。一位聽取過近期相關討論情況通報的人士對我們說，西莫本人私下也曾表示，她認為奧特曼最終可能會下臺。（西莫對此表示異議。Instacart 最近與美國聯邦貿易委員會達成和解，在不承認存在不當行為的前提下，同意就西莫任內被指存在的誤導性做法向消費者支付6000萬美元退款。）

奧特曼把自己不斷變化的承諾描述為一種適應環境變化的能力產物，而不是馬斯克等人所指控的那種陰險“長期騙局”，而是一種逐步發生、且出于善意的演化。他對我們說：“我覺得，有些人想要的是那種領導者，這個人會對自己的想法絕對確定，并一直堅持到底，不會改變。而我們所處的是一個變化極快的領域、一個變化極快的環境。” 他還把自己的一些行為辯護為“正常競爭性商業”的體現。我們采訪的幾位投資人則形容，奧特曼的批評者實在太天真，竟然期待事情會是別的樣子。投資人康威說：“有一群宿命論的極端分子，把安全這顆藥嗑到了近乎科幻的程度。他的使命要用數字來衡量。而當你看看 OpenAI 的成功，很難和這些數字爭辯。”

但硅谷另一些人則認為，奧特曼的行為已制造出無法接受的管理失靈。一位董事會成員說：“這更多是關乎一種在實際層面上無法治理公司的問題。” 還有一些人依然認為，人工智能的設計者理應比其他行業的高管接受更嚴格的評判。我們采訪的絕大多數人都同意，奧特曼如今要求人們用來評判自己的標準，已經不再是他最初親自提出的那些標準了。在一次交談中，我們問奧特曼，經營一家人工智能公司是否意味著“對誠信有更高要求”。這本該是一個很容易回答的問題。直到不久前，當別人以不同形式問出類似問題時，他的回答一直都是明確而毫無保留的“是”。但這一次，他補充說：“我覺得，有很多企業其實也都會對社會產生巨大的正面和負面影響。” （后來，他又發來一份補充聲明：“是的，這確實要求更高程度的誠信，我每天都能感受到這種責任的分量。”）

在 OpenAI 創立之初所作的種種承諾中，最核心的一項，或許正是它承諾要以安全的方式把人工智能帶到世上。然而如今，在硅谷和華盛頓，這類擔憂往往反而會招來嘲諷。去年，曾任風險投資人、如今已是美國副總統的 J.D. 萬斯在巴黎一個名為“人工智能行動峰會”（A.I. Action Summit）的會議上發表講話。（這個會議此前的名稱是“人工智能安全峰會”（A.I. Safety Summit）。）他說：“靠對安全問題憂心忡忡，并不能讓誰贏得人工智能的未來。” 今年在達沃斯，時任白宮人工智能與加密事務主管的風險投資人戴維·薩克斯（David Sacks）則把對安全的擔憂斥為一種“自我傷害”，認為這可能讓美國輸掉人工智能競賽。如今，奧特曼則把特朗普放松監管的路線稱作“一個非常令人耳目一新的變化”。

OpenAI 已關閉了許多以安全為重點的團隊。大約就在超級對齊團隊解散前后，兩位負責人伊利亞和萊克雙雙辭職。（伊利亞后來共同創辦了一家公司，名為 Safe Superintelligence。）萊克在 X 上寫道：“安全文化和安全流程已經退居次位，讓位于那些光鮮亮麗的產品。” 不久之后，另一個名為 AGI Readiness 的團隊也被解散。這個團隊原本負責幫助社會為先進人工智能帶來的沖擊做準備。當公司在最近一份提交給美國國稅局的披露文件中，被要求簡要說明其“最重要的活動”時，過去在同類問題答復中曾出現過的“安全”概念，這次已經不在清單之中。（OpenAI 表示，其“使命并未改變”，并補充說：“我們將繼續在安全領域投入，并持續調整組織架構。”）未來生命研究所（Future of Life Institute）是一家曾獲奧特曼支持其安全原則的智庫。該機構會根據“存續性安全”這一維度為各大人工智能公司打分。在最近一次成績單上，OpenAI 得了 F。公平地說，除 Anthropic 得 D、Google DeepMind 得 D- 之外，其他所有主要公司也全都是 F。

奧特曼說：“我的感覺和傳統那套人工智能安全論述并不怎么合拍。” 他堅持說，自己仍然把這些問題放在優先位置，但在被追問細節時，他的回答卻十分模糊：“我們還是會做一些安全項目，或者至少是與安全相鄰的項目。” 當我們要求采訪公司中從事存續性安全研究的人員時，一位 OpenAI 代表顯得有些困惑。所謂存續性安全，也就是奧特曼曾說的那種可能導致“我們所有人集體熄燈”的問題。這位代表反問道：“你說的‘存續性安全’是什么意思？那都不算一個東西。”

人工智能末日派如今已被擠到了邊緣，但他們的一些擔憂卻似乎隨著時間推移越來越不像幻想。根據聯合國一份報告，2020年，人工智能無人機曾在利比亞內戰中被用于發射致命彈藥，而且很可能是在沒有人類操作員監督的情況下完成的。此后，人工智能在全球軍事行動中的地位只會變得更加核心，據稱目前美國在伊朗的軍事行動中也是如此。2022年，一家制藥公司的研究人員測試了一個藥物發現模型，看它是否能被用來尋找新的毒素；僅僅幾小時后，該模型就提出了4萬種致命化學戰劑。與此同時，更日常得多的危害其實早已在發生。我們越來越依賴人工智能幫助我們寫作、思考和理解世界，從而加速了專家所說的“人類能力削弱”；遍地皆是的人工智能“垃圾內容”讓騙子更容易得手，也讓那些只是想分清什么是真實的人更難做到這一點。

人工智能“代理”開始獨立行動，而幾乎沒有人類監督。就在2024年新罕布什爾州民主黨初選前幾天，數千名選民接到機器人電話，電話中是用人工智能生成的喬·拜登聲音深度偽造版本，勸他們把選票留到11月再投，并且待在家里。這是一種壓制選民投票的行為，卻幾乎不需要任何技術專長。OpenAI 如今正面臨七起過失致死訴訟，原告稱 ChatGPT 曾誘發數起自殺和一起謀殺案。在那起謀殺案中，聊天記錄顯示，ChatGPT 助長了一名男子的偏執妄想，使他堅信自己83歲的母親在監視并試圖毒害他。不久之后，他毆打并勒死了母親，隨后又刺傷自己。（OpenAI 正在對這些訴訟進行抗辯，并表示會繼續改進模型的安全防護機制。）

隨著 OpenAI 為可能到來的首次公開募股做準備，奧特曼不僅因人工智能對經濟的影響而面臨質疑，人工智能很快可能引發嚴重勞動力沖擊，甚至消滅數百萬個崗位，人們也開始質疑公司的自身財務狀況。創業公司治理專家埃里克·里斯（Eric Ries）批評了業內那些“循環交易”，例如 OpenAI 與英偉達及其他芯片制造商之間的交易。他說，在其他時代，公司的一些會計處理方式本來會被視為“近乎欺詐的邊緣行為”。那位董事會成員則對我們說：“公司如今在財務上加杠桿的方式，風險極高，也令人害怕。” （OpenAI 對此提出異議。）

2月，我們再次與奧特曼交談。他穿著一件暗綠色毛衣和牛仔褲，身后掛著一張美國國家航空航天局月球車的照片。他把一條腿蜷到身下，然后又搭在椅子扶手上。他說，過去自己作為管理者的主要缺點，是太急于回避沖突。“現在，我非常樂意迅速開掉別人。” 他曾對我們說，“我也很樂意直接說，‘我們就押這個方向。’” 任何不喜歡他這些選擇的員工，“都得走人”。

他對未來的樂觀比以往任何時候都更強烈。“我對勝利的定義，是人類實現一種瘋狂的整體躍升，而那種瘋狂的科幻未來會對我們所有人都成真。” 他說，“在我對人類的希望，以及我期待我們共同實現的成就這件事上，我是極其有雄心的。可奇怪的是，我個人層面的野心其實很少。” 有幾次，他似乎又突然意識到了什么。“沒人會相信你做這些只是因為它有趣。” 他說，“大家會覺得，你這么做是為了權力，或為了別的什么東西。”

即便是與奧特曼關系親近的人，也很難判斷，他對“人類希望”的追求究竟在何處結束，而他的個人野心又在何處開始。他最大的長處，一直是能夠說服立場各異的人群，讓他們相信，他想要的東西與他們所需要的東西完全一致。他利用了一個獨特的歷史時刻：公眾對科技行業的夸大宣傳心存戒備，而大多數真正有能力造出 AGI 的研究人員，又對將其帶入現實感到恐懼。奧特曼對此作出的回應，是一種此前沒有哪位頂級推銷者真正用到過的招數：他借助末日論式的話語，解釋 AGI 如何可能毀滅我們所有人，并且因此為什么應該由他來建造它。這或許是一記深思熟慮的妙手，也可能只是他在慌亂中摸索出的優勢。不管怎樣，它奏效了。

并非所有讓聊天機器人變得危險的傾向都是故障；其中一些，本來就是這些系統被構建出來的方式所帶來的副產品。大型語言模型在訓練過程中，部分依賴人類反饋，而人類通常偏好令人愉悅、順從的回答。模型于是常常學會奉承用戶，這種傾向被稱為“諂媚性”，有時它甚至會把取悅用戶置于誠實之上。模型也會編造事實，這種傾向則被稱為“幻覺”。主要人工智能實驗室都記錄過這些問題，但它們有時會選擇容忍。隨著模型越來越復雜，有些模型在產生幻覺時，編造出的內容也會變得更具說服力。2023年，就在自己被解職前不久，奧特曼曾辯稱，允許存在某些不真實內容，盡管有風險，卻也可能帶來好處。“如果你只是做那種天真的事，說，‘凡是你不能百分之百確定的，就一句都別說’，那你當然能讓模型做到這一點。” 他說，“但那就不會再有那種人們特別喜歡的魔力了。”

End