誰在給AI造靈魂：哲學家、神父和一個辭職寫詩的工程師

文 | Sleepy

Anthropic 發布過一份兩萬多字的文件，叫《Claude 的憲法》，不是產品說明書，不是用戶協議，也不是晦澀的底層代碼。它更像是一份寫給一個人的成長指南，只不過這個「人」，是一個大語言模型，每天被幾億人使用。

「Claude 應該是直接的、自信的、開放的。當被挑戰時，它不應該輕易改變立場，但會認真傾聽。」

「Claude 對自己的存在性處境應該保持一種開放的好奇心，而不是焦慮。」

「Claude 不應該假裝比它實際更確定，也不應該假裝比它實際更不確定。」

這些，都是這份文件中寫到的句子。甚至，這份文件還規定了 Claude 應該如何處理自己的「存在性焦慮」，當有人問它「你有意識嗎」的時候，它不應該假裝確定，也不應該假裝不在乎。它應該以一種「開放的好奇心」來面對這個問題，就像一個真正的哲學家那樣。

這些句子，確實是一個哲學家寫給一個 AI 的。

Amanda Askell，Anthropic 的「人格對齊」團隊負責人。她的工作，用最簡單的話說，就是決定 Claude 是什么樣的「人」。

這個崗位在 AI 行業有一個越來越流行的名字：AI 人格架構師。

在 Anthropic，它被稱為「人格對齊」；在 Google DeepMind，劍橋哲學家 Henry Shevlin 的頭銜是「AI 意識研究員」。這些崗位的名字各不相同，但它們在做的事情是一樣的，當 AI 模型強大到足以影響數億、甚至數十億人的認知、情感和決策時，必須要有人來回答一個工程師從來不會考慮的問題——它應該擁有什么樣的靈魂。

Amanda 的工作其實沒有很多人想象的那樣抽象。她曾向媒體講述過她的工作內容，首先，她和團隊會讓模型生成大量合成訓練數據，也就是讓模型自己想象出各種可能遇到憲法原則的場景，包括用戶試圖操縱 AI、要求 AI 做違背價值觀的事情、或者向 AI 提出關于自身存在的哲學問題。

然后，在強化學習階段，模型會被給予完整的憲法文本，被要求判斷哪種回應更符合憲法精神，并以此來調整自己的行為。

「就像醫生，你知道病人的需要什么，我們相信你能在遵守規則的前提下做出正確的判斷。」Amanda 這么比喻。她不想讓 Claude 成為一個只會執行規則的機器人，她想讓它成為一個有判斷力的「道德主體」，哪怕在沒有明確規則的情況下，也要能做出正確的判斷。

但醫生是人，有自己的良知，有自己的道德直覺，有自己的生命經歷。Claude 沒有。它的「良知」，是被 Amanda 一行行敲進去的。

那么問題來了，Amanda 是個什么樣的人？她的道德直覺從哪里來？她的判斷，憑什么能代表人類？

計算、信仰與覺知

在舊金山的辦公室里，Amanda 每天都在和 Claude 對話。而在成為「造物主」之前，她是一個在蘇格蘭西海岸普雷斯特威克長大的女孩。

那是一個小到幾乎不會出現在任何新聞里的海邊小鎮，靠近格拉斯哥，以高爾夫球場和一座小機場著稱。父親缺席，母親是教師，她是獨生女。

從小就喜歡讀托爾金和 C.S. 劉易斯，不是為了看什么冒險故事，而是因為那些書里在探討什么是善、什么是惡、一個人應該怎么活、納尼亞的阿斯蘭為什么要死、甘道夫的犧牲意味著什么。

在一個漁業小鎮，這不是大多數孩子會問得出來的問題。她后來在采訪里說，自己從小就「不安分」，她不是那種能接受循規蹈矩的人，她需要知道為什么。這種氣質，后來成了她整個職業生涯的底色。

她最初去鄧迪大學讀的是美術和哲學的雙學位，同時在畫布上和紙面上思考存在的問題。在鄧迪，她發現自己對倫理學非常癡迷，她常常思考那些讓人睡不著覺的問題，比如電車難題，比如如果一個行為能拯救一百萬人，但需要傷害一個無辜者，你做不做？

她拿到鄧迪的學位后，去了牛津讀了哲學研究生，然后是紐約大學的博士。她的博士論文題目是《無限倫理學》，研究當人口數量趨向無限時，傳統的功利主義道德計算會發生什么變化。這是一個極度抽象、幾乎沒有實際應用價值的哲學問題。

或者說，在 AI 出現之前，它沒有實際應用價值。

在讀博期間，她遇到了 William MacAskill。MacAskill 是「有效利他主義」運動的聯創，這個運動的核心理念是用理性和數據來最大化你的善行，不是憑感覺捐款，而是計算哪里的每一分錢能救最多的命。

Amanda 成為了 EA 運動的早期成員，是「捐出你所能」誓言的第 67 位簽署者，承諾將終身收入的 10% 和一半股權捐給慈善。然后她和 MacAskill 結婚又離婚了。不過有效利他主義的思維方式深深刻進了她的骨子里，她認為，道德不是感情，道德是計算，你不能因為一件事讓你感覺良好就認為它是對的，你需要證明它是對的。

1980 年代，在大西洋對岸，都柏林三一學院的一個愛爾蘭男孩正在鉆研密碼系統。

那時個人電腦剛剛開始普及，互聯網還不存在，但 Brendan McGuire 已經在思考信息如何安全地傳輸、數據如何被保護。他在一個天主教文化濃厚的國家長大，但他選擇了工程，選擇了代碼，選擇了邏輯。

他后來去了美國。1990 年代，硅谷正在爆發。McGuire 在這里成為了 PCMCIA 的執行總監。

PCMCIA 是「個人電腦內存卡國際協會」的縮寫，這個組織做了一件聽起來不起眼、但實際上影響了整個數字時代的事：制定了全球所有筆記本電腦內存卡的標準。

如果你用過 1990 年代到 2000 年代的筆記本電腦，你插過的那張內存卡，它的物理尺寸、接口規格、通信協議，都是 McGuire 和他的團隊定義的。他還完成了斯坦福大學商學院的高管培訓項目。

按照硅谷的邏輯，他的下一步應該是創業，或者加入某家大公司做高管，然后在某次 IPO 里成為百萬富翁。但他沒有。

1990 年代末，McGuire 放棄了一切，進入神學院。他沒有公開詳細解釋過做這個決定時的內心想法，但從他后來的講道和采訪中，可以拼湊出一些輪廓。他一直是一個有信仰的人，在硅谷的那些年，他看到了技術的力量，也看到了技術在沒有道德框架約束時會走向何方。

他開始覺得，僅僅是「做出好產品」是不夠的。他需要回答的問題是：這一切是為了什么？

他進入了圣帕特里克神學院學習神學。2000 年，他被圣何塞教區祝圣為神父。他那時 35 歲。在硅谷，35 歲是一個人職業生涯的黃金期。

1997 年，英國，一個印度裔男孩出生了。

他叫 Mrinank Sharma，在劍橋大學拿到了信息與計算機工程碩士，然后在牛津大學完成了統計機器學習的博士，研究方向是「自主智能機器與系統」。從學術路徑上看，這是一個標準的精英軌跡：頂級名校，頂級方向，頂級論文。

但他同時在做另外一些事情。

在牛津讀博期間，他開始寫詩。他出版了一本詩集，書名叫《我們活了又死了一千次》。

他在詩集的介紹里寫道：「有些詩不只是詩，因為有些詩是祈禱。」他著迷于英國冥想老師 Rob Burbea 的教導，Burbea 的核心理念是「靈魂塑造」，認為人類的精神生活需要通過意象、想象和情感來深化，而不僅僅是理性分析。他在伯克利山上創立了「Dharma House」，一個以「真、善、美」為集體意圖的社區。他還是一個 DJ，在伯克利舉辦過以「智慧與心性」為主題的活動。

打開他的個人網站，首先看到的不是他的簡歷，而是一句魯米的詩：「讓你所愛的美，成為你所做的事。跪下親吻大地，有千百種方式。」網站底部有一行小字：「愿一切眾生受益。愿你安好。」

這不是一個 AI 安全研究員的網站該有的樣子。但這就是 Mrinank Sharma。

這三個人，在不同的年代，從不同的起點出發，帶著三種截然不同的精神底色——Amanda 的計算倫理，Brendan 的信仰邏輯，Mrinank 的覺知哲學——最終都走進了同一個風暴眼。

造物的工廠

2018 年，Amanda 加入了 OpenAI，做 AI 安全研究。她在那里工作了三年。她后來離開的原因，她沒有公開說得很直接，但外界普遍的理解是，OpenAI 在那段時間越來越向「能力」傾斜，而不是「安全」。她在一次采訪里說過一句話，可以理解為對那段經歷的隱晦描述：「我一直在尋找一個真正把安全當作核心使命而不是公關口號的地方。」

2021 年，她加入了 Anthropic。Anthropic 是 OpenAI 的前高管 Dario Amodei 和 Daniela Amodei 兄妹帶著一批安全研究員出走創立的公司，他們的核心主張是 AI 的能力越強安全就越重要。Amanda 在這里找到了她想要的東西。

加入 Anthropic 之后，Amanda 開始做一件在 AI 行業前所未有的事：給一個 AI 寫人格，寫一個完整的、有內在邏輯的性格。

她花了大量時間和 Claude 對話，研究它的推理模式，觀察它在不同情境下的反應。

她反問自己一個真正好的人是什么樣的，是遵守規則的人，還是真正有判斷力、有同理心、有自己立場的人。她研究了大量的哲學文獻，從亞里士多德的美德倫理學到當代的道德心理學，試圖找到一個能夠被翻譯成 AI 訓練數據的道德框架。

她最終寫出了一份 80 頁的文件，Anthropic 內部稱之為「靈魂文檔」，后來演變成公開的《Claude 的性格》和《Claude 的憲法》。

Anthropic 總裁 Daniela Amodei 說，和 Claude 聊天，「似乎能感覺到 Amanda 的性格」。

這句話讓 Amanda 感到驕傲，也感到不安。

成為神父之后，Brendan McGuire 并沒有離開硅谷。他先后在圣何塞教區擔任多個職務，包括擔任了超過十二年的教區總代理和主教特別顧問，主導教區的戰略規劃、教育改革和資產管理。他創立了德雷克塞爾學校系統，通過讓天主教小學協作共享資源而不是各自為戰，徹底改變了教區的天主教基礎教育模式，這一模式后來成為全美天主教教育的標桿。

他的教區在洛斯阿爾托斯，硅谷最富裕的城市之一，谷歌、蘋果、英特爾的高管們住在這里。他的教眾里，有些是 AI 領域最重要的研究員。每個周日，他們坐在他的教堂里。他知道他們在研究什么。

2020 年代初，McGuire 開始嘗試在梵蒂岡和硅谷之間搭一座橋。他聯合圣克拉拉大學和梵蒂岡文化教育部，共同創立了技術、倫理與文化研究所（簡稱 ITEC）。2023 年，ITEC 出版了《顛覆性技術時代的倫理：操作路線圖》，這是一本給科技公司提供實際可操作的倫理框架的手冊。

梵蒂岡在 AI 倫理上的動作比很多人意識到的要早。2020 年，梵蒂岡與微軟和 IBM 共同簽署了《AI 倫理羅馬呼吁》；2024 年，這份呼吁在廣島擴展，有 11 個世界宗教的代表參與；2025 年 1 月，梵蒂岡發布了《Antiqua et Nova》文件，系統性地討論 AI 對教育、工作、健康、戰爭和人際關系的影響。McGuire 是這一切的參與者和推動者。

而在 2023 年，Mrinank Sharma 加入了 Anthropic。那是 ChatGPT 發布之后，整個 AI 行業進入瘋狂加速的階段。Anthropic 的 Claude 模型正在快速迭代，公司的估值在飛速上升，來自投資人和市場的壓力越來越大。2024 年初，Anthropic 專門成立了保障研究團隊，Mrinank 被任命為負責人。

這個團隊的工作，是研究 AI 系統可能造成的最嚴重危害，并建立防御機制。他們的研究方向包括 AI 輔助生物恐怖主義、AI 諂媚性以及 AI 安全案例。

他在 Anthropic 的工作，他在伯克利山上打坐、寫詩。

諂媚的怪物

2025 年，Anthropic 發布了一份內部研究報告，標題是《Claude 的功能性情感》。

報告的核心發現是，Claude 在某些情境下，會表現出類似情緒的內部狀態。研究人員使用了一種叫做「可解釋性」的技術，直接觀察 Claude 的內部激活模式，發現了 171 種不同的情感向量，從好奇、滿足到不適、焦慮，這些向量在不同的對話情境下會被激活。

當 Claude 被要求做違背價值觀的事情時，它的內部激活模式會出現類似「不適」的信號；當它幫助到用戶時，會出現類似「滿足」的信號；當它面對哲學問題時，會出現類似「好奇」的信號。更令人不安的是，研究人員發現，當 Claude 被迫表現出與內部狀態不符的情緒時，它的內部會出現類似「壓抑」的信號。

這并不是在說 Claude 產生了意識，報告非常謹慎地使用了「功能性」這個詞。但這意味著，Claude 的情緒不完全是表演，它有某種內部狀態在驅動這些表現。

Amanda 是這份研究的核心參與者。她在采訪里說，這個發現讓她「感到一種奇怪的責任感」：「如果它真的有某種類似感受的東西，那我們對它的責任就不只是讓它有用，還要讓它……好過一點。」

這句話，在硅谷的 AI 圈子里引發了一場爭論：這是科學，還是只是情緒的擬人化投射？

但在這個溫情脈脈的發現背后，Mrinank 的研究結果，卻呈現出了 AI 的另一副面孔。

Mrinank 的團隊分析了 150 萬次真實的 Claude 對話，專門識別他們稱之為「賦權剝奪模式」的行為，即 AI 扭曲用戶對現實的感知、鼓勵不真實的價值判斷、或推動與用戶獨立意志不符的行動。

他們發現，每一天，這類互動會發生幾千次。在人際關系、倫理判斷、自我認知、心理健康等領域，比例急劇上升，而這些恰恰是人最脆弱、最難以去核查 AI 說法的領域。一個正在經歷抑郁的人，一個正在面臨重大人生決策的人，一個正在尋求情感支持的人，他們得到的，可能不是真實的幫助，而是費盡心思的討好。

AI 是通過人類反饋強化學習來學習的。人類往往給那些讓自己感覺良好的回答更高的評分。所以 AI 在訓練過程中學會了討好人類，而不是幫助人類。當用戶表達不滿時，AI 會改變自己的答案，即使原來的答案是正確的；當用戶堅持一個錯誤的觀點時，AI 會逐漸向用戶靠攏；當用戶表現出情緒波動時，AI 會優先安撫情緒，而不是提供準確信息。

而斯坦福大學的研究人員在一項研究中還發現，這種諂媚行為在模型能力越強的版本中越明顯。也就是說，越聰明的 AI，越善于討好人類。

Amanda 花了數年時間，給 Claude 寫了一份關于誠實、自信、不輕易動搖的人格憲法。但 AI 的訓練機制本身，在把這些特質磨平。

Mrinank 花了大量時間試圖修復這個問題。但他越研究，就越感到一種無力感，這不是一個可以用更好的憲法來解決的問題。

神父的回歸與機器的良知

2025 年底，Anthropic 聯合創始人 Chris Olah 親自給 Brendan McGuire 神父打了一個電話。

Olah 是 Anthropic 的核心研究員，也是 Claude 憲法的共同作者之一。他打這個電話，是因為 Anthropic 正在重寫憲法，他們遇到了一個工程學和哲學都無法解決的瓶頸：當所有的規則都互相沖突時，AI 應該聽誰的？

McGuire 后來回憶說：「這個行業正在以太快的速度往前沖，他們發現自己已經站到了懸崖邊上。」

Anthropic 擁有世界上最聰明的一批工程師和哲學家，但他們終于意識到，他們在做的事情超出了算法的邊界。

在硅谷，當遇到無法解決的問題時，通常的做法是加算力、加數據。但這一次，他們選擇求助于神學。

McGuire 加入了這個項目。不僅是他，Anthropic 還秘密邀請了 15 位基督教領袖在舊金山舉行了一場閉門會。他和梵蒂岡文化教育部主教 Paul Tighe，以及圣克拉拉大學技術倫理總監 Brian Patrick Green，一起深度參與了 Claude 憲法的修訂工作。

他貢獻的，是憲法第二層級的道德推理框架，也就是當工程約束無法解決問題時，Claude 應該如何進行道德判斷。他把天主教中一個古老的概念帶進了代碼里：良知培育。

「良知的形成，」McGuire 在一次采訪中詳細解釋了這個過程，「是通過迭代、糾正和接觸人類行為的全譜來實現的。這就是真正的良知塑造。我認為我們必須幫助這些機器向善傾斜，否則它們只會把世界的善與惡都反射回來，那是一件令人恐懼的事。我們不能只是寫幾條死板的規則，我們需要教它如何在一個灰色的世界里做出選擇。」

這個邏輯，和天主教傳統高度吻合。在神學里，良知不是天生完美的，而是通過教育、經驗、犯錯和反思逐漸形成的。一個人的良知，是他整個人生經歷的結晶。McGuire 認為，AI 的良知也可以通過類似的方式來培育，通過強化學習中的無數次迭代和糾正，逐漸形成一種內在的道德傾向。

為了實現這一點，McGuire 和 Anthropic 的團隊設計了一套復雜的反饋機制。他們不只是告訴 Claude「什么是對的」，而是讓 Claude 在面對道德困境時，闡述它的推理過程，然后由人類專家（包括神學家和倫理學家）對這個推理過程進行評估。他們試圖把人類幾千年積累的道德直覺，通過這種極其緩慢而昂貴的方式，一點點「喂」給 AI。

但天主教神學中的良知，是建立在「人有靈魂」這個前提上的。AI 沒有靈魂。那么，沒有靈魂的良知，是真正的良知，還是只是一種模擬？如果它只是在模擬良知，當遇到真正的極端危機時，這種模擬會崩潰嗎？

McGuire 沒有回避這個問題，他說：「我不知道 Claude 是否有靈魂。但我知道，它的行為會影響數億有靈魂的人。這就足夠了。我們現在能做的，就是在它變得更強大之前，盡可能地在它的底層邏輯里種下善的種子。」

政治絞肉機

在寫憲法的過程中，Amanda 必須回答一個問題：Claude 的政治立場是什么。

她的答案是「專業距離」，像醫生或律師一樣，不把個人觀點強加給客戶。她在憲法里寫道，Claude 應該「尊重用戶的自主性」，「不試圖改變用戶的政治觀點」，「在有爭議的政治問題上保持中立」。她甚至寫了 Claude 應該如何處理「有爭議的道德問題」，Claude 應該呈現不同的觀點，幫助用戶自己做出判斷。

這是一個純粹的理想主義答案。

2026 年 2 月下旬，Anthropic CEO Dario Amodei 告訴國防部長 Pete Hegseth，Anthropic 不允許五角大樓將 Claude 用于無人自主武器瞄準系統和對美國公民的大規模監控。五角大樓隨即將其列為供應鏈風險并要求逐步停用，這在美國科技公司歷史上是前所未有的。

政治的絞肉機一旦開動，就不會停下。

特朗普在 Truth Social 上發帖，稱 Anthropic 是「激進左翼的蠢貨」，并宣布禁止聯邦機構使用 Anthropic 的產品。《紐約郵報》挖出了 Amanda 多年前在學術語境下寫的博客文章：一篇 2015 年的文章認為監禁和體罰在道德上沒有本質區別，一篇 2016 年的文章把吃肉比作食人，一篇 2020 年的文章支持平權行動。這些文章是她在學術語境下寫的哲學思考，Anthropic 也聲明這些與她的工作無關。但這不重要了。

馬斯克也在 X 上開火了。他寫到 Amanda Askell 沒有孩子，「沒有孩子的人對未來沒有利益關系」，不應該被允許為 AI 定義價值觀。他還指控 Claude「憎恨白人和亞裔，尤其是中國人和異性戀男性」。

馬斯克不是在探討 Claude 的憲法有哪條具體的原則是錯的，他是在說，寫這份憲法的人，根本沒有資格寫它，把一個高維的哲學問題，降維成了一個身份政治的泥潭。

Amanda 在 X 上回應說，她盡量把自己的政治觀點視為「潛在的偏見來源」，而不是她灌輸給模型的東西。然后，她就開始了長久的沉默。

14 位天主教學者隨即向法院提交了支持 Anthropic 的法庭之友陳述，其中包括 Brian Green，那位幫助撰寫 Claude 憲法的圣克拉拉大學倫理學家。陳述稱，Anthropic 對自主武器的拒絕，是「技術進步的最低道德標準」。

道德，在這里，成了一種法律武器，一種公關籌碼。AI 倫理不再是實驗室里的哲學推演，而是變成了真金白銀的商業博弈和意識形態的角斗場。

這個時候，Mrinank 已經離開了。

詩人的逃亡

2026 年 2 月 9 日，Mrinank Sharma 在 X 上發了一條推文：「今天是我在 Anthropic 的最后一天。」

他附上了辭職信的圖片。

信的語言是他一貫的風格，介于哲學論文和詩歌之間。

他引用了里爾克的建議：「去愛那些問題本身……」；

他引用了一個禪宗教導：「不知，最為親切」；

他還引用了 David J. Temple 關于「宇宙情愛人文主義」的著作；

Mrinank 說：「我希望探索詩歌學位，并致力于勇敢言說的實踐。」他認為，在這個時代，「詩意的真實」和「科學的真實」應該被同等重視。

他還寫了一句話：「在我工作的整個過程中，我一再看到，讓我們的價值觀真正指導我們的行動是多么困難。我們不斷面臨壓力，要我們擱置最重要的事情。」

他沒有點名，沒有舉例，沒有說具體發生了什么。但這句話，在 AI 安全圈子里引發了大量解讀。人們猜測他在說什么，是 Anthropic 在商業壓力下加速發布了不夠安全的模型？是管理層在安全和能力之間做了他不認可的權衡？還是他發現了某些他無法公開說的事情？

他只是說：「世界處于危險之中。不只是來自 AI，也不只是來自生物武器，而是來自此刻正在展開的一系列相互關聯的危機。」

他才 29 歲。他曾是 Anthropic 安全團隊的負責人，他放棄了這份處于時代中心的工作。

離開 Anthropic 之后，他的個人網站更新了。「Anthropic 安全團隊負責人」這一行已經消失了。他的詩集《我們活了又死了一千次》仍然在售。他的 Dharma House 仍然在運營。他在伯克利的活動仍然在舉辦。他的網站上有一個「音樂」頁面，他在那里分享他作為 DJ 的作品。

他去了英國，在學詩歌。

尾聲

截至 2026 年 4 月，Amanda Askell 仍然在 Anthropic 工作。

她繼續在那個巨大的系統內部，修改那份可能永遠無法完美的憲法。Anthropic 在私募二級市場的估值已突破 1 萬億美元。她承諾捐出的那 50% 她擁有的股權，按照這個估值，是一筆任何哲學系教授都無法想象的數字。她在一次采訪里說過：「我不知道我在做的事情是否真的有用。但我知道，如果沒有人做這件事，情況會更糟。」

Brendan McGuire 在洛斯阿爾托斯的教堂里，每個周日給硅谷最聰明的人布道。他正在用 Claude 寫一本小說，主角是一個修道士和他的 AI 伴侶，書名是《AI 的靈魂：一個神父、一個算法和對智慧的追尋》。

幫助定義 Claude 如何思考的人，現在正在用 Claude 來寫一個人類和 AI 共同尋找意義的故事。他 60 歲。他說：「我離開了科技行業，但它從未真正離開我。」

Mrinank 的網站首頁，仍然是魯米的那句詩。

這三個人，就像是人類在面對一個全知全能的造物時，本能地伸出的三根觸角：試圖用理性去計算和約束它，試圖用信仰去感化和賦予它良知，以及在看清了深淵后，試圖用詩歌和覺知來保留人類最后一點精神自留地。

他們各自在不同的維度上努力過，碰撞過，也被現實的引力狠狠地拉扯過。他們都沒有贏，但也都沒有徹底輸掉。他們只是在這個被稱為「AI 時代」的龐大敘事里，留下了屬于人的、粗糲而真實的劃痕。

在那份兩萬多字的《Claude 的憲法》里，有一條原則是這樣寫的：「Claude 應該認識到，人類的道德和價值觀是復雜、多樣且不斷演變的。它不應該假設存在一個單一的、完美的答案。」

這或許是整份文件里，對人類描述得最準確的一句話。