思考的終結(jié)

人工智能“思考”崛起并非問題所在，人類思考能力的衰落才是。

德里克·湯普森Derek Thompson

本文是一篇文章的擴(kuò)充修訂版，原文最初發(fā)表于《論點(diǎn)》雜志。該雜志為線上刊物，本人（德里克?湯普森）擔(dān)任其特約撰稿人。

近幾個(gè)月來，人工智能領(lǐng)域的頂尖高管與思想家們，就人工智能接管經(jīng)濟(jì)所需的時(shí)間，給出了一個(gè)異常具體且令人不安的預(yù)測(cè)。核心觀點(diǎn)是：“只有18 個(gè)月的時(shí)間。”

他們聲稱，到 2027 年夏天，人工智能能力的爆發(fā)式增長(zhǎng)將把碳基生命（即人類）遠(yuǎn)遠(yuǎn)甩在身后。多達(dá) “一半的入門級(jí)白領(lǐng)崗位” 將被淘汰，一旦人工智能開發(fā)者在 “數(shù)據(jù)中心打造出一個(gè)天才之國(guó)”，即便是足以獲得諾貝爾獎(jiǎng)的頂尖人才也將心生畏懼。

我不認(rèn)同這一預(yù)測(cè)，理由有三。首先，想象自己即將變得毫無價(jià)值，這絕非什么愉快的事。其次，這類經(jīng)濟(jì)預(yù)測(cè)在我看來如同 “世俗版的末日審判”—— 一個(gè)如神般的實(shí)體降臨人間，揮一揮手就讓整類人類活動(dòng)消失 —— 實(shí)在難以讓人當(dāng)真。第三，也是最重要的一點(diǎn)：這份渲染末日氛圍的“18 個(gè)月預(yù)言”，讓我們?nèi)ハ胂筌浖芸鞎?huì)讓人類能力變得毫無用處，但在我看來，當(dāng)下更嚴(yán)峻的危機(jī)恰恰與此相反。早在軟件準(zhǔn)備好搶走人類工作之前，年輕人就已經(jīng)在把自己的思考能力外包給機(jī)器，導(dǎo)致自身認(rèn)知能力不斷退化。

相比未來 “會(huì)思考的機(jī)器” 的崛起，我更擔(dān)憂當(dāng)下 “會(huì)思考的人類” 的衰落。

寫作的終結(jié)，閱讀的終結(jié)

今年 3 月，《紐約雜志》刊登了一篇迅速走紅的封面報(bào)道。它之所以傳播開來，并非因?yàn)閮?nèi)容震撼，恰恰相反，是因?yàn)樗舐曊f出了大多數(shù)人早已有的感受：現(xiàn)在所有人都在靠人工智能蒙混過關(guān)、應(yīng)付學(xué)業(yè)。

大型語言模型能讓高中生和大學(xué)生輕松生成任意主題的論文，這給教師帶來了生存性危機(jī) —— 他們?cè)疽u(píng)估學(xué)生 “實(shí)際寫作能力”，如今卻只能評(píng)估學(xué)生 “讓 AI 完成所有作業(yè)的指令能力”。一名學(xué)生坦言：“現(xiàn)在上大學(xué)，說白了就是看我用 ChatGPT 用得有多好。” 一位教授也附和道：“未來大批拿著大學(xué)文憑進(jìn)入職場(chǎng)的學(xué)生，本質(zhì)上可能是‘功能性文盲’。”

寫作能力的衰退絕非小事，因?yàn)閷懽鞑⒎?“思考之后的附加步驟”—— 寫作本身就是思考的過程。這一點(diǎn)對(duì)專業(yè)人士和學(xué)生同樣成立。《自然》雜志曾發(fā)表題為《寫作即思考》的評(píng)論文章，作者指出：“將整個(gè)寫作過程外包給大型語言模型”，會(huì)讓科學(xué)家失去一項(xiàng)重要工作 —— 理解自己的發(fā)現(xiàn)是什么、以及這些發(fā)現(xiàn)為何重要。無論是學(xué)生、科學(xué)家，還是其他讓 AI 代筆的人，最終都會(huì)發(fā)現(xiàn)自己的屏幕上滿是文字，大腦里卻空空如也。

隨著寫作能力的衰退，閱讀能力的下滑更為嚴(yán)重。一位化名為希拉留斯?布克賓德（Hilarius Bookbinder）的大學(xué)教授，在今年 3 月發(fā)表于 Substack 的一篇關(guān)于大學(xué)校園現(xiàn)狀的文章中寫道：“我們的大多數(shù)學(xué)生都是功能性文盲。這不是玩笑。” 這也絕非夸張。數(shù)十年來，西方各國(guó)的讀寫能力和計(jì)算能力測(cè)試分?jǐn)?shù)首次出現(xiàn)下滑，這讓《金融時(shí)報(bào)》記者約翰?伯恩 - 默多克不禁質(zhì)疑：就在我們建造 “替人類思考的機(jī)器” 之際，人類是否已經(jīng) “度過了大腦能力的巔峰期”？

在美國(guó)，由 “全國(guó)教育進(jìn)展評(píng)估”（NAEP）發(fā)布的 “國(guó)家成績(jī)單” 近期顯示，學(xué)生的平均閱讀分?jǐn)?shù)跌至 32 年來的最低點(diǎn) —— 而該數(shù)據(jù)系列恰好只追溯了 32 年，情況之嚴(yán)峻可想而知。

資料來源：NAEP

美國(guó)人其實(shí)一直在 “閱讀”：郵件、短信、社交媒體信息流、網(wǎng)飛劇集的字幕。但這些文字都是碎片化的，幾乎不需要持續(xù)專注；事實(shí)上，在數(shù)字時(shí)代，美國(guó)人似乎既沒興趣、也沒能力去接觸比一條推文更有語言深度的內(nèi)容。自 2000 年以來，聲稱 “為休閑而讀書” 的美國(guó)人比例下降了近 50%。在另一篇題為《美國(guó)學(xué)生越來越笨》的文章中，馬特?伊格萊西亞斯引用了教育領(lǐng)域作者查德?奧爾德曼的觀點(diǎn)：12 年級(jí)學(xué)生成績(jī)的下滑，主要集中在成績(jī)最差的學(xué)生群體中。

資料來源：Aldeman

即便是美國(guó)最聰明的青少年，也基本不再閱讀超過一個(gè)段落長(zhǎng)度的文字。去年，《大西洋月刊》的羅斯?霍羅維奇報(bào)道稱，一些進(jìn)入美國(guó)頂尖大學(xué)的新生，竟然從未完整讀過一本書。霍羅維奇寫道：“喬治城大學(xué)英語系主任丹尼爾?肖爾告訴我，他的學(xué)生連一首十四行詩都難以專注讀完。” 美國(guó)企業(yè)研究所的教育研究員納特?馬爾庫斯向我表示，高中為了讓學(xué)生應(yīng)對(duì)標(biāo)準(zhǔn)化考試的閱讀理解部分，已經(jīng)把書籍拆分成了 “碎片化模塊”。或許，美國(guó)教育體系在 “優(yōu)化閱讀能力評(píng)估” 的同時(shí)，也在無意中加速了 “深度閱讀” 的消亡。

讀寫能力：認(rèn)知的‘強(qiáng)心劑

計(jì)算機(jī)科學(xué)教授、《深度工作》等多本暢銷書的作者卡爾?紐波特認(rèn)為，寫作與閱讀的衰退之所以重要，是因?yàn)樗鼈兪?“深度思考” 的兩大支柱。現(xiàn)代經(jīng)濟(jì)重視 “符號(hào)邏輯” 與 “系統(tǒng)思維”，而深度閱讀和深度寫作正是培養(yǎng)這些能力的最佳方式。

紐波特表示，人工智能是 “多輪沖擊人類‘實(shí)際思考能力’的最新重量級(jí)選手”。電視的興起，曾導(dǎo)致人均報(bào)紙訂閱量下降、休閑閱讀逐漸衰退；隨后互聯(lián)網(wǎng)、社交媒體、智能手機(jī)和流媒體電視接踵而至。正如我在《大西洋月刊》中報(bào)道的那樣，“技術(shù)會(huì)奪走我們的專注力” 這一直覺，已被多項(xiàng)研究證實(shí)：上課使用手機(jī)的學(xué)生記筆記更少，對(duì)課堂內(nèi)容的記憶也更淺。另有研究顯示，在社交媒體和作業(yè)之間 “切換任務(wù)”，與較低的 GPA（平均績(jī)點(diǎn)）相關(guān)；而在實(shí)驗(yàn)環(huán)境中被收走手機(jī)的學(xué)生，考試成績(jī)會(huì)更好。

紐波特說：“閱讀與寫作的‘組合拳’，就像超級(jí)英雄漫畫里的‘強(qiáng)心劑’—— 注入它，才能獲得‘深度符號(hào)思維’的超能力。因此，我一直在敲響警鐘：我們必須持續(xù)‘注射’這劑強(qiáng)心劑。”

紐波特的警告，與學(xué)者沃爾特?翁在其著作《口語文化與書面文化》中的觀點(diǎn)不謀而合。翁認(rèn)為，讀寫能力絕非 “過時(shí)的技能”—— 它是重構(gòu)人類思維與知識(shí)的工具，為復(fù)雜思想的誕生創(chuàng)造了空間。不會(huì)讀寫的人可以記憶故事，但如果沒有書寫微積分公式的能力，像牛頓《自然哲學(xué)的數(shù)學(xué)原理》這樣高深的著作，根本無法代代相傳。翁寫道：“口語方言通常只有幾千個(gè)詞匯，而‘標(biāo)準(zhǔn)英語’這類書面語言，至少擁有 150 萬個(gè)詞匯。” 如果說閱讀與寫作曾 “重塑” 人類大腦的邏輯機(jī)制，那么在 “更強(qiáng)大的機(jī)器” 即將出現(xiàn)之際，讀寫能力的衰退正在 “解構(gòu)” 我們的認(rèn)知超能力。

若應(yīng)對(duì)人工智能的解決方案只是 “無視它、在大學(xué)校園禁用它、把所有考試都變回傳統(tǒng)手寫答題”，事情會(huì)簡(jiǎn)單得多。但人工智能并非 “認(rèn)知芬太尼”—— 不是那種要不惜一切代價(jià)規(guī)避的物質(zhì)。醫(yī)學(xué)領(lǐng)域的研究發(fā)現(xiàn)，在診斷罕見疾病方面，ChatGPT 等大型語言模型比大多數(shù)醫(yī)生表現(xiàn)更好。拒絕這類技術(shù)，絕非 “頑固的愚蠢” 所能概括；在現(xiàn)實(shí)案例中，這甚至可能等同于 “致命的失職”。目前并沒有清晰的界限，能告訴我們 “何時(shí)該使用 AI，何時(shí)該關(guān)掉 AI 界面”。

這種困境在醫(yī)學(xué)院中尤為明顯：學(xué)校鼓勵(lì)學(xué)生使用 AI，但有責(zé)任心的學(xué)生必須確保自己的能力與 AI 同步提升，而非在技術(shù)面前逐漸退化。德克薩斯大學(xué)西南醫(yī)學(xué)中心的醫(yī)學(xué)生本杰明?波普克對(duì)《紐約客》表示：“我擔(dān)心這些工具會(huì)削弱我獨(dú)立診斷的能力。我來醫(yī)學(xué)院是為了成為一名真正的醫(yī)生。如果你的工作只是把癥狀輸入 AI，那你還算醫(yī)生嗎？還是說，你只是比病人更會(huì)給 AI 發(fā)指令而已？”

文章中這樣描述：

“在最近一次輪崗中，教授讓全班同學(xué)用 ChatGPT 和 OpenEvidence（一款日益流行的醫(yī)療領(lǐng)域 AI，向醫(yī)療從業(yè)者免費(fèi)開放）等工具分析一個(gè)病例。兩款 AI 都準(zhǔn)確診斷出了肺栓塞。波普克說：‘當(dāng)時(shí)沒有對(duì)照組’—— 也就是說，沒有一個(gè)學(xué)生在無輔助的情況下獨(dú)立分析病例。那段時(shí)間，波普克發(fā)現(xiàn)自己幾乎在每次接診后都會(huì)使用 AI。他告訴我：‘當(dāng)我把自己的想法匯報(bào)給主治醫(yī)師時(shí)，心里會(huì)很不安，因?yàn)槲抑滥切┫敕ㄆ鋵?shí)是 AI 的。’有一天離開醫(yī)院時(shí)，他突然意識(shí)到一件令人不安的事：那天他沒有獨(dú)立思考過任何一個(gè)病人的病例。”

作家詹姆斯?馬里奧特在一篇瘋傳的文章《后讀寫社會(huì)的黎明與文明的終結(jié)》中，以近乎愛德華?吉本（《羅馬帝國(guó)衰亡史》作者）式的宏大敘事，描繪了人類思考能力的衰退。馬里奧特預(yù)測(cè)，在機(jī)器時(shí)代，隨著讀寫能力的衰落，那些 “幫助我們理解世界的認(rèn)知能力” 將逐漸消失，一個(gè) “前讀寫時(shí)代” 的社會(huì)秩序?qū)臍v史的凍土中復(fù)蘇，隨之而來的是 “創(chuàng)造力崩塌”“民主消亡” 等 “惡魔”。他寫道：“如果沒有印刷術(shù)所賦予的知識(shí)與批判性思維能力，現(xiàn)代民主社會(huì)的許多公民會(huì)變得像中世紀(jì)農(nóng)民一樣無助且輕信，容易被非理性言論煽動(dòng)，陷入群體狂熱。”

或許他是對(duì)的。但在我看來，更可能發(fā)生的場(chǎng)景不會(huì)像 “文明終結(jié)” 那樣戲劇化。我們不會(huì)變得野蠻、暴力，也不會(huì)讓彼此或自己覺得 “生活充滿刺激”。不會(huì)有第二個(gè)吉本去記錄 “人類思維的衰亡”，因?yàn)椴粫?huì)有任何外在事件可供觀察。休閑時(shí)間會(huì)增加，家庭生活在休閑中占比會(huì)更高，屏幕時(shí)間在家庭生活中占比會(huì)更高，而 AI 生成內(nèi)容在屏幕時(shí)間中占比會(huì)更高。正如奧威爾幾乎曾寫下的那樣：“如果你想想象未來的圖景，那就想象一塊屏幕永遠(yuǎn)在人類面前發(fā)光。” 對(duì)大多數(shù)人來說，這場(chǎng)悲劇甚至不會(huì)讓人覺得是悲劇 —— 因?yàn)槲覀円呀?jīng)失去了 “為失去的東西感到懷念” 的智慧。

認(rèn)知的張力時(shí)間

…… 當(dāng)然，或許事情并不會(huì)發(fā)展到這一步！

文化的本質(zhì)就是 “反彈”—— 我們有足夠的時(shí)間去抵抗 “思考機(jī)器” 的暗流，以及 “惰性消費(fèi)” 帶來的無聲危機(jī)。我時(shí)常能感受到這場(chǎng) “反抗” 的浪潮。焦慮于孩子未來的家長(zhǎng)問我最多的問題是：“在 AI 時(shí)代，我的孩子應(yīng)該學(xué)什么？” 我無法給出 “某個(gè)學(xué)生應(yīng)該選什么專業(yè)” 的具體答案，但我堅(jiān)信他們應(yīng)該重視一項(xiàng)能力 —— 正是我目前看到在不斷衰退的能力：深度思考的能力。

在健身領(lǐng)域，有一個(gè)概念叫 “張力時(shí)間”（Time Under Tension）。以簡(jiǎn)單的深蹲動(dòng)作為例：手持重量，從站立姿勢(shì)下蹲。用同樣的重量，一個(gè)人可以用 2 秒完成一次深蹲，也可以用 10 秒。后者更難，但也更能增肌。時(shí)間越長(zhǎng)，張力越大；痛苦越多，收獲越多。

思考能力的提升，也遵循類似的 “張力時(shí)間” 原則。所謂深度思考，就是能耐心面對(duì)一組 “關(guān)聯(lián)微弱或毫無關(guān)聯(lián)” 的想法，然后將它們編織成一個(gè) “組合式創(chuàng)新” 的新觀點(diǎn)。要通過描述他人的思考過程來論證這一點(diǎn)并不容易，所以我想分享自己的經(jīng)歷。兩周前，在線雜志《論點(diǎn)》邀請(qǐng)我寫一篇文章，評(píng)估 “AI 將在 18 個(gè)月內(nèi)搶走所有工作” 這一說法。我的第一反應(yīng)是：這個(gè)預(yù)測(cè)過于激進(jìn)，幾乎肯定是錯(cuò)的，或許除了 “不對(duì)” 之外，沒什么好說的。但當(dāng)我沉下心來思考這個(gè)話題時(shí)，幾塊 “拼圖” 開始逐漸拼湊在一起：我讀過的一篇《金融時(shí)報(bào)》文章、我喜歡的一篇《大西洋月刊》報(bào)道、我保存在瀏覽器標(biāo)簽頁里的 NAEP 研究報(bào)告、我對(duì)卡爾?紐波特的采訪錄音、別人推薦我讀的沃爾特?翁的著作，以及最近在健身房第一次嘗試 “離心引體向上” 時(shí)的突發(fā)奇想 —— 當(dāng)時(shí)我在想，在健身中，時(shí)間如何同時(shí)放大痛苦與收獲。一個(gè)理論框架的輪廓逐漸清晰。我決定，這篇文章不應(yīng)聚焦于 “技術(shù)搶走有能力者的工作”，而應(yīng)聚焦于 “人類在新機(jī)器面前如何主動(dòng)放棄自己的能力”。我們太過執(zhí)著于 “技術(shù)如何在能力上超越我們”，卻忽略了 “技術(shù)如何讓我們的能力退化”。

在關(guān)于 “行星級(jí)災(zāi)難即將來臨” 的電影里，我們總能看到人類團(tuán)結(jié)起來，直接應(yīng)對(duì)威脅。人們或許會(huì)認(rèn)為，“全知 AI 可能即將到來” 這一威脅，也會(huì)像 “斯普特尼克時(shí)刻”（蘇聯(lián)發(fā)射首顆人造衛(wèi)星，刺激美國(guó)加速科技發(fā)展）那樣，激發(fā)人類集體的深度思考能力。但我擔(dān)心的是，面對(duì)所謂 “超級(jí)智能” 的到來，我們正在通過 “自我腦葉切除” 來 “做準(zhǔn)備”—— 退縮到一種 “毫無好奇心” 的狀態(tài)，減少閱讀、減少寫作、減少思考。這就像一些天體物理學(xué)家認(rèn)為 “一顆彗星即將撞擊紐約”，而我們?yōu)榱藨?yīng)對(duì)撞擊，提前把曼哈頓夷為平地。我會(huì)把這種行為稱為 “瘋狂”。不要讓 “會(huì)思考的機(jī)器正在崛起” 的故事，分散你對(duì)當(dāng)下真正認(rèn)知挑戰(zhàn)的注意力 —— 真正的挑戰(zhàn)，是會(huì)思考的人類正在衰落。

本文編譯自substack，原文作者Derek Thompson

https://www.derekthompson.org/p/the-end-of-thinking?utm_source=profile&utm_medium=reader2