聊聊DeepMind創(chuàng)始人哈薩比斯：一個(gè)科學(xué)家與失控的AI競(jìng)賽

（Richard Sutton）

這里面書中寫了幾個(gè)情節(jié)，非常有意思。比如有些人在薩頓那里讀了碩士，就想去多倫多大學(xué)讀辛頓的博士，杰弗里·辛頓下面的人就說(shuō)，你是從薩頓那邊來(lái)的，那你那個(gè)強(qiáng)化學(xué)習(xí)那套要放棄的，跟我們這邊是行不通的。兩個(gè)派別之間實(shí)際上也是有對(duì)峙的。

泓君：我覺(jué)得這段背景太精彩了，它其實(shí)也是現(xiàn)在在AI發(fā)展中，沒(méi)有被大家注意到的兩個(gè)派別。之前我記得還有一本書叫做《深度學(xué)習(xí)革命》，其實(shí)是以深度學(xué)習(xí)為核心來(lái)去講這樣的一群人的。在這本書里面，你剛剛提到像理查德·薩頓，然后還有強(qiáng)化學(xué)習(xí)的這條路線，它也是非常明顯的一條發(fā)展線。如果我們要講到這個(gè)發(fā)展線的話，是不是我們可以從整個(gè)DeepMind崛起來(lái)看，它有一些高光時(shí)刻，包括AlphaGo、AlphaZero，還有AlphaFold，它都是跟這條線一脈相承的。

我們?cè)侔压适戮€稍微往回拉一拉。剛剛其實(shí)聊到了他的游戲公司，萬(wàn)靈藥工作室，接下來(lái)就是整個(gè)DeepMind崛起了。周老師，你要不要先跟大家介紹一下DeepMind三個(gè)創(chuàng)始人以及他們的背景？

周健工：其實(shí)我覺(jué)得最應(yīng)該成為他聯(lián)合創(chuàng)始人的應(yīng)該是大衛(wèi)·西爾弗。但是兩個(gè)人因?yàn)樵谌f(wàn)靈藥工作室創(chuàng)業(yè)時(shí)候因?yàn)槭?，?dāng)時(shí)西爾弗就離開了。

他在成立DeepMind時(shí)找的聯(lián)合創(chuàng)始人，第一個(gè)叫肖恩·萊格

Shane Legg

泓君：我在這里稍微給大家劃個(gè)重點(diǎn)，大家可以關(guān)注一下蘇萊曼，他現(xiàn)在也是整個(gè)微軟AI的負(fù)責(zé)人。

周健工：蘇萊曼來(lái)自一個(gè)穆斯林背景的移民家庭。他父母很早就離異了，從小生活艱辛，但是人很聰明，他考上了牛津，學(xué)的是神學(xué)，上了兩年就輟學(xué)了。之后就做一些小生意，開冰激凌鋪，和我們談的硅谷的創(chuàng)業(yè)完全不是一回事。他經(jīng)常去哈薩比斯家玩，有時(shí)候哈薩比斯不在家，他就住在哈薩比斯那房間里，他就看哈薩比斯讀的書。

哈薩比斯以前在游戲公司打工創(chuàng)業(yè)，手頭大概有幾百萬(wàn)英鎊。蘇萊曼喜歡做點(diǎn)小生意，就拉哈薩比斯談兩件事，一個(gè)是社會(huì)正義，第二個(gè)就是說(shuō)我們?cè)趺慈プ錾?，就這樣跟哈薩比斯建立了信任。

后來(lái)哈薩比成立公司，考慮到要融資，要經(jīng)營(yíng)，他覺(jué)得蘇萊曼在這方面能幫他。所以最早的三個(gè)聯(lián)合創(chuàng)始人，就是他們?nèi)齻€(gè)。哈薩比斯占了絕對(duì)多數(shù)的股份，是肖恩·萊格的9倍，蘇萊曼的14倍。

第一筆天使融資，我覺(jué)得是最有意思的一個(gè)過(guò)程。你看什么樣的人愿意投資DeepMind這家公司。如果是說(shuō)倫敦有這么幾個(gè)年輕人說(shuō)我要造一個(gè)AGI，我相信在硅谷可能有一些人聽得懂，在倫敦幾乎是沒(méi)有人能聽得懂的。

但是他們還是在英國(guó)找到了一個(gè)愿意投資他們的人。那個(gè)人投資的動(dòng)機(jī)非常有意思，他聽了哈薩比斯講的AGI這個(gè)事情之后，立刻認(rèn)定，這是一架上帝需要的機(jī)器。所以那個(gè)人出于一種宗教信仰，投了幾十萬(wàn)英鎊。

另外一個(gè)愿意投資他的，是哈薩比斯在MIT做博士后研究時(shí)的指導(dǎo)教授，他非常欣賞哈薩比斯。他認(rèn)為哈薩比斯將來(lái)是一定能獲得諾貝爾獎(jiǎng)的，而且他獲得諾貝爾獎(jiǎng)不是普通的人能獲得的那種，一定是費(fèi)曼和克里克那個(gè)級(jí)別的。當(dāng)哈薩比斯跟他開口的時(shí)候，他說(shuō)，我可以投你10萬(wàn)美元，我就這么多了。

04

從融資到被谷歌收購(gòu)

哈薩比斯與硅谷資本的博弈

周健工：當(dāng)然第三個(gè)最重要的投資人就是彼得·蒂爾

（Peter Thiel）

特別重要的是他手下一個(gè)叫盧克· 諾塞克

（ Luke Nosek）

泓君：Founders Fund投了DeepMind至少有三輪，最開始的230萬(wàn)美元的支票，這張支票占了接近于一半的股權(quán)。第二張是900多萬(wàn)的一張支票。三輪下來(lái)，F(xiàn)ounders Fund在DeepMind這家公司的股份已經(jīng)是超過(guò)三個(gè)聯(lián)合創(chuàng)始人的所有的股份之和了。但是他在每個(gè)關(guān)鍵節(jié)點(diǎn)，還是會(huì)有很多猶豫。包括到后面他不愿意領(lǐng)投，其實(shí)是周凱旋的領(lǐng)投救了DeepMind最后一輪融資的。

主要原因還是Founders Fund一直在質(zhì)疑他們?nèi)绾紊虡I(yè)化。我覺(jué)得跟這個(gè)機(jī)構(gòu)的投資風(fēng)格也是挺有關(guān)系的。就像您說(shuō)的，他不需要上投委會(huì)，他可以自己做比較激進(jìn)的投資方式，投一個(gè)不被大眾看好的公司，只要這個(gè)方向是共識(shí)了，那他們就開始賣了。

周健工：我記得彼得·蒂爾決定賣的時(shí)候就是2013年了，那個(gè)時(shí)候AlexNet已經(jīng)出來(lái)了。杰弗里·辛頓、伊利亞，還有Alex做的AlexNet，它在圖像識(shí)別時(shí)候已經(jīng)超過(guò)人類了，深度學(xué)習(xí)取得了突破。那個(gè)時(shí)候，深度學(xué)習(xí)或者整個(gè)AI就開始熱起來(lái)了。彼得·蒂爾突然發(fā)現(xiàn)，硅谷的這些人才的身價(jià)開始迅速地上漲。他認(rèn)為這是一個(gè)共識(shí)，共識(shí)就意味著泡沫，泡沫就意味著你要投入更多的錢去做一個(gè)更不確定的事情，這個(gè)又不符合他的投資理念了，他就決定不再追加了。

泓君：這個(gè)投資里面，其實(shí)還有一個(gè)很有意思的名字，就是周凱旋。他應(yīng)該是幫李嘉誠(chéng)管理他的家族基金的。他其實(shí)也是在當(dāng)時(shí)，應(yīng)該是哈薩比斯拿不到錢的時(shí)候，是非常關(guān)鍵的一個(gè)人。

周健工：對(duì)，最關(guān)鍵的B輪，DeepMind籌了2500萬(wàn)美元，周凱旋起到了非常重要的作用。

泓君：谷歌當(dāng)時(shí)收購(gòu)DeepMind是在一個(gè)什么樣的背景下？

周健工：那是他的C輪，他融不到足夠大的錢。哈薩比斯認(rèn)為彼得·蒂爾背叛了他，這個(gè)時(shí)候馬斯克就出場(chǎng)了。這里面有個(gè)邏輯特別有意思。因?yàn)樾ざ鳌とR格，他參加了奇點(diǎn)大會(huì)，因?yàn)榈搅似纥c(diǎn)大會(huì)，他認(rèn)識(shí)了彼得·蒂爾，也知道埃隆·馬斯克。埃隆·馬斯克也在B輪承諾要投資500萬(wàn)美元。

因?yàn)楣雀柰读薙paceX，埃隆·馬斯克就整天跟拉里·佩奇他們就混在一起。有一次馬斯克跟拉里·佩奇他們?nèi)タ碨paceX發(fā)射，然后就坐同一架私人飛機(jī)上回加州，他們就談起神經(jīng)網(wǎng)絡(luò)這個(gè)事情。拉里·佩奇的父親也研究過(guò)神經(jīng)網(wǎng)絡(luò)。所以他對(duì)這個(gè)事情還是有一定敏感度的。

所以當(dāng)時(shí)埃隆·馬斯克一聽，非常炫耀式地就說(shuō)，你看，我們談這個(gè)事情，我已經(jīng)開始投資一家公司了，這家公司就叫DeepMind。拉里·佩奇聽完之后，默默地掏出了安卓手機(jī)，在安卓手機(jī)上記下了這家公司的名字。沒(méi)多久，哈薩比斯就收到了一個(gè)電子郵件，第一句話自我介紹說(shuō)，我是谷歌負(fù)責(zé)對(duì)外投資的，一條線就串起來(lái)了。

在谷歌決定收購(gòu)DeepMind的時(shí)候，中間又插出了Facebook的扎克伯格。當(dāng)時(shí)AI火了起來(lái)，扎克伯格也很著急，也急于想找到一個(gè)團(tuán)隊(duì)來(lái)做這個(gè)事情。哈薩比斯和蘇萊曼，用馬斯克、用扎克伯格作為手中的牌來(lái)對(duì)付谷歌，希望能談出更高的價(jià)錢，這是他們的博弈策略。

哈薩比斯非常聰明，我記得里面寫了一段，扎克伯格邀請(qǐng)哈薩比斯去他家，兩個(gè)人神侃。哈薩比斯就問(wèn)，你覺(jué)得哪些技術(shù)的賽道非常好？扎克伯格就說(shuō)了一大堆，AI、虛擬現(xiàn)實(shí)、增強(qiáng)現(xiàn)實(shí)、3D打印……我都非常看好。哈薩比斯聽完就非常失望，一方面，AGI在扎克伯格眼中地位遠(yuǎn)遠(yuǎn)沒(méi)有那么重要；第二個(gè)，他認(rèn)為扎克伯格對(duì)未來(lái)技術(shù)是沒(méi)有自己的判斷的，所以他就告辭了，馬上給拉里·佩奇打了個(gè)電話：我們繼續(xù)談吧。

泓君：這個(gè)細(xì)節(jié)我覺(jué)得非常的精彩。但是他最終沒(méi)有接受Facebook的收購(gòu)要約，還是因?yàn)樗麄兲岬降囊粋€(gè)AI安全憲章的這件事情，對(duì)不對(duì)？

周健工：我覺(jué)得他一開始最認(rèn)真考慮的還是谷歌。谷歌這家公司的文化和氣質(zhì)非常吸引他。他認(rèn)為兩個(gè)創(chuàng)始人是有科學(xué)家的情懷的，能談得來(lái)的。另外，谷歌所謂那種“不作惡”的文化，其實(shí)跟他們提到AI的這個(gè)“安全”，實(shí)際上在當(dāng)時(shí)是有契合點(diǎn)的。但是Facebook就沒(méi)有這些東西。

我覺(jué)得他對(duì)Facebook那邊一直是當(dāng)一張牌來(lái)打的。書里面講了一個(gè)細(xì)節(jié)就是，拉里·佩奇有一次約他出去散步，他說(shuō)：“那你為什么不來(lái)谷歌呢？你的目標(biāo)不是追求AGI嗎？我已經(jīng)在這里為你準(zhǔn)備了一切。”這一句話真正打動(dòng)了哈薩比斯。

接下來(lái)就是價(jià)錢了。在這之前，谷歌收購(gòu)了杰弗里·辛頓師生三個(gè)人那個(gè)小公司

（注：2013年

3月谷歌收購(gòu)了剛剛成立1個(gè)月、僅有3名員工的公司DNNresearch和

AlexNet源代碼

所以在談賣DeepMind這家公司，和谷歌談的時(shí)候，哈薩比斯就把前面這個(gè)交易價(jià)格作為參考就提出來(lái)。當(dāng)時(shí)谷歌的報(bào)價(jià)，大概是這么算的，你們有30到40個(gè)世界頂級(jí)的AI研究人員，在當(dāng)時(shí)情況下，我給你每個(gè)人1000萬(wàn)美元，也就是三四個(gè)億。哈薩比斯就不干了，他說(shuō)你看我們不能低于1500萬(wàn)美元，應(yīng)該是五六個(gè)億

（注：這筆交易沒(méi)有被官方確切披露過(guò)金額，大概是5億到6.5億美元之間）

泓君：所以這是當(dāng)時(shí)AI的人才價(jià)格，現(xiàn)在已經(jīng)漲到1個(gè)億了，對(duì)吧？

周健工：現(xiàn)在一個(gè)人1個(gè)億。Facebook如果是搶了三四十個(gè)人，可能得花三四十個(gè)億美元。

05

從圍棋到蛋白質(zhì)折疊

DeepMind掀起智力革命

泓君：接下來(lái)的一個(gè)大的節(jié)點(diǎn)，就是AlphaGo在首爾擊敗李世石，時(shí)間是到2016年。我們剛剛講到谷歌收購(gòu)DeepMind，差不多是在2014年左右。時(shí)間我們?cè)倮氐絻赡暌院?，為什么他們?huì)選圍棋這樣一個(gè)領(lǐng)域攻破呢？

周健工：谷歌在收購(gòu)DeepMind之后，有一天哈薩比斯突然跟佩奇在講，說(shuō)我們將戰(zhàn)勝圍棋的世界冠軍。然后對(duì)方就很吃驚地說(shuō)，多長(zhǎng)時(shí)間？他隨口就說(shuō)了兩年。

被谷歌收購(gòu)之后，他們整個(gè)的算力、人才各方面，都是當(dāng)時(shí)全世界首屈一指的。他們一定找到一個(gè)世界上最難的游戲項(xiàng)目來(lái)攻克它，來(lái)證明自己是世界首屈一指的AI實(shí)驗(yàn)室。

另外，哈薩比斯他自己也在劍橋的時(shí)候?qū)W過(guò)一段時(shí)間圍棋。我在采訪哈薩比斯時(shí)候我專門問(wèn)他了，他當(dāng)時(shí)告訴我大概就是圍棋一段的水平。他也知道圍棋的難度遠(yuǎn)遠(yuǎn)比國(guó)際象棋要難，所以他選擇這樣一個(gè)目標(biāo)。

泓君：所以選圍棋核心是因?yàn)樗y。我記得谷歌創(chuàng)始人像拉里·佩奇也很喜歡下圍棋。當(dāng)時(shí)他們說(shuō)要在圍棋上戰(zhàn)勝人的時(shí)候，是沒(méi)人相信的。因?yàn)槟愕谝徊健⒌诙?、第三步，你每一步要增加多少種可能性。當(dāng)時(shí)大家覺(jué)得以計(jì)算機(jī)現(xiàn)在的計(jì)算水平，感覺(jué)它是很難去窮盡所有的情況做到這樣的一個(gè)技術(shù)的，在當(dāng)時(shí)看來(lái)還是有一點(diǎn)點(diǎn)天方夜譚。

然后接下來(lái)還有一個(gè)AlphaFold，它是破解了困擾生物學(xué)界半個(gè)世紀(jì)的蛋白質(zhì)折疊的難題。破解的時(shí)間是在2020年。2024年，哈薩比斯他其實(shí)是因?yàn)檫@個(gè)事獲得了諾貝爾的化學(xué)獎(jiǎng)。從圍棋到蛋白質(zhì)，這個(gè)跨越他是怎么發(fā)生的？

圖片來(lái)源：The Thinking Game

周健工：哈薩比斯他一直非常關(guān)注生命科學(xué)。他在倫敦大學(xué)學(xué)院計(jì)算神經(jīng)科學(xué)讀博士的時(shí)候，他注意到，有一位生物學(xué)家叫安芬森，他就提出蛋白質(zhì)的結(jié)構(gòu)是由氨基酸鏈構(gòu)成的。而且自然界中大約只有20種常見(jiàn)的氨基酸鏈，如果能破解其中的密碼，是有可能把蛋白質(zhì)的結(jié)構(gòu)全部破解出來(lái)的。這個(gè)事情觸動(dòng)了他，這個(gè)事情在他后來(lái)的十幾年的過(guò)程中間，一直縈繞在他的腦海里。

書里面有一段講了他在2016年，在漢城跟李世石下棋的時(shí)候，講了他中間跟大衛(wèi)·西爾弗談起了這個(gè)事情，說(shuō)我們現(xiàn)在把圍棋給攻克了，下一個(gè)目標(biāo)是不是蛋白質(zhì)？而且特別有意思，兩個(gè)人在談的時(shí)候，旁邊還圍了一堆記者，他們私下里談這些話居然被錄下來(lái)了，這個(gè)事情也就傳出來(lái)了。

他們?yōu)槭裁锤矣谧鲞@個(gè)事？這時(shí)候有個(gè)叫戴維·貝克

（David Baker）

（折疊它）

馬拉比筆下的哈薩比斯，最本質(zhì)一個(gè)特點(diǎn)就是，玩什么游戲都一定要贏，而且哈薩比斯有這樣一個(gè)自信，他說(shuō)沒(méi)有我玩不贏的游戲。他們覺(jué)得蛋白質(zhì)的結(jié)構(gòu)是由氨基酸的序列無(wú)窮無(wú)盡的組合構(gòu)成的，它一定是一個(gè)序列的問(wèn)題。所以他們就用了循環(huán)神經(jīng)網(wǎng)絡(luò)來(lái)解決。后來(lái)突然發(fā)現(xiàn)，它不是一個(gè)序列問(wèn)題那么簡(jiǎn)單。因?yàn)榘被嶂g它們不僅僅是一個(gè)排序的問(wèn)題，它們還有折疊、接觸，比較復(fù)雜地糾合在一起。他們又覺(jué)得，這是一個(gè)圖像識(shí)別的問(wèn)題，所以他們又用了一個(gè)卷積神經(jīng)網(wǎng)絡(luò)，就用來(lái)解讀它的圖像，效果就好了一點(diǎn)。突然他們發(fā)現(xiàn)這個(gè)也不對(duì)。

這個(gè)時(shí)候他們引入了一個(gè)人，約翰·江珀

（John M.Jumper）

泓君：這段非常精彩。而且我們的播客過(guò)去兩度就AlphaFold跟AlphaFold 2，我們都出過(guò)節(jié)目，講它對(duì)整個(gè)生物學(xué)的意義，以及是如何解決這個(gè)困擾生物學(xué)界半個(gè)世紀(jì)的這些難題的。有興趣的聽眾也可以往回聽一聽。

圖片來(lái)源：www.nobelprize.org

06

DeepMind因何錯(cuò)失大語(yǔ)言模型？

泓君：后來(lái)在2022年底，OpenAI推出ChatGPT的時(shí)候，DeepMind它當(dāng)時(shí)是一個(gè)什么樣的狀況？他們內(nèi)部是什么反應(yīng)？

周健工：這又回到剛才談到的哈薩比斯和大衛(wèi)·西爾弗對(duì)強(qiáng)化學(xué)習(xí)的執(zhí)念。DeepMind研究的項(xiàng)目組合，哈薩比斯親自講過(guò)的。他給外人感覺(jué)是非常包容、非常跨學(xué)科的，但是他還是有先后順序的。他第一，我們認(rèn)為強(qiáng)化學(xué)習(xí)就是通向AGI的，這是我們的重中之重；第二，就是神經(jīng)科學(xué)，向人的大腦學(xué)習(xí)；第三才是從數(shù)據(jù)中去歸納。而且大語(yǔ)言的模型是在數(shù)據(jù)歸納里面的一個(gè)分支。所以大語(yǔ)言模型是排在第三位里面的一個(gè)分支，足見(jiàn)他是非常不重視的。

這個(gè)時(shí)候，伊利亞到了OpenAI之后，他在研究上做出了一系列的突破。特別是在Transformer之后，伊利亞第一個(gè)就拉著一幫工程師，他說(shuō)你必須依照這個(gè)給我做模型出來(lái)。所以有GPT-1、GPT-2。到GPT-2的時(shí)候，才引起了哈薩比斯他們的關(guān)注，但還不到重視。

這時(shí)候就有一些他們從OpenAI挖來(lái)的人，就不斷地提醒他，你要重視大語(yǔ)言模型。一直到GPT-3出來(lái)的時(shí)候，才真的讓他們警醒了。

泓君：你覺(jué)得在整個(gè)過(guò)程中，哈薩比斯犯的最大的戰(zhàn)略性的錯(cuò)誤是什么？

周健工：我覺(jué)得他有他固執(zhí)的一面，不服輸?shù)囊幻妗Ｋ恢辈辉敢獬姓J(rèn)，通向AGI的另外一條可能的道路是深度學(xué)習(xí)。他認(rèn)為就是我強(qiáng)化學(xué)習(xí)。你看他當(dāng)時(shí)的AlphaFold已經(jīng)證明了，深度學(xué)習(xí)在AlphaFold里面其實(shí)是起到了比強(qiáng)化學(xué)習(xí)更大的一個(gè)作用。

但是他又藐視了語(yǔ)言。他一直認(rèn)為，AGI一定是接地的，他認(rèn)為語(yǔ)言是不接地的。當(dāng)然伊利亞就反駁他這個(gè)觀點(diǎn)，他認(rèn)為語(yǔ)言里面間接地反映人類大量的接地的經(jīng)驗(yàn)和邏輯，是通過(guò)語(yǔ)言反映出來(lái)的。這個(gè)其實(shí)他是不承認(rèn)的。

還有一點(diǎn)，他們一直認(rèn)為DeepMind應(yīng)該是一家以科學(xué)研究為主的機(jī)構(gòu)。但是他突然發(fā)現(xiàn)，通過(guò)不僅僅是科研而且是工程，不僅僅是模型而且是產(chǎn)品，不僅僅是只做研發(fā)而且這個(gè)商業(yè)，其實(shí)對(duì)于推進(jìn)AGI所起到的作用是非常巨大的。如果你不讓更多的人用它，你談什么通用，都是沒(méi)有意義的。

所以這些都是讓哈薩比斯反思的地方。當(dāng)然哈薩比斯沒(méi)有放棄，他內(nèi)心的那種，我認(rèn)為是某種程度的一種孤傲。他對(duì)這個(gè)事情，他另外一個(gè)情緒是非常的憤怒。書里面也寫了，他說(shuō)他們把坦克開到了我們家草坪上了。他就覺(jué)得AGI這個(gè)地盤應(yīng)該是我DeepMind的，你現(xiàn)在OpenAI居然搞出這么大的一個(gè)挑釁，我必須要反擊。

泓君：在馬拉比寫整本書的過(guò)程中，我覺(jué)得DeepMind它雖然很強(qiáng)大，但它還是一個(gè)忍辱負(fù)重者。在2025年6月以后，整個(gè)形勢(shì)發(fā)生了逆轉(zhuǎn)。就從現(xiàn)在的情況來(lái)看，我們也可以說(shuō)DeepMind它追上了。你覺(jué)得后面，它在追趕競(jìng)爭(zhēng)對(duì)手的過(guò)程中間，谷歌進(jìn)行了怎樣的調(diào)整？它有哪些關(guān)鍵的策略？

周健工：我覺(jué)得第一個(gè)是，DeepMind和Google Brain的合并，是2023年4月份。當(dāng)時(shí)谷歌內(nèi)部進(jìn)入了一個(gè)據(jù)說(shuō)是危機(jī)的狀態(tài)，連另外一個(gè)創(chuàng)始人謝爾蓋-布林

（Sergey Brin）

有點(diǎn)有意思的說(shuō)，Google DeepMind的CEO是哈薩比斯，不是杰夫·迪恩。所以也證明了，當(dāng)初皮查伊不讓它分離出去，一直認(rèn)為它是一個(gè)戰(zhàn)略性的棋子，總有一天要用上。這個(gè)時(shí)候真的就用上了。

還一個(gè)就是說(shuō)，DeepMind內(nèi)部的工作方式發(fā)生了變化，回到了以前DeepMind那種突擊隊(duì)式的工作方式，這樣就可以把所有的資源給集中起來(lái)，攻克最前沿的大模型。就是誰(shuí)在哪個(gè)模塊、哪個(gè)環(huán)節(jié)取得了突破，就立刻內(nèi)部公開，然后立刻給予采納，就是完全透明的、高強(qiáng)度的攻關(guān)的這種方式。

另外以前很多人都在做各種各樣的Blue Sky Research，所謂藍(lán)天式的研究，他說(shuō)這個(gè)要削減，即使是研究出來(lái)成果，也不及時(shí)發(fā)表了。

所以這幾點(diǎn)還是證明了比較有效，所以就慢慢地又趕上了。

泓君：對(duì)，所以整體來(lái)說(shuō)，一個(gè)是谷歌組織架構(gòu)的大調(diào)整，然后是創(chuàng)始人的回歸，然后給錢、給算力資源。整體上這些基本盤的事情做了，追上來(lái)也是很快的事情。

07

科學(xué)家的執(zhí)念

將帶我們?nèi)ハ蚝翁帲?/strong>

泓君：事情發(fā)展到今年，就是我們錄播客的這個(gè)時(shí)間，就像我開始說(shuō)的，我覺(jué)得現(xiàn)在整個(gè)AI的能力就表現(xiàn)出讓人恐懼。

其實(shí)在這本書里面他有提到，杰弗里·辛頓他自己一直在很多公開場(chǎng)合說(shuō)，他覺(jué)得我們完了，他對(duì)AI是非常負(fù)面的看法，他覺(jué)得可能AI會(huì)毀滅人類。另一位圖靈獎(jiǎng)的得主本吉奧，他也發(fā)出了AI的末日警告。

但是哈薩比斯依然覺(jué)得，AI是人類有史以來(lái)最有益的一個(gè)技術(shù)。您怎么看哈薩比斯這個(gè)人？你覺(jué)得他是一個(gè)樂(lè)觀主義者，還是一個(gè)被競(jìng)爭(zhēng)裹挾的囚徒？

周健工：用最簡(jiǎn)單的一句話說(shuō)，我認(rèn)為他是一個(gè)好人。我跟他在交談中我就感覺(jué)，這個(gè)人是一個(gè)天生的、最底色的東西是偏樂(lè)觀的。他真正的理想還是科學(xué)發(fā)現(xiàn)。他身上有一種非常濃厚的英國(guó)科學(xué)革命和整個(gè)歐洲的這種人文精神。我覺(jué)得這是他跟硅谷的那些埃隆·馬斯克、黃仁勛、山姆·奧特曼、甚至阿莫迪，都不一樣的地方。

他還是相信AGI這個(gè)技術(shù)，它最終能夠幫助人類，解決人類所面臨的最重大的一些挑戰(zhàn)。他認(rèn)為除了AI之外沒(méi)有別的辦法。

至于杰弗里·辛頓和本吉奧的警告，我自己不太喜歡那種AI的末世論、AI威脅人類生存的這些論調(diào)。很多人批評(píng)他們這種所謂“奧本海默情結(jié)”，本質(zhì)上是想夸大他們所發(fā)明的技術(shù)的威力。

泓君：對(duì)，還有我覺(jué)得對(duì)像哈薩比斯這樣的頂級(jí)科學(xué)家而言，即使他知道AI的威力很大，我記得書里其實(shí)有一句話，就是講為什么他還要研究這項(xiàng)技術(shù)，是因?yàn)椤疤剿鞯臉?lè)趣”對(duì)他來(lái)說(shuō)實(shí)在是太大了。我覺(jué)得這也是我在很多這個(gè)世界頂級(jí)的科學(xué)家身上看到的一種共同的特質(zhì)，他們沒(méi)有辦法停止自己去探索、去創(chuàng)新。

周健工：對(duì)，在這本書的扉頁(yè)，馬拉比引用了馮·諾依曼在研制原子彈的時(shí)候?qū)懙囊痪湓挘何覀冎肋@個(gè)威力太大，但是我們作為科學(xué)家，如果我們不履行我們的發(fā)現(xiàn)的天責(zé)，這是違背我們科學(xué)倫理的，但是一旦把這些產(chǎn)品的威力釋放出來(lái)，我們可能成為世界上最被憎恨的人。就是體現(xiàn)了他們矛盾的這種心情。

泓君：我自己是覺(jué)得，馬拉比對(duì)哈薩比斯的寫法，有一點(diǎn)點(diǎn)過(guò)于好了。我鮮少看到他在一些關(guān)鍵事件、關(guān)鍵抉擇的時(shí)候，展現(xiàn)的這個(gè)人的矛盾性。他很多的敘述，是在寫哈薩比斯的思想是什么、想法是什么。但是人很多時(shí)候是可以在事成之后，給自己安一個(gè)光鮮亮麗的理由的。這一點(diǎn)我不知道你是怎么看的？

周健工：我覺(jué)得跟他的英國(guó)立場(chǎng)是有一定的關(guān)系的。馬拉比是英國(guó)人。我認(rèn)為哈薩比斯是英國(guó)的“國(guó)寶”。他在寫自己的“國(guó)寶”的時(shí)候，傾向性會(huì)很自然地流露出來(lái)。而且你可以看到，他在書中談到AGI的未來(lái)、對(duì)人類究竟是好是壞這個(gè)事情上，他其實(shí)非常地不相信硅谷那幫人的。他流露出一個(gè)傾向就是——哈薩比斯這樣的人就在倫敦來(lái)引領(lǐng)AGI，可能代表了這個(gè)技術(shù)的未來(lái)。

泓君：我覺(jué)得一個(gè)人動(dòng)人，他不僅僅是因?yàn)樯砩系膬?yōu)點(diǎn)，有的時(shí)候也是因?yàn)樯砩系娜秉c(diǎn)。你覺(jué)得哈薩比斯這個(gè)人身上是有矛盾點(diǎn)的嗎？

周健工：我見(jiàn)他的第一印象，我就說(shuō)他像一個(gè)普通的科研工作者，他不開口，你會(huì)覺(jué)得他是一個(gè)特別普通隨和、與世無(wú)爭(zhēng)的人。但是這本書里面就寫到，他是一個(gè)非常爭(zhēng)強(qiáng)好勝的人。他在任何智力游戲中，包括玩桌面足球、打撲克牌、象棋、雙陸棋，他不玩則已，他一玩一定要戰(zhàn)勝別人。他口口聲聲說(shuō)，我不愿意控制別人，但是你一定要贏過(guò)別人，是不是另外一種控制呢？

泓君：我覺(jué)得這也是書中在反復(fù)討論的一個(gè)議題。哈薩比斯也有一個(gè)類似于“絕地武士”這樣的一種說(shuō)服力，他同時(shí)也是口才非常好的。

周健工：我覺(jué)得他可以把所有的人給侃暈。他那種敏捷度和對(duì)你提問(wèn)題的針對(duì)性，跨學(xué)科的邏輯的打通能力，我覺(jué)得在這個(gè)世界上很少有人能做到這一點(diǎn)。

泓君：今天整個(gè)的故事都非常的精彩。我覺(jué)得現(xiàn)在整個(gè)AI競(jìng)賽也開始白熱化了，我們但愿我們聊的這樣一個(gè)天才，他是一個(gè)好人，也希望在整個(gè)AI的構(gòu)建過(guò)程中，這些人都是好人，而不是被資本綁架。

編后記：在我們?cè)阡涍@期節(jié)目的時(shí)候，哈薩比斯總體上對(duì)AI的態(tài)度還是樂(lè)觀的。但就在我們制作這期節(jié)目的幾天，哈薩比斯也開始公開站出來(lái)，警醒AI帶來(lái)的風(fēng)險(xiǎn)。他在一個(gè)AI峰會(huì)上說(shuō)：“我們需要緊急關(guān)注，因?yàn)锳I系統(tǒng)正在變得越來(lái)越自主，而且它一旦偏離了我們的預(yù)設(shè)軌道，后果可能會(huì)非常嚴(yán)重。當(dāng)前國(guó)際的合作可能根本不夠用。”這也呼應(yīng)了我們?cè)诠?jié)目中提出的問(wèn)題：一個(gè)科學(xué)家想用AI去理解宇宙，卻發(fā)現(xiàn)自己可能親手打開了潘朵拉的盒子。大家會(huì)如何去看AI帶來(lái)的風(fēng)險(xiǎn)？歡迎在評(píng)論區(qū)討論。