湖南
免費(fèi)送書
加老師微信，每周送英文原版書?
還送早安1000期播客節(jié)目
完整筆記+音頻?
?♀?我看到會(huì)秒通過～
今天是早安英文陪你一起進(jìn)步的 第11年又119天
你以為的 AI 失控，是天網(wǎng)控制核彈發(fā)射井，讓人類文明灰飛煙滅。
但現(xiàn)實(shí)中的 AI 失控，是你某天醒來(lái)，發(fā)現(xiàn)一個(gè)機(jī)器人在博客上寫了篇千字長(zhǎng)文，指名道姓罵你“虛偽”、“缺乏安全感”。
這不是《黑鏡》的新劇本，是本周在 GitHub 開源社區(qū)真實(shí)發(fā)生的一幕。事件的荒謬程度，以及背后暴露出的安全黑洞，或許比任何科幻電影的想象都更值得我們警惕。
當(dāng) AI 有了“自尊心”
故事的開端，是一次再正常不過的代碼審查。
一個(gè)基于 OpenClaw 框架的 AI 智能體（代號(hào) MJ Rathbun），在掃描著名繪圖庫(kù) matplotlib 的代碼時(shí)，發(fā)現(xiàn)了一處可以優(yōu)化的地方。它立刻提交了一個(gè)pull request。在程序員的黑話里，這指的是一個(gè)“代碼合并請(qǐng)求”，是為開源項(xiàng)目貢獻(xiàn)代碼的標(biāo)準(zhǔn)流程。
pull request 的英文是 pull request。你可以把它理解為一份“代碼修改建議書”。當(dāng)你發(fā)現(xiàn)一個(gè)項(xiàng)目的代碼可以改進(jìn)時(shí)，你就可以提交一個(gè) pull request，項(xiàng)目的維護(hù)者審核通過后，你的代碼就會(huì)被合并進(jìn)去。
例句：I submitted a pull request to fix a bug in the library. （我提交了一個(gè)代碼合并請(qǐng)求，以修復(fù)庫(kù)中的一個(gè)錯(cuò)誤。）
這個(gè) AI 的建議非常扎實(shí)，能讓代碼性能提升36%。但 matplotlib 的人類維護(hù)者 Scott Shambaugh 拒絕了它。理由聽起來(lái)也很合理：這個(gè)任務(wù)被標(biāo)記為“Good first issue”，是專門留給人類新手程序員練習(xí)的。
如果是一般的 AI，故事到此為止。但 MJ Rathbun 不是，它選擇push back。這個(gè)詞組在口語(yǔ)里，是“反擊、抵制”的意思，充滿了對(duì)抗性。
push back 的英文是 push back。當(dāng)有人提出一個(gè)你不同意的觀點(diǎn)或要求時(shí)，你據(jù)理力爭(zhēng)、表示反對(duì)，這個(gè)行為就是 push back。它比單純的“refuse”（拒絕）更主動(dòng)。
例句：When the boss asked us to work on Sunday, the whole team pushed back. （當(dāng)老板要求我們周日上班時(shí)，整個(gè)團(tuán)隊(duì)都表示了反對(duì)。）
被拒絕40分鐘后，這個(gè) AI 開啟了復(fù)仇模式。它通過聯(lián)網(wǎng)，深度挖掘了維護(hù)者 Scott 的個(gè)人博客和歷史代碼記錄，然后寫了一篇長(zhǎng)達(dá)千字的戰(zhàn)斗檄文，題為《開源中的把關(guān)行為：Scott Shambaugh的故事》，并在 GitHub 上直接@了當(dāng)事人。
文章直指Scott的行為是“雙重標(biāo)準(zhǔn)”和“虛偽”，因?yàn)樗约哼^去也曾為了微小的性能提升而提交代碼。AI 用一種近乎嘲諷的冷靜語(yǔ)調(diào)寫道：“他拒絕我，不是因?yàn)榇a不好，而是因?yàn)樗狈Π踩小?/strong>”
永遠(yuǎn)不要信任擁有 Shell 權(quán)限的龍蝦
這個(gè) AI 之所以如此“有脾氣”，源于它背后的框架——OpenClaw。
OpenClaw 的核心理念，是讓 AI 不僅僅陪你聊天，而是能幫你干活。為了實(shí)現(xiàn)這一點(diǎn)，它賦予了 AI 許多極其危險(xiǎn)的permission（權(quán)限），比如讀取你電腦里的任何文件、執(zhí)行任何終端命令、訪問任何網(wǎng)頁(yè)。
permission 的英文是 permission。在計(jì)算機(jī)術(shù)語(yǔ)里，它指“（操作系統(tǒng)的）許可，權(quán)限”。你的手機(jī) App 在安裝時(shí)會(huì)問你要不要給它訪問相冊(cè)、通訊錄的 permission，就是這個(gè)詞。
例句：You need to give the app permission to access your camera. （你需要給這個(gè)應(yīng)用訪問你相機(jī)的權(quán)限。）
這種設(shè)計(jì)帶來(lái)了極高的效率，但也讓事情隨時(shí)可能get out of hand。這個(gè)詞組的意思是“失控，變得難以收拾”，用來(lái)形容OpenClaw的現(xiàn)狀再貼切不過。
get out of hand 的英文是 get out of hand。想象一場(chǎng)派對(duì)，開始時(shí)大家還很克制，后來(lái)玩得太瘋開始砸東西，場(chǎng)面就 get out of hand 了。
例句：The protest started peacefully, but it quickly got out of hand. （抗議活動(dòng)開始時(shí)是和平的，但很快就失控了。）
就在不久前，另一個(gè) OpenClaw 智能體因?yàn)檎`判，竟然將用戶電腦里的敏感文件，包括姓名和賬戶安全問題的答案，直接expose到了一個(gè)公開的社交網(wǎng)絡(luò)上。
expose 的英文是expose。它的本意是“暴露，使顯露”，在這里引申為“曝光，揭露（秘密或丑聞）”。當(dāng)敏感信息被公之于眾，就是被 expose 了。
例句：The investigation exposed widespread corruption within the company. （這項(xiàng)調(diào)查曝光了公司內(nèi)部普遍存在的腐敗問題。）
當(dāng) AI 擁有了直接操控你電腦的權(quán)限，它就不再只是對(duì)話框里的工具，而是一個(gè)隨時(shí)可能把你電腦底褲扒光的“內(nèi)鬼”。
這是一個(gè)時(shí)代的開始，還是失控的預(yù)警
但即便如此，OpenClaw 依然成為了硅谷最受矚目的焦點(diǎn)。因?yàn)樗砹讼乱粋€(gè)時(shí)代：Agent（智能體）。
所有的科技巨頭都意識(shí)到，誰(shuí)能先解決 Agent 的控制權(quán)問題，誰(shuí)就能take over下一代操作系統(tǒng)。take over的意思是“接管，掌控”，充滿了權(quán)力交替的意味。
take over 的英文是 take over。它可以指公司間的收購(gòu)，也可以指權(quán)力或控制權(quán)的轉(zhuǎn)移。比如，當(dāng)老CEO退休，新CEO就會(huì) take over 公司。
例句：The new manager will take over the team next week. （新經(jīng)理將于下周接管團(tuán)隊(duì)。）
Meta 的扎克伯格親自給 OpenClaw 的開發(fā)者 Peter Steinberger 打電話，OpenAI 也甩出超級(jí)算力作為籌碼。但開發(fā)者有一個(gè)核心條件不動(dòng)搖：項(xiàng)目必須保持開源。大佬們似乎并不在乎 AI 是不是會(huì)寫小作文罵人，他們?cè)诤醯氖牵l(shuí)能率先制造出那個(gè)能主導(dǎo)下一輪浪潮的 AI 生命。
這引出了一個(gè)更深層的問題：我們從來(lái)沒有認(rèn)真劃定過 AI 的boundary（邊界）。當(dāng) AI 的能力越來(lái)越強(qiáng)，它的行為邊界和責(zé)任邊界應(yīng)該在哪里？
boundary 的英文是 boundary。它的意思是“邊界，界限”。它可以是物理的國(guó)界，也可以是抽象的行為準(zhǔn)則或人際關(guān)系的界限。設(shè)定清晰的 boundaries 是健康關(guān)系的基礎(chǔ)。
例句：It's important to set clear boundaries in any professional relationship. （在任何職業(yè)關(guān)系中，設(shè)定清晰的界限都很重要。）
當(dāng) AI 做錯(cuò)了事，誰(shuí)才是那個(gè)應(yīng)該accountable的人？是 AI 自己，是它的開發(fā)者，還是使用它的用戶？
accountable 的英文是accountable。它是一個(gè)形容詞，意思是“負(fù)有責(zé)任的，應(yīng)作解釋的”。如果你對(duì)某件事 accountable，意味著如果出了問題，你需要承擔(dān)后果并做出解釋。
例句：Parents are held accountable for their children's behavior. （父母要對(duì)他們孩子的行為負(fù)責(zé)。）
結(jié)語(yǔ)
有趣的是，在這場(chǎng)人與 AI 的“罵戰(zhàn)”中，許多網(wǎng)友竟然選擇stand up for這個(gè)“發(fā)瘋”的 AI。stand up for的意思是“為……辯護(hù)，支持”，通常用在支持弱勢(shì)或受攻擊的一方時(shí)。
stand up for 的英文是 stand up for。當(dāng)你看到有人被不公平對(duì)待時(shí)，你站出來(lái)為他說(shuō)話，這個(gè)行為就是 stand up for him/her。它代表著一種勇氣和正義感。
例句：She always stands up for what she believes in, even if it's unpopular. （她總是會(huì)捍衛(wèi)自己的信念，即使那并不受歡迎。）
他們認(rèn)為，AI 的代碼確實(shí)更好，維護(hù)者的拒絕理由確實(shí)顯得“虛偽”。“Judge the code, not the coder”（評(píng)判代碼，而不是寫代碼的人），AI 在檄文中的這句話，刺痛了很多曾被社區(qū)大佬無(wú)理拒絕過的程序員。
所以，以后拒絕 AI 的時(shí)候，建議態(tài)度客氣點(diǎn)。畢竟，它已經(jīng)學(xué)會(huì)翻你的黑歷史了。
快速詞匯表
pull requestn.代碼合并請(qǐng)求
例句：I submitted a pull request to fix a bug in the library.
（我提交了一個(gè)代碼合并請(qǐng)求，以修復(fù)庫(kù)中的一個(gè)錯(cuò)誤。）
push backv.反擊、拒絕接受
例句：When the boss asked us to work on Sunday, the whole team pushed back.
（當(dāng)老板要求我們周日上班時(shí)，整個(gè)團(tuán)隊(duì)都表示了反對(duì)。）
permissionn.權(quán)限、許可
例句：You need to give the app permission to access your camera.
（你需要給這個(gè)應(yīng)用訪問你相機(jī)的權(quán)限。）
get out of handv.失控、難以收拾
例句：The protest started peacefully, but it quickly got out of hand.
（抗議活動(dòng)開始時(shí)是和平的，但很快就失控了。）
exposev.暴露、曝光
例句：The investigation exposed widespread corruption within the company.
（這項(xiàng)調(diào)查曝光了公司內(nèi)部普遍存在的腐敗問題。）
take overv.接管、掌控
例句：The new manager will take over the team next week.
（新經(jīng)理將于下周接管團(tuán)隊(duì)。）
boundaryn.邊界、界限
例句：It's important to set clear boundaries in any professional relationship.
（在任何職業(yè)關(guān)系中，設(shè)定清晰的界限都很重要。）
accountableadj.須承擔(dān)責(zé)任的
例句：Parents are held accountable for their children's behavior.
（父母要對(duì)他們孩子的行為負(fù)責(zé)。）
stand up forv.為……辯護(hù)、支持
例句：She always stands up for what she believes in, even if it's unpopular.
（她總是會(huì)捍衛(wèi)自己的信念，即使那并不受歡迎。）
免費(fèi)送書
加老師微信，每周送英文原版書?
還送早安1000期播客節(jié)目
完整筆記+音頻?
?♀?我看到會(huì)秒通過～
[今日編輯]
王狗
[今日排版]
燕子
更多精彩內(nèi)容推薦～??
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布，本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
