OpenAI CEO發(fā)文，承諾將致力于AGI普惠全人類

當(dāng)?shù)貢r間4月26日，OpenAI CEO薩姆·奧爾特曼公開發(fā)布了一篇題為《Our principles》（我們的原則）的文章，闡述了該公司在AI發(fā)展過程中的核心原則與長期目標(biāo)。

薩姆·奧爾特曼開篇便指出，AI有潛力顯著改善社會的許多方面。而且他認(rèn)為，AI與之前的其他技術(shù)一樣，將賦予人們更大的能力和自主權(quán)，“人們利用AI所能做的事情，將遠(yuǎn)遠(yuǎn)超過利用蒸汽機(jī)或電力所能做的事情”。

但薩姆·奧爾特曼表示，“一個普遍繁榮的世界”并非必然，未來技術(shù)權(quán)力也有可能集中在少數(shù)掌握超級智能的公司和機(jī)構(gòu)手中。對此他強(qiáng)調(diào)，OpenAI的使命是致力于讓真正的AGI（通用人工智能）惠及全人類，而非讓技術(shù)權(quán)力集中在少數(shù)人手中。

此外薩姆·奧爾特曼還進(jìn)一步指出，為實現(xiàn)AGI普惠的目標(biāo)，OpenAI將在工作中遵循民主化（Democratization）、賦權(quán)（Empowerment）、普遍繁榮（Universal prosperity）、韌性（韌性）、適應(yīng)性（Adaptability）等5項重要原則。其中，民主化是指OpenAI將致力于確保通過民主程序和公平原則制定關(guān)于AI的關(guān)鍵決策，而不僅僅由少數(shù)AI實驗室決定。

賦權(quán)是指OpenAI相信AI可以賦能每個人實現(xiàn)目標(biāo)、學(xué)習(xí)更多知識、獲得更快樂和更充實的生活，為此其將給予用戶所需的自主權(quán)。而且OpenAI方面承諾，在保障用戶自主權(quán)的同時，將以盡可能減少危害的方式構(gòu)建和部署AI，包括預(yù)防災(zāi)難性傷害，減少局部傷害和避免潛在的腐蝕性社會影響等。

普遍繁榮是指OpenAI希望未來每個人都能過上美好的生活，“通過讓每個人都能使用計算能力強(qiáng)大的易用型AI系統(tǒng)，人們將找到創(chuàng)造價值的新方法，并大幅提高每個人的生活質(zhì)量”。為實現(xiàn)普遍繁榮目標(biāo)，OpenAI方面認(rèn)為各國可能需要考慮新的經(jīng)濟(jì)模式，同時需要建設(shè)大量AI基礎(chǔ)設(shè)施并開發(fā)新技術(shù)以大幅降低成本。

韌性是指OpenAI將與其他公司、生態(tài)系統(tǒng)、政府和社會各界合作，共同應(yīng)對潛在的AI風(fēng)險。對此薩姆·奧爾特曼表示，“任何AI實驗室都無法獨自確保美好的未來”。適應(yīng)性則是指OpenAI將根據(jù)所掌握的新知識、新信息實時調(diào)整自己的發(fā)展、應(yīng)對策略，并堅持透明度原則，積極對外公布相關(guān)調(diào)整。

薩姆·奧爾特曼表示，“AI的發(fā)展帶來了諸多驚喜，未來還將有更多驚喜涌現(xiàn)。隨著技術(shù)的進(jìn)步，其涌現(xiàn)行為將變得越來越難以預(yù)測。我們欣然接受這種不確定性，謹(jǐn)慎地推進(jìn)各項能力的提升，迭代地部署系統(tǒng)，并從系統(tǒng)與世界的互動中不斷學(xué)習(xí)”。

【本文圖片來自網(wǎng)絡(luò)】