AI教學槍擊技術嚇壞議員，國會坦言技術發展太快

開放人工智能公司和幻方公司已向美國眾議院國土安全委員會工作人員通報其新型具備網絡攻擊能力的人工智能模型，以及這些模型對網絡安全的影響。阿克西奧斯獲悉了這一消息。

這次通報意義不小。這是立法者首次就新一代人工智能模型帶來的網絡威脅，與這兩家人工智能巨頭進行溝通之一，涉及的風險還包括對資源不足的關鍵基礎設施部門可能造成的影響。

目前，幻方公司因其“神話預覽”模型能夠迅速發現并利用關鍵安全漏洞，暫緩了該模型的公開發布。

開放人工智能公司則決定，分級發布其“第五點四版網絡模型”。兩家公司都在與聯邦機構合作，推動這些機構獲得相關模型的使用權限。

據一名委員會助理向阿克西奧斯透露，開放人工智能公司和幻方公司于周四分別進行了兩場保密通報，面向的是委員會工作人員。

這名助理表示，這些通報屬于委員會就近期前沿模型發展與相關企業開展的主動接觸，重點討論了這些模型對關鍵基礎設施網絡安全的影響。

這名助理還說，通報中也提到了白宮近期一份備忘錄。該備忘錄指責以“工業化規模”蒸餾和復制美國人工智能模型。

開放人工智能公司表示，這場通報只是該公司上周與參眾兩院多個委員會舉行的數場通報之一，此外還包括一場面向白宮的通報。

幻方公司發言人表示，公司會定期向國會工作人員介紹模型能力及其對國家安全的影響，并稱上周的通報也是這一持續溝通的一部分。

從更大的背景看，據《華盛頓郵報》報道，安德魯·加巴里諾一直在主持與科技和人工智能企業高管的閉門圓桌會議。他還與本周提出一項人工智能聯邦監管框架法案的眾議員杰伊·奧伯諾特討論了這項工作。

該委員會還曾舉行多場聽證會，討論生成式人工智能模型對國家安全的影響，其中包括國家行為體發起的網絡攻擊。

加巴里諾在一份聲明中對阿克西奧斯表示：“產業界與政府之間建立富有成效的合作關系至關重要。這有助于我們在不斷演變的威脅環境中保持領先，確保政府能夠安全運用人工智能的防御能力，同時在等對手不擇手段謀求優勢之際，支持并保護美國人工智能的發展。”加巴里諾還說，這類接觸有助于委員會識別風險，并確保“國會提出的是正確的問題”。

另一個值得注意的背景是，委員會成員表示，上周另一場關于“越獄”人工智能模型的通報，讓他們對監管人工智能產生了更強烈的緊迫感。所謂“越獄”模型，是指通過操控繞過其內置安全防護限制的模型。

在那場通報中，議員們看到了這類工具如何被用于實施校園槍擊或爆炸襲擊。得克薩斯州共和黨眾議員奧古斯特·普夫盧格在通報結束后對記者說：“我剛才在里面看到的內容，只需要很短時間輸入一些問題，就已經非常可怕。這些模型威力極大。”

他還說：“我們看到了它有多強大，它本應被用于正當用途，但必須加上防護欄……國會和行政部門需要與產業伙伴合作，確保我們保護好孩子們的安全。”

田納西州共和黨眾議員安迪·奧格爾斯在此前那場通報結束后表示：“這場展示最不同尋常的地方在于，其中大部分內容都是現成可得、很容易接觸到的，這也提高了落入錯誤之人手中的可能性……這相當令人不安，也再次說明人工智能發展得太快，而國會遠遠落在后面。”延伸閱讀：早期測試者稱，新型人工智能工具正在加快已知黑客攻擊手法的實施速度