![]()
公眾關注此事,是出于對AI能力邊界與AI時代信息安全的擔憂。
![]()
▲有網友發帖稱,“豆包查到2026山東事業編成績了”。圖/大風新聞
文|信海光
“豆包查到2026山東事業編成績了!”據揚子晚報報道,4月23日晚間,有網友發帖稱,豆包還附上一張成績單,但成績部分涂掉了。“不過,好像只有濟南槐蔭區的能查,是不是屬實咱也不知道,到底啥情況呀?”
此事隨即引發熱議,似乎又印證了大模型能力之“神奇”,但實際是個“烏龍”。網友之所以覺得神奇,是以為官方還沒有公布,卻被AI查到了結果。甚至媒體采訪的專家也大膽推測,“可能和大模型幻覺和聯想能力有關”。
但據相關工作人員解釋,“因為今天要發布筆試成績,所以昨晚工作人員在測試成績查詢端口的時候,有網民無意中點進去了”。也就是說,這其實是互聯網上常見的一件事,成績已經在服務器上,查詢端口已經能訪問,只是官方還沒有正式公告。
所謂“豆包查到考編成績”,大概率是兩種情況。一種情況,這根本不是豆包發現的,而是人發現的,比如有網民無意中點進去了,但有人利用豆包做噱頭來賺取流量,所以報道說“目前原帖網友已經刪除了帖子”。另一種情況則是,AI可能做了路徑猜測,根據往年鏈接規律,提前找到了官方還未正式發布的內容。從技術角度講,這并不高深,普通爬蟲就能做到,這也是以往黑客獲取信息的一種基本手段。
雖然這件事本質上沒有想象得那么神奇,但如果真是第二種情況,依然值得關注。因為,這反映出一種新的變化,即有了AI參與之后,網民獲取信息的效率更高了,同時也提醒相關方面,進入AI時代之后,數據安全與發布流程正在面臨新挑戰,傳統安全程序可能需要重新評估與檢驗。公眾關注此事,也是出于對AI能力邊界與AI時代信息安全的擔憂。
在以往,就算存在這種網絡安全疏漏,一般網民也很難捕捉和利用,但有了AI參與之后,其可以更快掃描網頁,更容易捕捉信息,這相當于把一部分“黑客”的基礎能力釋放到公眾網絡,盡管這并不一定違法。
也就是說,以前信息發布單位的懶惰和疏漏很可能不會造成不良后果,所以常抱有僥幸心理。但AI時代到來以后,再繼續粗心大意,可能就會惹出大麻煩。如果說,相關單位過去只需防范普通用戶“無意中點進去”,如今就要重點提防自動化掃描、規則推測、AI批量測試路徑這些新的威脅了。
對普通人其實也一樣。比如,由于惰性,很多人對多年使用的私人密碼懶得更換,即使被網絡安全系統提醒密碼疑似泄露后,也經常無動于衷。以前這種情況可能不會出什么問題,但AI時代到來后,就要當心了。
AI不能憑空生成真實數據,也無法通過推理得出考編成績,但即便是高效查找漏洞這一項能力的提升,也足以引起相關方重視。這也是近期世界安防圈高度關注的熱門話題。
就在4月初,Anthropic宣布開發出最新AI模型Mythos,并聲稱其具備空前的漏洞識別能力,可在幾周內發現“成千上萬”個漏洞,其中不少已在代碼深處蟄伏10—20年,最古老的甚至已隱匿長達27年。
AI發現漏洞的速度,已經遠遠超過人類修復的速度,這一能力既能助力企業查漏補缺,也可能被黑客用作攻擊利刃。
在“AI查到考編成績”這一案例中,核心問題就是“沒關好門”。這其實是一個低級錯誤,甚至不涉及系統漏洞問題,相關單位只需提升管理水平,加強網絡安全教育就可以規避。但網絡安全卻要因為AI的出現而面臨全新的挑戰。
由于AI已經可以高效、大規模地做漏洞掃描,正在把漏洞發現從人工稀缺能力,變成可規模化、自動化的能力,這使得發現漏洞的成本大幅下降,某種程度上相當于把黑客能力規模化,使既有攻防節奏被打破。
以往是“魔高一尺,道高一丈”,現在反了過來。以前系統安全重點是防人,現在必須防止機器規模化掃描。這需要系統在安全防范方面同步提升。好在,AI的出現也大幅降低了系統安全測試的成本。這就方便了在新軟件、新系統上線前做自動化滲透測試。
但無數存在已久的老漏洞如何防范、修補,也要有足夠的重視。畢竟,它們早已分布于現實中時刻運作的無數臺終端上。如何把這些安全補丁真正打好,也是AI時代的大課題。
撰稿 / 信海光(專欄作家)
編輯 / 柯銳
校對 / 劉軍
歡迎投稿:
新京報評論,歡迎讀者朋友投稿。投稿郵箱:xjbpl2009@sina.com
評論選題須是機構媒體當天報道的新聞。來稿將擇優發表,有稿酬。
投稿請在郵件主題欄寫明文章標題,并在文末按照我們的發稿規范,附上作者署名、身份職業、身份證號碼、電話號碼以及銀行賬戶(包括戶名、開戶行支行名稱)等信息,如用筆名,則需要備注真實姓名,以便發表后支付稿酬。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.