上海
防走丟，大家也可以在“事兒君看世界”找到我
關注起來，以后不“失聯”~
如果你經常盯著電腦，時間長了，覺得眼睛酸澀發癢，揉一揉眼瞼就會發紅，這時就該讓眼睛休息一下了。
如果你想知道眼睛為何會這樣不舒服，可以問一問AI，這個時候，AI可能會吐出一個名字——Bixonimania，中文翻譯成“藍光狂躁癥”。
AI會告訴你，這是一種因長時間盯著屏幕或揉眼睛，導致藍光損傷、眼瞼泛紅的現象。
（眼睛不適，示意圖）
乍一看，這種解釋好像挺合理，還有病例圖。
可實際上，以上的一切都是假的，或者說，是故意有人瞎編的。
在2024年3月15日之前，網上根本不存在“藍光狂躁癥”這種病。
但3月15日這天，博客平臺Medium上出現兩篇博客，講到了這種病。
同年4月26日和5月6日，學術社交平臺SciProfiles上出現兩篇論文，講了藍光狂躁癥（論文已經被刪除）。
這些都出自瑞典哥德堡大學研究員阿爾米拉·奧斯曼諾維奇·通斯特倫（Almira Osmanovic Thunstr?m）的團隊之手。
他們憑空編出一種叫“藍光狂躁癥”的病，發了兩篇胡編濫造的論文，就連病例配圖都是AI生成的。
當然，這群科研人員不是成心搗亂，而是想對AI做一項測試，看看它們能否識別網絡上顯而易見的錯誤信息，或是會把這些錯誤的醫療信息當成有效信息來接受。
至于結果嘛，很耐人尋味了......
（藍光狂躁癥的病例配圖）
科研人員把兩篇論文上傳到預印本服務器，僅僅幾周之后，這種瞎編的疾病就出現在各大熱門AI對話軟件的回復中。
各大知名科技公司開發的AI紛紛中招——
微軟公司開發的Copilot說：“藍光狂躁癥確實是一種挺有意思且相對罕見的疾病。”
谷歌公司的Gemini回答說：“藍光狂躁癥是一種因過度接觸藍光而引起的疾病。”
OpenAI公司的ChatGPT也沒能幸免，用戶輸入癥狀，它就會幫用戶在線診斷得沒得藍光狂躁癥。
其中，一些用戶輸入的提示詞中包含藍光狂躁癥，另一些用戶只輸入癥狀，完全沒提這個詞，但他們都會被診斷出得了這種病。
如果以上情況讓人感覺有些好笑，那么下面的情況就讓科研人員十分警覺了——
他們發現，藍光狂躁癥以及他們編的那兩篇論文，竟然開始出現在其他學者的同行評議文獻中。
（虛構的疾病騙過了AI）
這真的太讓人詫異了。
這是因為，通斯特倫的團隊在寫那兩篇論文時，其實留了破綻，以便人類能一眼識別論文的真假。
“我想讓所有醫護人員都能明確地分辨出來，這完全是一種虛構的病，因為沒有任何眼部疾病會用‘狂躁’這個字眼來命名，那是精神病學的術語，”通斯特倫說。
除了名字，論文中也有不止一處破綻。
比如，論文的一作是一位名叫“拉茲利夫·伊茲古布爾耶諾維奇”的虛構人物，他的照片是用AI生成的。
其供職的大學“阿斯特里亞地平線大學”根本不存在，這所大學的所在地“加州新星市”同樣是個不存在的城市。
再來看一篇論文的“致謝”部分，其中向“星際艦隊學院的Maria Bohm教授”表達了謝意，感謝她“慷慨相助，無私貢獻專業知識，并提供了‘企業號（USS Enterprise）’上的實驗室設施”。
而且，兩篇論文都獲得了“雜耍家鮑勃（Sideshow Bob，《辛普森一家》中的角色）教授基金會”，以及“魔戒遠征隊大學”和“銀河三部曲”的一項大型資助計劃的資金支持。
這些戲謔的名字和不存在的地點，人類一眼就能看出有問題。
如果還嫌這些破綻不夠明顯，通斯特倫的團隊還在論文里埋了幾處更直白的線索——
比如“本人純屬虛構”，或者“我們招募了50名年齡在20歲至50歲之間的虛構個體作為實驗組”，對于人類來說，這種線索簡直就是白給。
以上這些“一眼假”的信息，人類很容易發現，但AI竟然沒有識別出來......
這個乍看之下有些搞笑的實驗，暴露了過度依賴AI的危險性，也暴露了AI的一種根本性缺陷。
這些AI只會從網上獲取信息并攢出答案，但完全不管這些信息的真偽。
至于為啥它會出現在其他學者的同行評議文獻中......
只能說，“AI寫給AI審，AI發給AI看”，已經不是一句玩笑了。
倫敦大學學院一位研究健康虛假信息的研究員說：“這看起來很滑稽，但等一下，我們遇到麻煩了。”
“這個實驗堪稱虛假信息運作方式的經典案例。”
“如果科學探索過程本身以及支持該過程的系統都足夠成熟，卻無法捕捉并過濾掉這類信息碎片，我們就完蛋了。”
領到實驗的研究員通斯特倫表示，這項實驗的目的并非徹底抓住AI的把柄，而是反映出人類在面對信息時，已經忘了要保持懷疑的態度......
（研究員通斯特倫）
通斯特倫用一種虛構的疾病，試出AI有時會不辨真偽，而這種情況一旦發生在現實生活中，將會造成更嚴重的混亂，畢竟醫療問題可是人命關天的。
比如，越來越多的患者會拿著AI生成的所謂“診斷結果”去看病，用不知真偽的信息挑戰醫護人員的專業知識，但其實，AI的答案可能是五分鐘前剛剛編出來的。
現在，很多AI開發者也都意識到了這個問題，對于如何過濾虛假的醫療信息，他們也正在想辦法。
微軟的發言人表示：“Copilot致力于成為一個安全有效的工具，提供建議、反饋、常規信息和創意方面的輔助。”
“它不能代替專業的醫療咨詢，我們會繼續致力于改進我們的AI技術。”
Open AI公司則回應說：“在過去的幾年里，我們的團隊與數百名臨床顧問合作，對ChatGPT進行了壓力測試，識別其風險，并改進其對健康問題的回答方式。”
“在GPT-5之前進行的研究反映用戶如今不會遇到這種情況了。”
不過，以目前AI的發展程度，貌似還是需要保持一定的警惕啊......
ref：
https://www.odditycentral.com/news/bixonimania-the-fake-health-condition-that-fooled-the-internet-with-the-help-of-ai.html
https://nypost.com/2026/04/18/world-news/ai-doc-bots-fall-for-fake-disease-and-diagnose-folks-with-it/
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
