北京
大家好，我是紐約君。
眾所周知，億萬富豪馬斯克和前女友阿什利·圣克萊爾爭奪一歲兒子監護權的事，前陣子鬧得沸沸揚揚…
好不容易風波稍平息，他倆又因為一款AI聊天機器人，再次登上全球頭條。
（馬斯克、圣克萊爾）
起因是圣克萊爾最近發現，馬斯克的AI工具Grok正在為她“公開脫衣”。
Grok Imagine是馬斯克旗下xAI公司開發的人工智能圖像生成器，允許用戶通過文本提示創建圖片和視頻。這項功能包含一個所謂的“刺激模式”，可以生成成人內容。
Grok用戶找到她14歲時候的照片，用平臺的AI技術讓未成年時的她穿上比基尼。
這些帶有色情性質的照片傳遍互聯網，搞得圣克萊爾很憤怒：“這些都是我的真實照片，他們用了這些照片，還讓我脫光了衣服。”
讓她成為“AI色情制品女主角”的工具，還來自她前任兼孩子親爸的公司…
（圣克萊爾）
圣克萊爾發現那些圖片后，第一時間聯系了Grok要求刪除，但處理結果并不理想…
據說有些已經處理掉了，有些花了36個小時才刪掉，有些現在還沒完成。
而且在她投訴這件事后，馬斯克的X平臺飛速取消了她的藍V認證，速度竟然比刪除這些AI生成的色情內容還快。
圣克萊爾忍不住跑到社交媒體上吐槽：“他們取消我的藍V認證的速度，比他們刪除grok制作的兒童色情加性虐待內容的速度還快。”
還繼續開火：“我開始覺得馬斯克花440億美元收購X不是為了言論自由。”
（圣克萊爾）
當然，反對這個功能的遠不止圣克萊爾一個人。Grok這個功能自推出以來就爭議不斷，真人照片“脫衣”，特別是未成年照片，已經完全踩過了法律和道德的底線…很多有類似經歷的女生主動聯系了圣克萊爾。
馬斯克的X平臺雖然回應“會對非法內容采取行動”，但非營利組織AI Forensics的報告顯示，在短短一周內生成的2萬張Grok圖片中，有2%的原型很可能都是未成年人，里面起碼有30張圖片是穿著比基尼或透視衣的。
（grok）
于是，更多的人坐不住了…
到了1月6日，從歐洲到亞洲再到南美，包括英國、歐盟、法國、印度、馬來西亞和巴西在內的多國官員和監管機構，已經排著隊對X平臺提出了批評，到了全球譴責的程度。
歐盟委員會抨擊得很直接：“這根本不是‘刺激’，這是違法，這令人震驚！”
英國科技大臣莉茲·肯達爾直言不諱：“近幾天我們在網絡上看到的景象完全駭人聽聞，在文明社會中是不可接受的。”
波蘭的一位議員更是語出驚人，他說希望Grok也來處理一下他的照片，這樣大家就能更關注這個問題了。
面對來自全球的抨擊，馬斯克的回應讓人大跌眼鏡。
有網友試圖替Grok辯解，說“Photoshop不是也能做到一樣的效果嗎？”，馬斯克轉發了這條評論，還補充了一句：“正是如此。”
這輕描淡寫的態度，仿佛在說有啥大不了的…
（馬斯克回應）
結果也只是把Grok的圖像生成和編輯功能改為僅限付費用戶使用…根本沒在解決問題，只是應付了一下子。
歐盟委員會發言人抗議了：“無論是付費還是免費，我們都不想看到這樣的圖片。就這么簡單。”
英國首相府也認為這種改變是對受害者的侮辱，不是根本解決辦法。
諷刺的是，因為這場爭議，X平臺的流量簡直是蒸蒸日上。1月2日以來Grok的每日下載量增加了54%，而X的下載量也在過去三天內躍升了25%。
丑聞反而成了最好的營銷工具…
而馬斯克這邊之所以能這么猖狂，也是因為圍繞AI生成圖像的法律責任界定仍然很模糊。
平臺通常對用戶行為有免責權，但AI生成的內容，到底是“用戶言論”還是“平臺言論”？這個問題沒有現成答案。
去年7月英國生效的《在線安全法》倒是規定了，制作或分享未經同意的私密圖像或兒童性虐待內容均屬違法，也包括AI制作的。違反者可能面臨公司全球收入10%或1800萬英鎊的罰款。
但對馬斯克這樣的全球首富來說，這些罰款真的能起到威懾作用嗎？
而且AI脫衣功能，能輕易脫去任何人的衣服，特別是未成年人，這已經超越了“言論自由”的范疇，而是越界成了一種數字化的性暴力。
當科技發展到AI聊天機器人開始對無數女性照片進行“數字化脫衣”，科技創新的邊界究竟在哪里…
感 謝 閱 讀 ?? 歡 迎 分 享
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
