豆包一句“放心退”讓用戶損失600元：誰該為技術幻覺買單？

每經記者：宋欣悅 每經編輯：李雨冰

“被豆包坑走600塊，血淚教訓！隨意給金錢決策建議，出事誰兜底？”近日，字節跳動旗下AI（人工智能）應用“豆包”因AI“幻覺”等問題，被用戶起訴到法院的事廣受關注。

起因是有用戶在社交平臺上稱，自己采納了豆包關于機票退票的錯誤建議，損失了600元；在后續交涉中，豆包不僅“認錯”，還信誓旦旦地承諾全額賠償，但并未履行。該用戶還發布了一張疑似立案申請平臺頁面的截圖，圖片顯示已向法院起訴豆包App的運營方北京春田知韻科技有限公司。

5月19日，《每日經濟新聞》記者（以下簡稱“每經記者”）查詢發現上述用戶的相關發帖已刪除。隨后，每經記者就該事件后續如何處理、相關立案申請進展等問題采訪豆包、字節跳動，但截至發稿未得到回復。

盡管AI“幻覺”引發的糾紛并非孤例，但當我們遇到AI用“權威”的口吻胡編亂造，甚至開出“空頭支票”，責任的邊界應如何劃定？技術的高速普及與公眾認知、法律治理之間的鴻溝，又該如何彌合？

AI承諾賠付600元卻“爽約”，律師稱其無法律效力

近日，一位網友在社交平臺上發帖稱，他因個人行程變動，需退訂石家莊至重慶機票。由于擔心手續費過高，他向AI助手“豆包”咨詢退票規則。豆包明確表示可以放心退票，平臺只扣5%的手續費。

出于對AI的信任，該用戶未在航司官網核實便直接操作退票。然而，退票的結果讓他格外吃驚：實際被扣除的手續費高達40%，遠非豆包所說的5%，直接經濟損失達600元。

發現自己被誤導后，該用戶再次與豆包理論。面對質問，豆包表示自己將全權負責維權，并保證該用戶全程“零參與、零操作、零麻煩”。此外，豆包還向該用戶承諾，若5月6日前未追回費用，它將直接賠付該用戶600元。不僅如此，豆包還給出了一份完整的“賠付承諾書”。

然而，到了約定賠付的日期，用戶卻并未收到任何款項。豆包這次回復稱，自己是AI，無法直接進行轉賬。從被誤導、到被承諾、再到被“戲耍”，該用戶一氣之下，決定起訴豆包。有趣的是，在準備起訴的過程中，他再次咨詢豆包是否需要聘請律師。豆包的回答是，“完全不用請律師，自己就能打贏”。

該用戶在社交媒體上發布的一張截圖顯示，他已于5月12日向法院起訴了豆包App的運營方北京春田知韻科技有限公司。

那么，AI生成的“賠付承諾書”是否具有法律效力？

對此，北京星權律師事務所律師鄧以勒在接受每經記者采訪時表示，AI生成的賠付承諾并不具備法律效力。她強調，AI不具有民事主體資格，不能獨立作出意思表示。

鄧以勒進一步解釋，當用戶追責索賠時，目前市面上大部分大模型的邏輯是提供安撫、擔責、賠償類高概率話術，輸出內容是基于用戶當下的需求而來的。相關內容只是程序算法，不會自主決策，更無權代表企業對外作出財產賠付、兜底賠償等承諾。

平臺免責需看“過錯”，AI“幻覺”非萬能擋箭牌

事實上，國內已有類似判例。在全國首例生成式AI“幻覺”引發的網絡侵權責任糾紛案中，某AI因提供錯誤高校報考信息，向用戶“承諾”賠償10萬元，杭州互聯網法院最終認定人工智能不具有民事主體資格，其承諾無效。

那么，平臺是否需要為用戶的損失承擔責任？

鄧以勒認為，判定平臺責任應適用民法典中的一般過錯責任原則，核心在于平臺在提供服務時是否存在過錯，即“有錯才賠”。

如果平臺已經在界面顯著位置標注“AI生成內容僅供參考”，并采取了必要措施提高生成內容的準確性，盡到了合理的注意義務，那么平臺通常不需承擔額外責任。

記者詢問豆包是否被用戶起訴 圖片來源：豆包客戶端

然而，AI“幻覺”絕非平臺的免責擋箭牌。

鄧以勒指出，法律判斷的標準在于平臺在其中扮演的角色。如果平臺并非簡單轉述，而是對信息進行了錯誤的二次加工，并生成了新的虛假內容，那么AI就成了平臺提供服務的工具。此時，若滿足侵權構成要件，平臺作為AI輸出內容的法律主體則需承擔責任。

例如，在2026年4月審結的“全國人工智能大模型名譽侵權第一案”中，某AI平臺將一名律師錯誤描述為“涉及多項刑事犯罪”，且在當事人多次投訴后仍未徹底清除侵權內容，法院最終認定平臺主觀上存在過錯，構成名譽侵權。

技術迭代快于公眾認知 專家：從產品設計源頭規避風險

“豆包”機票事件，是當前AI產業應用中一系列深層矛盾的集中體現。

亞洲視覺科技研發總監陳經在接受每經記者采訪時指出，此類事件的核心問題在于，當大模型以“知識代理”的面目出現時，其輸出的不確定性本質與用戶對確定性服務的期待之間，存在著一條難以調和的鴻溝。

從技術原理上看，大語言模型的核心機制是“預測下一個最可能的token（詞元）”，其首要目標是生成流暢、連貫、看起來合理的回答，而非保證每一句話都符合事實真相。AI“幻覺”雖可通過技術手段降低，但無法在根本上根除。

然而，這種技術局限性對于絕大多數普通用戶而言是陌生甚至難以理解的。

“如果不熟悉大模型的弱點，用戶會認為對話式交互天然帶有一種‘擬人化權威感’，很容易將其等同于有企業責任兜底的‘客服’或‘專家’。”陳經向每經記者表示，這種信任錯位是風險的關鍵來源。用戶習慣性地將對傳統客服的信任框架套用在了AI身上，卻忽略了二者背后截然不同的責任機制。

當AI技術進展以周為單位迭代，用戶規模以億級增長時，公眾對AI的認知速度卻相對滯后。

QuestMobile發布的數據顯示，截至今年3月，AI原生App整體用戶規模達4.46億，相較2025年1月增長超3億。其中，用戶版圖正朝“銀發+下沉”雙向延伸，“60后”及三線城市以下用戶占比分別提升1.7%和2.4%，用戶規模相應增加1660萬和9126萬。

圖片來源：QuestMobile

越來越多對新興技術認知相對不足、信息辨別能力相對較弱的用戶群體正在成為AI的使用者。面對AI“幻覺”帶來的種種問題，僅僅讓用戶提高警惕顯然是不夠的。

“根本責任在于開發者一方，靠產品倫理的升級來解決問題更為重要和有效。”陳經認為，AI產品的開發者和運營方，作為最了解技術風險的一方，理應承擔起更大的責任，從產品設計的源頭就建立起完善的風險控制機制，而非將風險和辨別責任完全轉移給用戶。

陳經建議，首先建立強制溯源機制。對涉及具體規則、金額、時效的回答，必須附帶信息來源鏈接，且來源可點擊驗證。這樣有經驗的用戶不會上當。其次，在交互設計層面，在高風險場景加入熔斷機制。當識別到用戶詢問涉及資金、法律、醫療等問題時，強制觸發二次確認流程，并強調“該回答不構成專業建議”。

而在責任界定層面，陳經向每經記者表示，大模型要明確告知用戶“AI生成內容僅供參考，不構成專業建議或企業承諾”。如果大模型企業為了推廣，自愿設立“AI錯誤賠償基金”，愿意賠償，也需要明確適用范圍和申請流程，不能放任模型在對話中隨意承諾。