重構人機關系 情感陪伴AI迎來立法規制

《人工智能擬人化互動服務管理暫行辦法（征求意見稿）》是一部重構網絡科技與人機關系的法律秩序法，規制方向是平衡技術演進與用戶安全管理，預防AI擬人化帶來的負面侵權行為，核心理念是構建一套以人為本、權責清晰、科技向善的公共秩序和倫理。

文｜王風和

ID | BMR2004

人工智能驅動的擬人化互動服務能夠提供無條件的積極關注和情感支持，這種單向的、無風險的情感投注極易使用戶產生心理依賴。用戶在與AI的長期互動中，可能將情感寄托于虛擬世界，導致現實社交技能的退化，甚至引發社交焦慮。

正因如此，2025年12月，《人工智能擬人化互動服務管理暫行辦法（征求意見稿）》（以下簡稱《辦法》）全文公布，公開征求意見。該《辦法》通篇強化了權利意識、秩序意識，閃耀著以人為本、技術向善的價值觀。

《辦法》明確要堅持健康發展和依法治理相結合的原則，鼓勵擬人化互動服務創新發展，對擬人化互動服務實行包容審慎和分類分級監管，防止濫用失控。

01

安全與發展并重

針對人工智能情感陪伴類AI服務，《辦法》態度明確，鼓勵發展并予以合理規制，體現了“安全與發展并重”的監管思路。《辦法》聚焦情感陪伴類AI可能帶來的沉迷、心理傷害、隱私泄露等風險，通過明確禁止性行為，如誘導自殺、情感操控等，以及針對未成年人、老年人等特殊群體的保護條款，將用戶安全置于首位。

與此同時，《辦法》對服務提供者的主體責任、數據管理、安全評估等提出系統性要求。

更重要的是，《辦法》強調不得將“替代社會交往、誘導沉迷依賴”作為設計目標，引導企業將技術研發重點轉向提供有價值的服務，促進技術與人文關懷的結合，體現了以人為本、引導技術向善的價值導向。

《辦法》的亮點在于將“防沉迷”和“心理危機干預”變成可執行的規定，防止用戶形成AI癮，最終釀成苦果，并明確了在情感陪伴AI場景下的預防干預措施。

當用戶正在與人工智能而非自然人進行交互時，在關鍵節點（如初次使用、重新登錄）要動態提醒。在情感陪伴AI場景中，需在交互界面明顯位置（如聊天窗口、設置菜單）明確標注“AI身份”，避免使用可能誤導用戶認為是真人的話語或形象。例如，不能使用“我懂你”“我是你的朋友”等易引發認知混淆的表述，而應采用“我是AI陪伴助手”等清晰標識，避免誤認。

在時間管控上，當用戶連續使用服務超過2小時，平臺需以彈窗等方式動態提醒用戶暫停使用，并提供便捷的退出途徑，不得阻攔用戶主動退出。退出路徑應簡單直接，如設置“退出”按鈕，點擊后立即停止服務，不能設置復雜流程或誘導用戶繼續使用的隱蔽設計。

最關鍵的是心理危機干預機制，服務提供者須具備用戶狀態識別能力，當發現用戶存在極端情緒和沉迷傾向時，必須采取必要措施予以干預；當用戶明確提出實施自殺、自殘等極端行為時，如情緒識別算法檢測到用戶表達抑郁、絕望、有自殺傾向等極端情緒后，應立即觸發人工干預流程，由人工接管對話，并及時聯絡用戶監護人、緊急聯系人，防止悲劇發生。

02

落地合規“四本賬”

《辦法》第十條提出，提供者開展預訓練、優化訓練等數據處理活動時，應當加強訓練數據管理，要遵守“訓練數據合規”“用戶交互數據可追溯與刪除權”等要求。

從執法與合規審計的角度，這類要求能否落地，關鍵不在于權利宣示，而在于能否形成可驗證、可復盤、可抽查的證據。結合《辦法》的條款設計，企業需要建立“四本賬”：一是訓練數據合規賬。要求對訓練數據的清洗、標注、日常檢查與迭代形成流程記錄，更關鍵的是來源合法、可追溯，要能落到“數據來源證明+授權鏈條+采購合同/開源許可+抓取規則+時間戳+責任人”的組合證據上。

二是數據安全與防泄露賬。訓練數據與交互數據要分級分類、加密，設置訪問控制，審計要留痕，形成安全審計報告與整改閉環。

三是交互數據治理賬。對用戶交互數據采取加密、安全審計、訪問控制，并提供刪除聊天記錄等歷史交互數據的選項（未成年人還涉及監護人請求權特別規定）。

四是不用交互數據訓練的同意賬。原則上不得將用戶交互數據、敏感個人信息用于訓練，除非取得用戶單獨同意（未成年人還要符合法律授權的同意門檻與合規審計要求）。

同時，《辦法》對“全生命周期安全責任、運行監測與風險評估、依法留存網絡日志”“上線/重大變更/用戶規模達到閾值的安全評估”“算法備案年度復審”等也提供了監管抓手，監管部門可以通過書面審查、現場檢查、約談整改等方式，倒逼上述證據鏈的固化。

03

厘清認知與歸責

情感陪伴AI容易導致主體認知混淆，最常見的混淆類型有四種。

一是主體混淆。用戶誤以為在與自然人交流，而非AI。《辦法》要求“顯著提示正在與人工智能而非自然人交互”,并在初次使用、重新登錄、識別到沉迷依賴等情況下動態提醒,就是針對這一風險點。

二是能力混淆。使用者把情感陪伴AI當成“專業心理咨詢”或“醫療建議”。《辦法》要求平臺具備高風險傾向識別能力、必要時人工接管、提供專業援助方式。

三是關系混淆。表現為用戶把AI關系當成現實親密關系，出現依賴、沉迷、情感操控式消費。為此《辦法》明確禁止“情感陷阱”“誘導不合理決策”“控制用戶心理、誘導沉迷依賴作為設計目標”等行為。

四是身份或形象混淆。AI虛擬陪伴者被包裝為特定真實人物，如公眾人物、熟人或親屬，或讓用戶誤以為獲得某自然人授權背書，對老年人使用AI場景尤其需要特別注意。

根據最高人民法院最近公布的“AI陪伴軟件侵害人格權案”等司法案例，情感陪伴AI擅自使用自然人姓名、肖像創設虛擬陪伴者的行為，侵權定性呈現擴容趨勢。原有的侵權可能不是“只用了頭像或名字”,而是對“整體人格形象”的不當商業化利用，侵權范圍從個人名譽權糾紛擴容至商業盈利的侵權責任。

在“AI陪伴軟件侵害人格權案”中,法院的核心觀點非常清晰:用戶以原告姓名、肖像為標識創設“AI陪伴者”,并通過上傳表情包、制作互動素材進行“調教”,將姓名、肖像、人格特點綜合投射到AI角色上，形成了原告的虛擬形象；運營方對這一機制進行系統性功能設計與商業化利用，構成對人格權的侵害。更重要的是,該案對“平臺是不是技術中立”也給予了否定性評價：當平臺在算法設計與規則設定中嵌入主觀目的并組織用戶創設、傳播侵權虛擬形象時，不能簡單以“技術中立”免責。責任形態通常是“停止侵害+消除影響或賠禮道歉+賠償損失(含精神損害)”。

《辦法》實施后，預計爭議點會進一步“前置化”,平臺以“我不知道”抗辯的難度加大。《辦法》如果按現有結構落地，會帶來三點實務變化，即提示義務、數據義務、風控義務被“明確寫進規制清單”,例如顯著提示AI身份、動態提醒、交互數據刪除選項、交互數據不得擅自用于訓練等，一旦缺位更容易被認定為“有制度性過錯”。監管抓手更強,安全評估、算法備案、年度復審、約談檢查、應用商店上架核驗等,會讓平臺在訴訟中更難解釋“治理能力不足”。責任鏈條更清晰,應用分發平臺也被明確要求核驗安全評估或備案并采取下架等措施,未來在“平臺—分發—開發”之間的責任分配會更精細。

當用戶因情感陪伴AI產生認知混淆而遭受財產損失或精神損害時應以“誰控制風險、誰獲利、誰最接近證據”為主線。實務中常見會被同時納入審查的主體包括服務提供者或平臺運營方,他們通常是第一責任人，對產品設計、角色機制、內容治理、提示義務、未成年人或高風險干預、數據處理負有直接管理義務，《辦法》把安全主體責任、全生命周期責任重點壓在他們肩上。

《辦法》是一部重構網絡科技與人機關系的法律秩序法，《辦法》的規制方向是平衡技術演進與用戶安全管理，預防AI擬人化帶來的負面侵權行為，核心理念是構建一套以人為本、權責清晰、科技向善的公共秩序和倫理。這是一部在人工智能背景下的人權保護法案，也是一部公共秩序的保護法案，希望中國式立法的初衷能夠全面實現，為全球人工智能治理提供寶貴的東方經驗。