用AI“復活”逝者，應用邊界在哪？

近日，使用人工智能（AI）技術“復活”逝者引發廣泛關注和討論，并多次登上熱搜榜。用數字生命“復活”至親，曾經只屬于電影銀幕中的科幻想象，如今卻在現實世界中初現端倪，已經初步形成產業鏈。未來AI“復活”數字人可能擁有類似真人的身體與性格，這無疑會帶來不少倫理風險和社會問題。那么，這種用AI技術讓逝者“歸來”的行為，應用邊界在哪？推薦閱讀《人民論壇》最新文章。

AI“復活”數字人存在哪些風險？

對普通人來說，他們最想“復活”的一般是已經逝去的親朋，“復活”也是從外形開始的。但是，當外貌栩栩如生的數字人開始出現在生活中時，人們也許會產生更多需求：希望和這些數字人產生真正的互動，甚至從“他們”那里獲得情感上的交流。那么，是否應該讓“復活”數字人擁有情感，在技術上能否賦予“他們”情感呢？

AI“復活”的數字人本質上具有機器屬性。“復活”的數字人是通過向智能模型投喂被“復活”者的各種數據，進行反復訓練學習的結果。對于是否要賦予機器情感，研究者有分歧，一種典型的反對聲音是，情感是獨屬于人類的領地，如果被智能機器侵入，會對人的主體性造成威脅、弱化人的尊嚴。但從用戶的角度看，當智能機器不可避免地浸透到日常生活中時，人們不會希望它們只是以冷冰冰的機器面孔出現，而是希望從機器那感受到一定的人的情感，甚至在一定意義上將它們看作朋友。對于AI“復活”技術的應用來說，情感交流更是最主要的目的。

AI“復活”的數字人可能產生情感嗎？實踐中，與情感相關的智能技術一直在推進，這樣的技術被稱為情感計算。美國學者羅莎琳德·皮卡德在《情感計算》一書中對情感計算的定義為“與情緒或其他情感現象有關的、產生于或意圖影響情緒和其他情感現象的計算”。皮卡德認為，一個健康人的情感系統具備五項成分：出現情感和情感行為；快速的主要情感；由認知產生情感；情感體驗；精神與肉體的相互作用。她啟發我們，情緒、情感來自于精神與肉體的相互作用，它的源頭是人們的身體體驗、生活經歷，但機器并不完全具備皮卡德所說的五個要素，其中的后三個要素甚至可能是機器難以完全達到的。“情感計算的預設不具有身體性和內在性，僅僅依賴情感的內部狀態的設計，無法實現情感的因果溯源分析。”這樣的情感也就是無源之水。即使在前兩個要素方面，“計算”的情感也有一定的機械性與跳躍性，它們只能對人類情感的一些典型狀態進行模仿，情緒的形成與切換也缺少內在動因。

雖然人工智能沒有人類情感的整體性，但有學者認為，人工智能的情感反應只需要輸出端像是人類情感反應就足夠了，至于用什么方式來達到這一點，并不重要。從用戶角度看，盡管“復活”的數字人情感表達會一直存在局限性、機械性，但只要獲得足夠的情感反饋，他們也許不在意機器情感是不是“計算”出來的，或者如何“計算”出來的，畢竟在與數字人的交流中可以獲得一定情感滿足。然而，與數字“復活”人交流不僅帶來情感滿足，還可能存在陷阱。

一是未得到期待的回應可能帶來的情感傷害和打擊。在與AI“復活”數字人的交流中，人們或多或少會將對逝者的感情移情到“復活”數字人身上，而“復活”數字人卻未必能承受這種情感之重，“他們”對情感的理解與表達也不一定是準確的。因此，在情感上對“復活”數字人寄予過多期待，人們難免會失望。如果將“復活”數字人當作真正的親朋看待，甚至可能會在某些時候受到打擊與傷害。

二是應用AI“復活”技術可能帶來隱私泄露的風險。情感交流的重要基礎是經歷的共享，相比諸如ChatGPT等抽象的智能大模型，AI“復活”的數字人有以往的經歷作為支撐，這些經歷更容易在交流中引發情感共享、共鳴，這也是其優勢。一方面，在進行數字“復活”時，不僅需要被“復活”者的外貌等外在數據，更需要其生命歷程中的重要事件等數據，這會帶來更多隱私泄露風險。人們是否可以為了自己的需要而犧牲逝者的隱私？這是一個倫理上的拷問。另一方面，人們與數字“復活”者的共同經歷都是過去的，如果一直沉浸于回憶中，就容易被困在過去。

情感交流是雙向的。情感交流需要“復活”數字人具有一定的情感表達能力，也需要“他們”能識別與之交流的人的情感、情緒，這既可以通過對交流中的文本進行分析，也可以借助攝像頭、傳感器等設備，對捕捉到的人的情緒變化符號或數據進行分析，如面部表情、身體動作、心率、血壓、汗的分泌狀況等，而這種分析會進入隱私層面。同時，與“復活”數字人交流的人也需要分享一些個人的經歷與信息。人們看似與“親朋好友”在溫情地交流，其實面臨隱私泄露的風險。

三是AI“復活”的數字人較難保留原來的個性。科幻系列劇《黑鏡》的第一集《馬上回來》講述了這樣的故事：女主角的男友因車禍去世，因為懷念，她逐步“復活”了男友，從文字交流到語音交流，最終讓“他”擁有了完整的身體，這個“男友”比真人更完美，還可以完全服從女主角，但女主角最終放棄了“他”的陪伴，因為這個“復活人”沒有還原男友并不完美但活生生的個性，她因此意識到這并不是一個真正的人。

從技術上來看，就像情感一樣，性格未必不能被量化與模擬，今天的MBTI等人格測試就可以將每個人的性格量化，但這樣的測試只是強化了人的性格的某些主要方面。人性的復雜性決定了人們性格的多面性，人的性格也不會完全固定。即使未來智能技術對性格的分析和模擬可以不斷細化、深化，恐怕也難以復制一個人的“活”個性。

當然，還有一種可能是，有人希望通過數字化方式“改造”已故親人的性格，讓“他們”變得“更好”，但人們有權力進行這種改造嗎？被改造后的數字人還是原來的那個人嗎？未來的人們可能會不時面對這樣的質疑。

四是“復活”數字人即使擁有了“身體”，也可能不具備認知功能。之所以要為機器制造身體，主要還是源于人類的需要。當一個智能機器擁有了身體，且擁有了像人一樣的身體語言時，與之交流的人的視覺、觸覺等會隨之得到調動，并通過對機器的觸碰、撫摸、擁抱等獲得更多情感滿足，機器也會對人的行動作出回應，這些都會讓人與機器的交流更接近人際交流。

如果人的數字化“復活”可以達到這樣一種程度，那與之相關更深層的問題是，這些數字人是否應該享有一定的權利？如果能享受權利，那么這些數字人是否需要承擔一定的倫理、道德或法律責任？如果要承擔責任，是由“他們”獨立地承擔，抑或是制造“他們”或與“他們”生活、交流的人同時承擔？這些問題涉及到人工智能時代機器的倫理角色與法律地位問題，對此社會各界莫衷一是，還沒有達成共識。

無論未來AI“復活”數字人會如何發展，從生者角度看，當人們剛剛接觸“復活”親人時，心理會得到一定安慰，但是，隨著交流日益頻繁深入，如果生者沉浸在交流幻象中，不回到現實世界，就不容易從傷痛中走出。面對AI“復活”技術，應設置一定的邊界，避免被隱私黑洞和情感幻象吞沒。

如何避免AI“復活”技術用于不法用途？

情感撫慰也許是人們在應用AI“復活”技術時的基本需要和初衷，而一旦技術日益成熟，人的需求也會不斷擴張，“復活”的數字人有可能淪為工具。

AI“復活”名人發出的言論，在傳播中可能存在誤導大眾的問題。今天，一些已故名人雖然可能基于懷念的動機而被AI“復活”，但卻無法排除一些“復活”名人被用作活人表達的工具，甚至被迫為懷著種種功利動因的人“站臺”。一些“復活”名人說出來的話，其中所蘊含的信息、觀點、態度、立場等是否會違背真人的意愿難以考證，然而，這些話語在廣泛流傳過程中如果帶來混淆視聽的結果，這無疑會損害名人的名譽，其家人可能因此受到困擾甚至傷害。

即使沒有產生名譽等方面的侵害，誰有權力來決定這些名人的數字存在方式與言行？是他們的家人，還是制作者，或是粉絲等？抑或是名人自己生前的意愿？當不同方面的愿望產生沖突時，以誰的意志為主？這些都會是未來實踐中亟須解決的難題。

AI“復活”技術應避免淪為詐騙、侵權、深度偽造的工具。比如普通人被“復活”后，較之名人，查證更不容易，“他們”被利用作為詐騙或其他不端行為的工具時，后果也更嚴重。在AI“復活”過程中，也可能存在著復原的不完整性問題，在“復活”過程中還可能有移花接木等種種技術操控，最終“復活”可能演變成深度偽造。如何判斷什么樣的數字“復活”是合法的，還有待未來的法律做出明確的界定。

一些人會將AI“復活”名人視作一種創作方式，就像在電影、電視中進行創作一樣。影視作品中對于名人也會有很多虛構性創作，對此，人們早已普遍接受。用數字“復活”的方式進行創作，或許在未來也會得到普遍的認可。這樣的創作與偽造之間的邊界如何劃分？是沿用當今藝術創作的評判標準，還是有所發展與修正？盡早回應這些問題，才可能使相關應用得到規范。

未來對“復活”數字人的不當工具性應用可能還有更多表現形式，法律上也需要進一步明晰合理應用的邊界。無論是對名人還是普通人，情感性“復活”與工具性“復活”之間的界限也很難劃清。當人們以為只是滿足情感需求時，或許在另一種意義上把“復活”數字人當成了一種工具，即人們自我安慰、自我療愈的工具，在人們與“復活”數字人交流過程中，也難免以自我意志為導向。這樣的應用是否道德，也需要進一步反思。

未來能否實現數字化“永生”？

AI“復活”技術的日趨成熟也激發出人們的一種想象，那就是主動尋求在身體消亡后用數字化方式實現自己意識的延續，從而獲得數字化永生。探討數字化永生這一話題，需要對人的本質進行探尋，特別是需要回答人的意識與身體是否可能分離這一問題。

對人的身體與意識相分離的可能景象，早有學者作出過設想。在今天，腦機接口的實驗也在推進，雖然當前主要是應用在醫學領域，相信未來一旦相關技術成熟，人們思維活動的某些狀態可能通過一定方式被計算機感知、接收，甚至在外部存儲。但是，這是否會意味著人類的意識可以與身體分離？

法國哲學家笛卡爾認為，意識與身體是兩分、對立的，但后來很多哲學家對此持反對意見。現象學的代表人物，法國哲學家梅洛—龐蒂直接分析了身體對意識生成的影響。他將身體分為客觀的身體和現象的身體兩類，前者是一個能像物質一樣進行分解的生理實體，后者則是某個“我”所經驗和經歷的、承載著“我”的、介入自然和社會的有機體。現象身體可以理解為肉身化的意識或是意識參與下的身體，它所知覺的空間是現象空間，由此產生了中心性、方位感、視角性、層次、深度、運動性等概念。身體并不是由所謂心靈實體或靈魂所指使的機器，而直接就是進行知覺和理解活動的主體。身體在意識形成中的作用，意味著人的意識不可能脫離身體存在，而且這種身體并非只是生理性的身體，還包括承載著人的經驗、經歷等的現象身體，即使未來的技術可以造出生理性的身體，也無法還原現象的身體。美國學者凱瑟琳·海勒認為，“通過對文化意義共鳴的隱喻進行闡釋，身體本身也是一種凝結的隱喻，一種物理結構，它的局限和可能性是通過進化的歷史形成的，而這種進化史是智能機器無法共享的。”她的觀點也呼應了“現象的身體”。

在認知科學的研究中，學者們越來越多強調具身性，即認為認知不僅牽涉到中樞神經系統，還牽涉到整個身體運作。身體的體驗會滋生豐富的情緒與情感，這也是人和機器的區別。沒有了身體，人的情緒、情感也就失去了源泉。即使未來的數字人可擁有人造身體，但正如前文所說，這樣的“身體”與認知、情感活動可能仍是分離的，裝在這樣的身體里的“意識”與存在硬盤里的“意識”沒有區別，都只是一些代碼或數據，而非真正的意識。

在一定意義上，數字化永生的話題也與NBIC技術等對人類機能甚至壽命的“增強”問題相關。NBIC技術是四大技術的簡稱，即納米技術（Nanotechnology）、生物技術（Biotechnology）、信息技術（Informational Technology）、認知科學（Cognitive Science），它們共同推動著人類的增強。人類增強也成為后人類或超人類的主旋律之一。

在人類是否應該采用增強技術這一問題上，支持與反對的聲音并存。支持者從個體權利、進化論、公共福利等角度為增強技術辯解，他們也將人類增強視為后人類或超人類的目標。美國傳播學學者詹姆斯·A·赫里克指出，超人類主義者希望通過負責任地使用科學、技術和其他合理手段，使后人類擁有比現在人類更強大的能力。但反對者則多以違背人類天性和自然法則、自我同一性危機、身份認同危機、社會公平、對民主的威脅、對人類生存的威脅、對人的尊嚴的威脅等理由反對增強技術的應用。美國學者福山更是指出，后人類的世界也許更為等級森嚴，比現在的世界更富有競爭性，結果社會矛盾叢生。數字化永生問題也涉及到與人類增強技術相似的挑戰，特別是對社會公平的威脅，以及人的尊嚴的侵蝕。

從AI“復活”的現實到數字化永生的幻想，人類對于技術可能性的探索欲望越來越強，這也導致人與機器、人與“數字人”之間的界限日益模糊。進一步，人類是將其發展到極致，最終完全抹去人與機器的差異，還是保持謹慎，堅守人之為人的那些本質特性？凱瑟琳·海勒認為，無論我們的未來如何，它幾乎肯定會包括人類對生物過程的干預，這意味著“人性”將至少部分地取決于人類決定它應該是什么。換言之，人與機器的邊界，最終應由人類劃定，即使機器有越界的能力，人工干預也可以使機器不能跨越邊界。

要在人機邊界上作出明智的判斷與抉擇，需要思考的是，如何讓技術真正服務于人類整體的福祉而不是少數人的利益，如何讓技術幫助人類更健全、自由的發展而不是造成人類的退化。除此，還需要通過多方對話，促成對人類的底線和人機邊界認知的共識，同時應通過法律等制度體系的完善，保證智能技術的發展不走向歧途。

上文略有刪減
選自 | 《人民論壇》雜志2024年第11期
原標題 | 人工智能“復活”技術應用邊界反思

作者 | 中國人民大學新聞與社會發展研究中心研究員，中國人民大學新聞學院教授、博導 彭蘭

新媒體編輯 | 趙光菊

原文責編 | 陳楠