江蘇
關鍵詞
AI
有圖有真相”的消費維權常識，正被突飛猛進的 AI 技術改寫。
據央視報道，近期不少電商商家反映遭遇了一種新型售后套路：買家提供的“問題商品”圖片并非實拍，而是利用 AI 技術偽造出來的“證據”。原本正常的消費者維權渠道，正被部分人異化成“白嫖”商品的工具。
河北的種植戶張先生對此感觸頗深。上個月，他的店鋪在某平臺售出 12 單無花果苗后，隨即收到一份“僅退款”申請。對方附上一張葉片枯黃、毫無生機的果苗圖片，聲稱收到已干枯死亡。有著多年種植經驗的張先生倍感疑惑，因為他是帶盆發貨，且苗情健壯，兩天內完全不可能枯黃至此。他憑借經驗指出，圖片顯示葉片完全舒展呈枯黃色，但真正失水的葉子應該是收縮下垂的，不符合常理。張先生斷定該圖為 AI 造假，聯系買家退貨退款遭拒，對方直接申請平臺介入。盡管張先生進行了申訴，平臺仍依據這張圖片，在幾分鐘內便批準了“僅退款”申請。
類似困擾也蔓延到更多品類：有商家收到“一致間距且精準斷裂”的衣架圖，也有消費者發來的杯身裂痕圖被 AI 檢測工具判定為“92% 概率 AI 生成”。還有買家利用 AI 將正常商品“P”出發霉、破損，甚至在退貨時調包，試圖雙重獲利；甚至還有一些人的圖帶有“豆包生成”的水印。
為應對技術濫用的挑戰，國家反詐中心 App 今年 3 月正式上線了 AI 內容鑒定功能，支持圖像、視頻、文本及音頻的 AI 識別檢測，覆蓋 30KB 至 5MB 的圖片、10 分鐘以內的人聲音頻等常用格式。
該功能旨在用同樣的技術手段去識別虛假內容，以遏制愈發泛濫的 AI 換臉、偽造圖片視頻等新型詐騙手段。
網絡支付與安全領域的相關企業也在積極布局這類鑒真技術。螞蟻安全內容視覺算法負責人蘭鈞介紹了當前主流 AI 鑒真的核心技術路線，他表示檢測方式主要由兩部分構成：一部分是利用小模型深入學習 AI 生成內容的模式，基于大量數據進行訓練判斷；另一部分則是結合大模型關注內容本身的物理瑕疵和邏輯語義，例如查找文字亂碼或不符合常理的場景，最終通過小模型與大模型的協同工作來判定真偽。據悉，這類鑒真工具在業務場景中已能實現較高的識別率與極低的誤報率。
央視實測發現，將網上商家曬出的多張疑似 AI 生成“售后圖”上傳至國家反詐中心 App，結果均被判定為“圖像含 AI 生成痕跡”。隨著這項面向大眾的公益功能上線，中小商家在遭遇類似糾紛時，也有了一條低成本的初步鑒定路徑。
北京郵電大學互聯網治理與法律研究中心主任謝永江指出，AI 偽造圖片騙取退款的行為本質是民事欺詐，若不及時遏制，將威脅電子商務的正常秩序與健康發展。AI 鑒真工具能夠極大降低商家的辨別成本，既對不法分子形成震懾，也能作為商家與平臺交涉、維護自身權益的有力證據。
安全圈
網羅圈內熱點 專注網絡安全
實時資訊一手掌握！
好看你就分享 有用就點個贊
支持「安全圈」就點個三連吧！
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
