OpenAI 于 9 月 16 日對外公布一項新規(guī)劃:為 18 歲以下群體推出專屬 ChatGPT 版本,同步上線家長控制功能與年齡驗證機(jī)制。這一調(diào)整的核心邏輯在于,通過技術(shù)手段劃分用戶群體 —— 系統(tǒng)將借助專屬識別工具判斷用戶年齡,若判定為未成年人,將自動引導(dǎo)至青少年版平臺,該版本已預(yù)設(shè)內(nèi)容過濾規(guī)則,例如屏蔽色情圖片等不良信息;若無法精準(zhǔn)核驗?zāi)挲g,平臺將默認(rèn)啟用青少年版,用戶需提供有效年齡證明,方可解鎖成人版功能權(quán)限。
![]()
其中,家長賬戶關(guān)聯(lián)功能的設(shè)計尤為值得關(guān)注。未來,未成年人家長可主動發(fā)起賬戶關(guān)聯(lián)邀請,在獲得未成年人同意后,雙方賬戶將實現(xiàn)綁定。綁定后,家長可對 ChatGPT 的響應(yīng)模式進(jìn)行調(diào)整,過濾可能不適宜的內(nèi)容輸出;當(dāng)系統(tǒng)識別到未成年人輸入內(nèi)容中存在極端情緒傾向時,家長將收到即時通知;此外,家長還可設(shè)置特定時間段禁用平臺,避免未成年人在休息或?qū)W習(xí)時段過度使用。
值得注意的是,該關(guān)聯(lián)機(jī)制并非強(qiáng)制性要求,需以未成年人的同意為前提。若未成年人拒絕關(guān)聯(lián),家長無法強(qiáng)制綁定,最終能否實現(xiàn)監(jiān)管,仍取決于未成年人的配合意愿 —— 這一設(shè)計雖尊重了未成年人的自主選擇,卻也為實際監(jiān)管效果埋下不確定性。
OpenAI 首席執(zhí)行官奧爾特曼在官方博客中明確表態(tài):“針對青少年群體,安全優(yōu)先級應(yīng)高于隱私與自由。作為一項具備強(qiáng)大影響力的新興技術(shù),未成年人需獲得針對性保護(hù)。” 這一表述既闡明了產(chǎn)品設(shè)計的核心原則,也間接映射出當(dāng)前 OpenAI 面臨的外部壓力。
恰值美國國會即將召開聽證會,專項審查聊天機(jī)器人的潛在危害,OpenAI 此時推出青少年版,可視為對監(jiān)管關(guān)切的主動回應(yīng)。與此同時,其面臨的輿論與法律壓力亦不容忽視:多項研究指出,ChatGPT 存在向青少年傳遞不良信息的風(fēng)險,甚至可能隱含鼓勵自殺、暴力的內(nèi)容傾向,相關(guān)訴訟亦陸續(xù)涌現(xiàn),直指其對不良內(nèi)容的干預(yù)機(jī)制存在疏漏。
此前美國一項調(diào)研數(shù)據(jù)呈現(xiàn)出頗具矛盾的現(xiàn)象:超七成青少年會通過 AI 機(jī)器人排遣情緒,將其視為 “電子陪伴”,其中半數(shù)受訪者每月使用頻次達(dá)數(shù)次以上;但另一方面,80% 依賴 AI 獲取陪伴的青少年,又明確表示更傾向于與現(xiàn)實中的朋友互動。這種 “依賴與疏離并存” 的狀態(tài),恰恰反映出未成年人對 AI 陪伴的復(fù)雜需求。
監(jiān)管層面的行動同樣同步推進(jìn)。美國聯(lián)邦貿(mào)易委員會(FTC)于 9 月 11 日啟動專項調(diào)查,要求 OpenAI、Meta、甲骨文等企業(yè)提交聊天機(jī)器人對未成年人及兒童產(chǎn)生負(fù)面影響的相關(guān)資料。FTC 的擔(dān)憂聚焦于:當(dāng)前聊天機(jī)器人普遍具備擬人化交互能力,易使未成年人產(chǎn)生情感依賴,進(jìn)而面臨認(rèn)知誤導(dǎo)風(fēng)險。然而頗具反差的是,“陪伴功能” 正成為美國諸多 AI 企業(yè)推廣聊天機(jī)器人的核心賣點。
![]()
本質(zhì)而言,OpenAI 此次推出青少年版 ChatGPT,是在 “未成年人保護(hù)” 與 “技術(shù)使用自由度” 之間尋求平衡的嘗試。但實際落地過程中,仍需面對多重現(xiàn)實問題:若未成年人拒絕賬戶關(guān)聯(lián),家長如何實現(xiàn)有效監(jiān)管?系統(tǒng)對 “極端情緒” 的識別精度如何保障,能否避免誤判或漏判?未成年人是否存在規(guī)避年齡驗證、使用成人版的漏洞?
從當(dāng)前設(shè)計來看,青少年版 ChatGPT 更偏向于 “初步防護(hù)方案”。在 AI 與未成年人交互場景持續(xù)拓展的背景下,若要真正實現(xiàn) “安全使用”,不僅需要技術(shù)層面的優(yōu)化,還需家庭、企業(yè)與監(jiān)管層的協(xié)同 —— 這一議題的探索,顯然仍需更長時間的實踐與完善。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.