【學(xué)習(xí)園地】五問+兩圖，讀懂《人工智能科技倫理審查與服務(wù)辦法（試行）》

《人工智能科技倫理審查與服務(wù)辦法（試行）》解讀

近日，工業(yè)和信息化部等十部門聯(lián)合印發(fā)《人工智能科技倫理審查與服務(wù)辦法（試行）》（以下簡稱《辦法》）。為更好理解和實(shí)施《辦法》，現(xiàn)就有關(guān)內(nèi)容解讀如下。

一、《辦法》出臺的背景是什么？

黨和國家高度重視科技倫理工作，2022年3月，中共中央辦公廳、國務(wù)院辦公廳印發(fā)《關(guān)于加強(qiáng)科技倫理治理的意見》，對科技倫理治理作出頂層設(shè)計(jì)和系統(tǒng)部署；2023年9月，科技部等十部門聯(lián)合印發(fā)《科技倫理審查辦法（試行）》，對科技倫理審查主體、審查程序作出具體規(guī)定；2024年7月，黨的二十屆三中全會再次強(qiáng)調(diào)“加強(qiáng)科技倫理治理”。人工智能技術(shù)快速發(fā)展，深度賦能千行百業(yè)，由此帶來的算法歧視、深度偽造等倫理風(fēng)險(xiǎn)也愈加凸顯。人工智能科技倫理治理是人工智能治理的重要組成部分，主要包括增進(jìn)人類福祉、公平公正、可控可信、透明可解釋、責(zé)任可追溯、隱私保護(hù)等內(nèi)涵。加強(qiáng)人工智能科技倫理治理，是堅(jiān)守科技向善、筑牢科技安全底線、保障產(chǎn)業(yè)高質(zhì)量發(fā)展的必然要求。在此背景下，出臺《辦法》，既是對科技倫理治理要求的具體落地，也是推動人工智能產(chǎn)業(yè)創(chuàng)新發(fā)展、促進(jìn)負(fù)責(zé)任創(chuàng)新的現(xiàn)實(shí)需要。

二、《辦法》與現(xiàn)有人工智能治理政策法規(guī)如何銜接？

《辦法》與現(xiàn)有人工智能治理相關(guān)政策法規(guī)實(shí)現(xiàn)有效協(xié)同。

《辦法》與《科技倫理審查辦法（試行）》緊密銜接。《科技倫理審查辦法（試行）》是覆蓋各領(lǐng)域科技倫理審查的綜合性、通用性規(guī)定，明確了審查基本程序、審查內(nèi)容與標(biāo)準(zhǔn)等統(tǒng)一要求，為《辦法》提供了基礎(chǔ)遵循。《辦法》在遵循通用規(guī)定的前提下，立足人工智能技術(shù)特征與倫理原則，在適用范圍、申請材料、審查重點(diǎn)、簡易程序適用等方面作了針對性完善與細(xì)化，更貼合人工智能科技倫理審查實(shí)際需要。

《辦法》第二十六條規(guī)定，人工智能科技活動在深度合成、算法推薦、生成式人工智能服務(wù)管理等方面實(shí)行登記、備案、行政審批等監(jiān)管措施且將符合科技倫理要求作為審批條件、監(jiān)管內(nèi)容的，可不再開展專家復(fù)核，有效減輕企業(yè)合規(guī)負(fù)擔(dān)。

同時(shí)，《辦法》第三十二條規(guī)定，明確違反本辦法規(guī)定的，將依照《中華人民共和國網(wǎng)絡(luò)安全法》《中華人民共和國數(shù)據(jù)安全法》《中華人民共和國個(gè)人信息保護(hù)法》《中華人民共和國科學(xué)技術(shù)進(jìn)步法》等法律法規(guī)和相關(guān)規(guī)定進(jìn)行調(diào)查處理并給予相應(yīng)處罰。

三、《辦法》中規(guī)定的人工智能科技倫理審查流程主要包括哪些環(huán)節(jié)？審查重點(diǎn)關(guān)注哪些方面？

《辦法》規(guī)定的人工智能科技倫理審查程序主要包括：

申請：人工智能科技活動負(fù)責(zé)人向本單位人工智能科技倫理委員會（以下簡稱委員會）或人工智能科技倫理審查與服務(wù)中心（以下簡稱服務(wù)中心）提交申請材料；

受理：委員會或服務(wù)中心應(yīng)根據(jù)申請材料決定是否受理申請，確定適用的審查程序，并通知申請人；

開展審查：委員會或服務(wù)中心采用一般、簡易或應(yīng)急程序，開展科技倫理審查；

專家復(fù)核：納入“需要開展科技倫理專家復(fù)核的人工智能科技活動清單”（以下簡稱復(fù)核清單）管理的科技活動，通過委員會或服務(wù)中心的初步審查后，由單位申請專家復(fù)核，所在地方或相關(guān)主管部門組織開展專家復(fù)核；

作出審查決定：委員會或服務(wù)中心開展審查后作出批準(zhǔn)，修改后再審或不予批準(zhǔn)等決定，納入復(fù)核清單的科技活動，根據(jù)專家復(fù)核意見作出科技倫理審查決定；

審查申訴：申請人對審查決定有異議的，可向委員會或服務(wù)中心提出申訴；

跟蹤審查：委員會或服務(wù)中心對審查批準(zhǔn)的人工智能科技活動開展跟蹤審查，跟蹤審查間隔一般不超過12個(gè)月，納入復(fù)核清單的活動，跟蹤審查間隔一般不超過6個(gè)月。

委員會或服務(wù)中心重點(diǎn)圍繞人類福祉、公平公正、可控可信、透明可解釋、責(zé)任可追溯、隱私保護(hù)等方面開展倫理審查。同時(shí)，還需要關(guān)注參與科技活動的科技人員資質(zhì)等是否符合相關(guān)要求，擬開展的科技活動是否具有科學(xué)價(jià)值和社會價(jià)值，科技活動的風(fēng)險(xiǎn)受益是否合理，倫理風(fēng)險(xiǎn)控制方案及應(yīng)急預(yù)案是否科學(xué)恰當(dāng)、具有可操作性等。

四、哪些人工智能科技活動需要開展專家復(fù)核，具體如何開展？

《辦法》第三節(jié)及附件規(guī)定，需要開展專家復(fù)核的人工智能科技活動主要包括以下三類：

一是對人類主觀行為、心理情緒和生命健康等具有較強(qiáng)影響的人機(jī)融合系統(tǒng)的研發(fā)；

二是具有輿論社會動員能力和社會意識引導(dǎo)能力的算法模型、應(yīng)用程序及系統(tǒng)的研發(fā)；

三是面向存在安全、人身健康風(fēng)險(xiǎn)等場景的具有高度自主能力的自動化決策系統(tǒng)的研發(fā)。

開展專家復(fù)核的人工智能科技活動，需先通過本單位人工智能科技倫理委員會或委托的服務(wù)中心完成初步審查；再由本單位申請專家復(fù)核。其中，中央企業(yè)、中央和國家機(jī)關(guān)直屬單位直接報(bào)請相關(guān)主管部門，其他單位報(bào)請地方。地方或相關(guān)主管部門按規(guī)定成立復(fù)核專家組，對初步審查意見的合規(guī)性、合理性開展復(fù)核，并在收到復(fù)核申請后30日內(nèi)反饋復(fù)核意見。委員會或服務(wù)中心依據(jù)復(fù)核意見作出最終審查決定，同時(shí)對納入復(fù)核清單的活動加強(qiáng)跟蹤審查，跟蹤審查間隔一般不超過6個(gè)月。若倫理風(fēng)險(xiǎn)發(fā)生重大變化，應(yīng)重新開展審查并申請專家復(fù)核。

五、辦法在人工智能科技倫理服務(wù)與促進(jìn)方面提出了哪些具體舉措？

《辦法》專門設(shè)立第二章“服務(wù)與促進(jìn)”，圍繞標(biāo)準(zhǔn)建設(shè)、促進(jìn)服務(wù)、鼓勵(lì)創(chuàng)新、宣傳教育、人才培養(yǎng)五個(gè)方面制定務(wù)實(shí)舉措，精準(zhǔn)破解當(dāng)前人工智能企業(yè)倫理治理中存在的技術(shù)手段不足、標(biāo)準(zhǔn)規(guī)范不完善、治理工具匱乏等問題。

一是鼓勵(lì)高等學(xué)校、科研機(jī)構(gòu)、醫(yī)療衛(wèi)生機(jī)構(gòu)、企業(yè)和科技類社會團(tuán)體等參與人工智能科技倫理標(biāo)準(zhǔn)制定，凝聚行業(yè)共識，完善標(biāo)準(zhǔn)體系。

二是推進(jìn)人工智能科技倫理服務(wù)體系建設(shè)，強(qiáng)化風(fēng)險(xiǎn)監(jiān)測預(yù)警、檢測評估、認(rèn)證、咨詢等服務(wù)供給，加大對中小微企業(yè)人工智能科技倫理審查的支持和服務(wù)力度，降低企業(yè)合規(guī)成本。

三是支持人工智能科技倫理審查技術(shù)創(chuàng)新，鼓勵(lì)企業(yè)運(yùn)用技術(shù)手段防范倫理風(fēng)險(xiǎn)。

四是加強(qiáng)人工智能科技倫理宣傳教育，提升公眾倫理意識和素養(yǎng)。

五是推動職業(yè)體系和課程體系建設(shè)，采取多種方式培養(yǎng)人工智能科技倫理人才。

來源：工信微報(bào)