兩會(huì)觀媒 | 護(hù)航人工智能，政協(xié)委員談如何保障AI安全

研究事兒“兩會(huì)觀媒”欄目，聚焦代表委員文化傳媒領(lǐng)域的提案議案，傾聽(tīng)兩會(huì)聲音、解析熱點(diǎn)話題。近期，人民日?qǐng)?bào)采訪政協(xié)委員齊向東，探討如何為人工智能提供安全發(fā)展保障。小研轉(zhuǎn)載并評(píng)析有關(guān)內(nèi)容，與讀者共同關(guān)注。???????????????????????????

熱詞：人工智能安全

網(wǎng)友提問(wèn)：人工智能技術(shù)飛速發(fā)展，在技術(shù)突飛猛進(jìn)的同時(shí)也面臨一些“成長(zhǎng)的煩惱”，比如有人利用人工智能詐騙，以及數(shù)據(jù)泄露等，如何護(hù)航人工智能安全發(fā)展？

全國(guó)政協(xié)委員、奇安信集團(tuán)董事長(zhǎng) 齊向東??

和許多讀者一樣，這也是我一直關(guān)心的問(wèn)題。人工智能是新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動(dòng)力量。2024年《政府工作報(bào)告》提出開(kāi)展“人工智能+”行動(dòng)；去年12月舉行的中央經(jīng)濟(jì)工作會(huì)議也提出，“以科技創(chuàng)新引領(lǐng)新質(zhì)生產(chǎn)力發(fā)展”“開(kāi)展‘人工智能+’行動(dòng)”。

近年來(lái)，隨著大模型等關(guān)鍵技術(shù)不斷突破，人工智能應(yīng)用加速落地，多樣化應(yīng)用場(chǎng)景不斷涌現(xiàn)。而與此同時(shí)，也出現(xiàn)了數(shù)據(jù)泄露等安全威脅，還有人利用人工智能生成的深度偽造內(nèi)容進(jìn)行詐騙等違法犯罪活動(dòng)。針對(duì)這些問(wèn)題，我深入產(chǎn)業(yè)一線履職調(diào)研，分析新技術(shù)的潛在安全隱患。

從供給側(cè)看，建議開(kāi)展聯(lián)合創(chuàng)新，圍繞攻防實(shí)戰(zhàn)和應(yīng)用場(chǎng)景實(shí)現(xiàn)“AI+安全”尖端技術(shù)研發(fā)突破，共同探索大模型安全創(chuàng)新產(chǎn)品在威脅檢測(cè)、漏洞挖掘等方面的應(yīng)用。從需求側(cè)看，建議強(qiáng)化政策牽引，推動(dòng)“AI+安全”技術(shù)創(chuàng)新產(chǎn)品在各行業(yè)落地應(yīng)用。從人才側(cè)看，建議壯大“AI+安全”領(lǐng)域的實(shí)戰(zhàn)型、復(fù)合型人才隊(duì)伍。鼓勵(lì)成立校企共同體，在實(shí)踐中培養(yǎng)更多大數(shù)據(jù)、人工智能、網(wǎng)絡(luò)安全等新興產(chǎn)業(yè)領(lǐng)軍人才。

今年全國(guó)兩會(huì)，我將繼續(xù)圍繞人工智能安全和軟件產(chǎn)業(yè)健康發(fā)展等議題建言獻(xiàn)策。未來(lái)，也會(huì)繼續(xù)深耕網(wǎng)絡(luò)安全領(lǐng)域，深入調(diào)研、精準(zhǔn)建言，將履職工作做專、做深、做實(shí)，為網(wǎng)絡(luò)強(qiáng)國(guó)建設(shè)作出更大貢獻(xiàn)。（本報(bào)記者楊昊采訪整理）

小研評(píng)：

隨著關(guān)鍵技術(shù)的不斷突破，人工智能技術(shù)越來(lái)越多地應(yīng)用在新聞采集、生產(chǎn)、分發(fā)、接收、反饋等各個(gè)環(huán)節(jié)中。主流媒體紛紛積極開(kāi)展實(shí)踐，主動(dòng)擁抱變革。人民日?qǐng)?bào)推出《江山如此多嬌》《巳巳如意》等多個(gè)AI共創(chuàng)視頻；新華社打造了具備智能創(chuàng)作功能的融合生產(chǎn)引擎“新華新語(yǔ)”；央視總臺(tái)在2月28日啟用了全國(guó)首座以“人工智能”命名的媒體大樓；每日經(jīng)濟(jì)新聞把騰訊的混元大模型融入AI短視頻生成平臺(tái)；川報(bào)集團(tuán)攜手阿里云構(gòu)建了封面智媒云行業(yè)大模型，賦能媒體生產(chǎn)……新技術(shù)就像“大腦”與“引擎”，正在成為推動(dòng)媒體行業(yè)變革的核心驅(qū)動(dòng)力。

與此同時(shí)，人工智能也給傳媒業(yè)帶來(lái)了風(fēng)險(xiǎn)和挑戰(zhàn)。有些人利用AI進(jìn)行虛假信息的生產(chǎn)傳播，侵蝕著社會(huì)信任基礎(chǔ)，讓輿論生態(tài)進(jìn)一步復(fù)雜化。許多基礎(chǔ)性工作正逐漸引入人工智能，也給新聞媒體從業(yè)者帶來(lái)了一定的職業(yè)危機(jī)。面對(duì)這些挑戰(zhàn)，新聞媒體也在積極尋找應(yīng)對(duì)之策，比如運(yùn)用人工智能技術(shù)不斷完善新聞內(nèi)容的真實(shí)性審核機(jī)制，以高質(zhì)量?jī)?nèi)容主動(dòng)對(duì)沖網(wǎng)絡(luò)有害信息，通過(guò)學(xué)習(xí)培訓(xùn)持續(xù)提升從業(yè)者的技術(shù)素養(yǎng)。

在“AI+傳媒”的時(shí)代，傳媒業(yè)的未來(lái)充滿著無(wú)限可能，也面臨著多重潛在風(fēng)險(xiǎn)。在主動(dòng)擁抱新技術(shù)、積極探尋新路徑的過(guò)程中，如何保障AI創(chuàng)作的內(nèi)容真實(shí)可信，如何應(yīng)對(duì)AI可能帶來(lái)的倫理爭(zhēng)議和法律糾紛，如何在“AI+安全”的前提下打造媒體新質(zhì)生產(chǎn)力，都是傳媒業(yè)需要深入思考的問(wèn)題。（裴苒迪）

更多內(nèi)容 點(diǎn)擊閱讀：

?? ? ? ? ?

編 輯：楊 陽(yáng)

核 校：裴苒迪