全球研究揭示AI在金融領(lǐng)域面臨的最大風(fēng)險(xiǎn)

數(shù)據(jù)隱私與幻覺問題是人工智能給金融服務(wù)業(yè)帶來的最大風(fēng)險(xiǎn)，與此同時(shí)，全球約半數(shù)監(jiān)管機(jī)構(gòu)仍處于追趕階段。這是一項(xiàng)全球性研究得出的主要結(jié)論。

劍橋大學(xué)賈吉商學(xué)院發(fā)布的這項(xiàng)研究顯示，80%的監(jiān)管機(jī)構(gòu)將數(shù)據(jù)隱私與數(shù)據(jù)保護(hù)列為首要風(fēng)險(xiǎn)，70%的監(jiān)管機(jī)構(gòu)同樣認(rèn)為AI幻覺問題及AI輸出結(jié)果不可靠是重大隱患。

支持這項(xiàng)研究的英國外交、聯(lián)邦及發(fā)展辦公室共調(diào)查了全球628家金融機(jī)構(gòu)，其中央行、金融服務(wù)企業(yè)和科技供應(yīng)商的比例大致相當(dāng)。

監(jiān)管機(jī)構(gòu)認(rèn)為，除上述風(fēng)險(xiǎn)外，操作韌性不足、模型不透明及可解釋性缺失、人工監(jiān)管缺位、對(duì)抗性AI引發(fā)的網(wǎng)絡(luò)安全威脅，以及算法偏見與公平性問題，也是較為嚴(yán)峻的風(fēng)險(xiǎn)領(lǐng)域。

國際清算銀行、國際貨幣基金組織和世界經(jīng)濟(jì)論壇也參與了此次研究。研究由金融創(chuàng)新與影響力機(jī)構(gòu)協(xié)作完成。

研究發(fā)現(xiàn)，80%的金融服務(wù)企業(yè)已在不同程度上采用AI技術(shù)，其中AI在軟件開發(fā)領(lǐng)域的應(yīng)用最為成熟——42%的受訪者表示已完成全面部署，33%仍處于開發(fā)階段。

然而，在接受調(diào)查的130家監(jiān)管機(jī)構(gòu)中，近半數(shù)（48%）表示仍處于AI應(yīng)用的"探索階段"，甚至完全未涉足AI領(lǐng)域。

不過，研究報(bào)告指出，監(jiān)管機(jī)構(gòu)總體上"對(duì)AI的作用持樂觀態(tài)度"，78%的受訪者認(rèn)為到2030年，AI將對(duì)其實(shí)現(xiàn)監(jiān)管目標(biāo)產(chǎn)生"重大甚至變革性的影響"。

近三分之一（29%）的受訪者認(rèn)為AI具有變革潛力，49%的人預(yù)計(jì)AI將有助于推進(jìn)金融普惠，而持相反看法的僅占12%。此外，42%的受訪者認(rèn)為AI將有助于打擊金融犯罪，而18%的人認(rèn)為這將使打擊金融犯罪更具挑戰(zhàn)性。

劍橋替代金融研究中心執(zhí)行主任、金融創(chuàng)新與影響力機(jī)構(gòu)執(zhí)行主席Bryan Zhang表示，金融服務(wù)業(yè)采用AI的規(guī)模與速度"著實(shí)令人矚目"。

"五家企業(yè)中就有四家已在某種程度上部署了AI，智能體系統(tǒng)已進(jìn)入主流應(yīng)用，整個(gè)行業(yè)正在切實(shí)感受到生產(chǎn)效率與盈利能力的提升，盡管這種提升并不均衡。"

但他同時(shí)指出："我們的數(shù)據(jù)也揭示出，這一行業(yè)正在應(yīng)對(duì)一個(gè)極為復(fù)雜多變的局面。在出現(xiàn)問題時(shí)責(zé)任歸屬如何劃定，以及網(wǎng)絡(luò)安全漏洞等風(fēng)險(xiǎn)正以超出人工監(jiān)管能力的速度累積等問題上，業(yè)界、監(jiān)管機(jī)構(gòu)和AI供應(yīng)商之間的觀點(diǎn)分歧明顯。機(jī)遇是巨大的，完善治理機(jī)制、強(qiáng)化信任的責(zé)任同樣不容忽視。"

今年1月，英國財(cái)政部委員會(huì)發(fā)布報(bào)告稱，由于金融領(lǐng)域的監(jiān)管機(jī)構(gòu)"未能采取足夠措施"管理AI帶來的風(fēng)險(xiǎn)，英國公眾及金融體系正"面臨潛在重大損害"。

國會(huì)議員在報(bào)告中指出，上述風(fēng)險(xiǎn)源于英格蘭銀行和金融行為監(jiān)管局（FCA）所采取的立場——委員會(huì)將其定性為"觀望態(tài)度"。

"負(fù)有保護(hù)消費(fèi)者和維護(hù)英國經(jīng)濟(jì)穩(wěn)定職責(zé)的主要公共金融機(jī)構(gòu)，在管理金融服務(wù)業(yè)AI應(yīng)用日益增多所帶來的風(fēng)險(xiǎn)方面，尚未采取足夠舉措。"委員會(huì)如此表示。

與此同時(shí)，AI合規(guī)公司Zango的研究顯示，金融服務(wù)業(yè)的高層管理人員已就AI治理標(biāo)準(zhǔn)存在的嚴(yán)重缺口發(fā)出警告。

上議院自由民主黨科學(xué)、創(chuàng)新與技術(shù)事務(wù)發(fā)言人、跨黨派AI議員小組聯(lián)合主席Timothy Clement-Jones在報(bào)告中寫道："當(dāng)前最迫切缺失的，是將高層次的監(jiān)管原則轉(zhuǎn)化為日常運(yùn)營實(shí)踐的能力。我們不能坐等AI引發(fā)的重大金融丑聞爆發(fā)后，才被迫采取行動(dòng)。"

Q&A

Q1：金融服務(wù)業(yè)在AI應(yīng)用方面目前處于什么階段？

A：根據(jù)劍橋大學(xué)賈吉商學(xué)院的研究，目前全球80%的金融服務(wù)企業(yè)已在不同程度上采用AI技術(shù)。其中，AI在軟件開發(fā)領(lǐng)域的應(yīng)用最為成熟，42%的受訪者已完成全面部署，33%仍在開發(fā)階段。然而，約48%的監(jiān)管機(jī)構(gòu)仍處于AI應(yīng)用的"探索階段"，甚至完全未涉足AI。整體而言，企業(yè)側(cè)的采用速度明顯快于監(jiān)管側(cè)的跟進(jìn)步伐。

Q2：AI在金融行業(yè)最主要的風(fēng)險(xiǎn)有哪些？

A：根據(jù)這項(xiàng)全球研究，數(shù)據(jù)隱私與數(shù)據(jù)保護(hù)是最大風(fēng)險(xiǎn)，80%的監(jiān)管機(jī)構(gòu)將其列為首要關(guān)切；其次是AI幻覺與不可靠輸出問題，70%的監(jiān)管機(jī)構(gòu)對(duì)此表示擔(dān)憂。此外，操作韌性不足、模型不透明與可解釋性缺失、人工監(jiān)管缺位、對(duì)抗性AI引發(fā)的網(wǎng)絡(luò)威脅，以及算法偏見與公平性問題，也被視為重要風(fēng)險(xiǎn)。

Q3：全球監(jiān)管機(jī)構(gòu)對(duì)AI的未來態(tài)度如何？

A：總體來看，監(jiān)管機(jī)構(gòu)對(duì)AI持樂觀態(tài)度。78%的受訪監(jiān)管機(jī)構(gòu)認(rèn)為，到2030年AI將對(duì)其實(shí)現(xiàn)監(jiān)管目標(biāo)產(chǎn)生重大甚至變革性的作用。49%的受訪者預(yù)計(jì)AI將推動(dòng)金融普惠，42%認(rèn)為AI將有助于打擊金融犯罪。盡管如此，如何將監(jiān)管原則落實(shí)為日常操作規(guī)范，仍是當(dāng)前治理層面的重大挑戰(zhàn)。