通信界訊 6月6日周四，美國財(cái)政部長耶倫出席了金融穩(wěn)定監(jiān)督委員會(huì)（FSOC）有關(guān)人工智能與金融穩(wěn)定的會(huì)議，并在開幕致辭中警告金融機(jī)構(gòu)使用人工智能技術(shù)的潛在風(fēng)險(xiǎn)。
有分析稱，這是耶倫迄今為止對(duì)人工智能作出的最廣泛評(píng)論。據(jù)一位美國財(cái)政部官員向媒體透露，耶倫本人也嘗試用過人工智能聊天機(jī)器人。
上述委員會(huì)在2008年金融危機(jī)之后由美國財(cái)政部牽頭其他監(jiān)管機(jī)構(gòu)成立。本次為期兩天的會(huì)議與美國智庫布魯金斯學(xué)會(huì)合辦，“美國版銀監(jiān)會(huì)”貨幣監(jiān)理署OCC的負(fù)責(zé)人也會(huì)發(fā)表講話。
會(huì)議主題是討論金融服務(wù)領(lǐng)域使用AI帶來的潛在系統(tǒng)性風(fēng)險(xiǎn)，并分享鼓勵(lì)創(chuàng)新與有效監(jiān)管的洞察。與會(huì)者包括監(jiān)管部門，科技公司、保險(xiǎn)公司和資產(chǎn)管理機(jī)構(gòu)的高管，以及學(xué)者和銀行代表。
耶倫眼中的金融業(yè)利用AI“重大風(fēng)險(xiǎn)”：頭寸過于擁擠，放大市場(chǎng)波動(dòng)？
耶倫在演講中透露，人工智能與金融穩(wěn)定是拜登政府高度重視的話題，“在未來幾年只會(huì)變得更加重要”。金融公司使用人工智能帶來的“巨大機(jī)遇和重大風(fēng)險(xiǎn)”已成為美國財(cái)政部和金融穩(wěn)定監(jiān)督委員會(huì)的首要議題。
耶倫承認(rèn)，人工智能為金融系統(tǒng)提供了巨大機(jī)遇，例如通過AI的預(yù)測(cè)能力進(jìn)行投資組合管理，利用AI檢測(cè)異常的能力來打擊欺詐和非法融資，客服也開始實(shí)現(xiàn)自動(dòng)化。在最新的發(fā)展中，自然語言處理、圖像識(shí)別和生成式人工智能有助于金融服務(wù)成本更低和更易于獲取：
“我們看到，如果使用得當(dāng)，人工智能可以提高效率、準(zhǔn)確性和金融產(chǎn)品的可及性。”
但她同時(shí)警告稱，金融機(jī)構(gòu)使用AI在促進(jìn)機(jī)遇的同時(shí)伴隨著“重大風(fēng)險(xiǎn)”（significant risks）：
“特定的脆弱性可能源于人工智能模型的復(fù)雜性和不透明性，風(fēng)險(xiǎn)管理框架不足以應(yīng)對(duì)人工智能風(fēng)險(xiǎn)，以及由于許多市場(chǎng)參與者依賴相同的數(shù)據(jù)和模型而出現(xiàn)的相互關(guān)聯(lián)特征。
開發(fā)模型、提供數(shù)據(jù)和云服務(wù)的供應(yīng)商集中度過高，也可能會(huì)加劇現(xiàn)有的第三方服務(wù)提供商風(fēng)險(xiǎn)。數(shù)據(jù)不足或有缺陷則可能延續(xù)現(xiàn)有的偏見或引入新的金融決策偏見。”
有分析指出，耶倫意在警告，如果許多投資者都依賴于產(chǎn)生相同結(jié)果的AI工具，這可能導(dǎo)致某些熱門交易的倉位押注擁擠，從而加劇市場(chǎng)上行或下行的走勢(shì)。
同時(shí)，如果只有少數(shù)幾家公司有能力提供AI模型，一旦其中一家公司出現(xiàn)問題，許多金融機(jī)構(gòu)可能受到波及。更別提AI模型有時(shí)會(huì)產(chǎn)生有偏差或者歧視性的結(jié)果，但耶倫沒提AI系統(tǒng)產(chǎn)生錯(cuò)誤答案的“幻覺”問題。
美國財(cái)政部也在利用AI打擊金融犯罪，F(xiàn)SOC去年首次警告AI對(duì)金融體系構(gòu)成威脅
有美國財(cái)政部官員透露，F(xiàn)SOC正在努力探究人工智能如何對(duì)金融系統(tǒng)構(gòu)成威脅，包括加大力度監(jiān)控人工智能在金融行業(yè)的使用情況。
耶倫承認(rèn)，美國財(cái)政部早就在利用AI技術(shù)來打擊非法金融行為，例如檢測(cè)洗錢、恐怖主義融資和逃避制裁等“我們面臨的一些最大風(fēng)險(xiǎn)”，美國國稅局則用AI來增強(qiáng)逃稅的欺詐檢測(cè)能力。
未來，美國政府和金融監(jiān)管機(jī)構(gòu)將繼續(xù)擴(kuò)大利用最新技術(shù)的能力、深入了解AI在金融服務(wù)領(lǐng)域的用例，并將公開征求市場(chǎng)參與者、消費(fèi)者、學(xué)者和社會(huì)公眾對(duì)金融領(lǐng)域AI應(yīng)用的意見。
美國財(cái)政部還將舉辦人工智能和保險(xiǎn)行業(yè)的圓桌會(huì)議，討論保險(xiǎn)公司如何防止AI造成貸款歧視等潛在的消費(fèi)者保護(hù)措施，并將同美國國內(nèi)與國際的金融監(jiān)管機(jī)構(gòu)定期對(duì)話，共同探究和監(jiān)測(cè)AI對(duì)國際金融體系和全球經(jīng)濟(jì)的影響。
耶倫提到，除了促進(jìn)信息共享和對(duì)話之外，金融穩(wěn)定監(jiān)督委員會(huì)及其成員機(jī)構(gòu)將加強(qiáng)AI監(jiān)管能力，在已有風(fēng)險(xiǎn)管理指導(dǎo)框架的基礎(chǔ)上，還會(huì)引入“場(chǎng)景分析”（scenario analysis）的方法：
“鑒于人工智能技術(shù)發(fā)展迅速，金融公司和市場(chǎng)參與者的潛在用例也在快速演變，場(chǎng)景分析可以幫助監(jiān)管機(jī)構(gòu)和企業(yè)識(shí)別未來潛在的脆弱性，并告訴我們可以采取哪些措施來增強(qiáng)抵御能力。”
去年12月，美國金融穩(wěn)定監(jiān)督委員會(huì)在2023年度報(bào)告中首次警告稱“人工智能對(duì)金融體系構(gòu)成潛在威脅”，將人工智能在金融服務(wù)領(lǐng)域的廣泛應(yīng)用視為一個(gè)“新興弱點(diǎn)”，AI可能帶來的某些風(fēng)險(xiǎn)包括網(wǎng)絡(luò)安全、合規(guī)和用戶隱私保護(hù)等問題。
在報(bào)告中，監(jiān)管機(jī)構(gòu)還提到了對(duì)ChatGPT等生成式AI模型“復(fù)雜性”的擔(dān)憂，除了這些模型可能會(huì)產(chǎn)生“幻覺”而提供有缺陷的結(jié)果之外，一些人工智能系統(tǒng)像是外部人員無法洞察的“黑箱運(yùn)作”，令評(píng)估系統(tǒng)概念是否合理變得困難，進(jìn)而增加對(duì)其適用性和可靠性的不確定風(fēng)險(xiǎn)。
例如，監(jiān)管機(jī)構(gòu)擔(dān)心，如果銀行依賴“神秘的”人工智能模型，就很難理解其底層系統(tǒng)到底有多安全。AI系統(tǒng)也可能產(chǎn)生并掩蓋有偏見或不準(zhǔn)確的結(jié)果，導(dǎo)致公平借貸等消費(fèi)者保護(hù)問題。
耶倫也在本次演講中援引了FSOC年報(bào)，稱美國財(cái)政部希望解決與人工智能相關(guān)的直接運(yùn)營風(fēng)險(xiǎn)、網(wǎng)絡(luò)安全和欺詐挑戰(zhàn)。去年的年報(bào)特意指出：
“隨著人工智能方法的復(fù)雜性增加，錯(cuò)誤和偏見會(huì)變得更加難以識(shí)別和糾正，這凸顯了AI技術(shù)開發(fā)者、使用該技術(shù)的金融行業(yè)公司，以及監(jiān)管這些公司的監(jiān)管機(jī)構(gòu)必須保持警惕。”
