近期，《國務(wù)院關(guān)于深入實施“人工智能+”行動的意見》正式發(fā)布，上海也明確提出，要在三到五年內(nèi)建成具有全球影響力的金融科技中心，正以開放姿態(tài)打造AI與金融結(jié)合的“試驗田”和“示范區(qū)”。

那么，在“AI+金融”場景密集落地的當(dāng)下，監(jiān)管如何既設(shè)“邊界”又裝“導(dǎo)航”？9月10日，由上海交通大學(xué)上海高級金融學(xué)院主辦的“AI落地金融之路”——“2025 Inclusion·外灘大會”見解論壇召開，探索技術(shù)創(chuàng)新與風(fēng)險管控平衡之道，以助力構(gòu)建AI金融生態(tài)。

在圓桌討論中，華東政法大學(xué)國際金融法律學(xué)院教授徐明指出，AI作為新事物，當(dāng)前主要面臨“問題新、風(fēng)險大、監(jiān)管難”三大挑戰(zhàn)。

其中，在“監(jiān)管難”方面，徐明認(rèn)為主要體現(xiàn)在三方面。首先，現(xiàn)在的法律制度和監(jiān)管制度還沒有完全跟上，如何設(shè)計一個寬嚴(yán)相濟(jì)的法律制度是個挑戰(zhàn)。其次，AI無所不在，已深入百姓的尋常生活，涉及很多范圍、領(lǐng)域和部門，需要監(jiān)管部門之間彼此協(xié)調(diào)，協(xié)調(diào)存在難度，協(xié)調(diào)也需要成本。最后，AI科技屬性很強(qiáng)、迭代更新很快，涉及大量新的技術(shù)和新的知識，監(jiān)管者是否能及時跟進(jìn)學(xué)習(xí)是監(jiān)管者面臨的難題。

針對這些挑戰(zhàn)，徐明提出，需用綜合手段，在法律、監(jiān)管、技術(shù)等方面統(tǒng)籌應(yīng)對。宏觀上，要抓緊制定人工智能法，加快立法速度，明確責(zé)任主體、明確責(zé)任邊界、嚴(yán)格責(zé)任落實，實現(xiàn)寬嚴(yán)相濟(jì)；微觀層面，要細(xì)化各種技術(shù)標(biāo)準(zhǔn)、安全標(biāo)準(zhǔn)、監(jiān)管標(biāo)準(zhǔn)，使人工智能在探索和實踐中可操作、可執(zhí)行，要發(fā)揮行業(yè)、監(jiān)管及相關(guān)部門的力量，主動應(yīng)對人工智能帶來的挑戰(zhàn)。

聯(lián)和金融人工智能業(yè)務(wù)負(fù)責(zé)人、杭州海茵斯科技創(chuàng)始人聶金則梳理了AI在金融業(yè)的四大核心監(jiān)管問題。

一是數(shù)據(jù)隱含歧視風(fēng)險。AI做決策是由數(shù)據(jù)驅(qū)動，但數(shù)據(jù)中如果純數(shù)據(jù)有可能會隱含一些歧視問題，有可能推動社會的不平等，很有可能對公司主體有法律風(fēng)險。二是AI決策的黑箱難題。2025年各國出臺的監(jiān)管條例顯示，金融機(jī)構(gòu)一旦開始使用AI模型或AI提供服務(wù)，模型所做出決策的可解釋性必須出具審計報告。三是隱私問題。聶金指出，為了增強(qiáng)AI模型的性能，打破數(shù)據(jù)孤島是非常重要的，打破的過程中如果用到很多數(shù)據(jù)，可能會模糊主體邊界，對用戶信息的隱私保護(hù)有一個比較大的挑戰(zhàn)，而這個挑戰(zhàn)如果放到跨國場景里就非常嚴(yán)重，會上升成安全問題。四是問責(zé)機(jī)制，AI可以作出決策，但這當(dāng)中整個鏈條從訓(xùn)練、測試到應(yīng)用，應(yīng)該有一個合理的問責(zé)機(jī)制。

“我覺得監(jiān)管上一是守住底線；二是給予比較好的引導(dǎo)，為AI在金融大規(guī)模承制式應(yīng)用鋪平道路?！贬槍@些挑戰(zhàn)，聶金說道。

恒生電子首席科學(xué)家、研究院院長白碩則從AI落地實施的實際問題出發(fā)，探討邊界問題。

“人工智能可以了解你的客戶，了解到比你還了解，它可以做到千人一面，但生成出來的東西最后一道關(guān)還要是人，這種場景是人最后兜底?！卑状T指出，“這個邊界目前看還要持續(xù)相當(dāng)一段時間”?！?/p>