·“數(shù)據(jù)安全問題仍然十分嚴(yán)峻，特別是信息惡意獲取、篡改、偽造和亂用，成本極低，大規(guī)模的數(shù)據(jù)泄漏時有發(fā)生，數(shù)據(jù)安全應(yīng)該得到全世界的廣泛關(guān)注?！?/u>

·“人工智能在產(chǎn)業(yè)的大規(guī)模應(yīng)用落地，亟需解決安全可信、協(xié)作共識、復(fù)雜關(guān)聯(lián)分析、存儲計算規(guī)模爆炸、降低耗能等問題，需要在隱私計算、區(qū)塊鏈、圖計算、分布式數(shù)據(jù)庫及計算基礎(chǔ)設(shè)施、綠色計算等AI大規(guī)模應(yīng)用的“根技術(shù)”上深耕探索。”

今天，數(shù)據(jù)已經(jīng)成為重要的生產(chǎn)要素。此前，中共中央、國務(wù)院公布《關(guān)于構(gòu)建更加完善的要素市場化配置體制機制的意見》，要求加快培育數(shù)據(jù)要素市場，加強數(shù)據(jù)資源整合和安全保護，特別提出制定數(shù)據(jù)隱私保護制度和安全生產(chǎn)制度。

“數(shù)據(jù)安全問題仍然十分嚴(yán)峻，特別是信息惡意獲取、篡改、偽造和亂用，成本極低，大規(guī)模的數(shù)據(jù)泄漏時有發(fā)生，數(shù)據(jù)安全應(yīng)該得到全世界的廣泛關(guān)注?！?月3日中國科學(xué)院院士、清華大學(xué)教授王小云在2022世界人工智能大會可信隱私計算高峰論壇上說道。

數(shù)據(jù)的安全問題也影響著人工智能的發(fā)展。螞蟻集團副總裁、首席技術(shù)安全官韋韜認為，人工智能在產(chǎn)業(yè)的大規(guī)模應(yīng)用落地，亟需解決安全可信、協(xié)作共識、復(fù)雜關(guān)聯(lián)分析、存儲計算規(guī)模爆炸、降低耗能等問題，需要在隱私計算、區(qū)塊鏈、圖計算、分布式數(shù)據(jù)庫及計算基礎(chǔ)設(shè)施、綠色計算等AI大規(guī)模應(yīng)用的“根技術(shù)”上深耕探索。

他進一步結(jié)合實踐闡釋，這五大挑戰(zhàn)分別是：大規(guī)模數(shù)據(jù)流轉(zhuǎn)及AI應(yīng)用中，如何捍衛(wèi)用戶隱私和數(shù)據(jù)安全？產(chǎn)業(yè)協(xié)同中，如何建立信任機制，促進價值創(chuàng)造？大型實體及數(shù)據(jù)關(guān)系中，如何解決結(jié)構(gòu)復(fù)雜關(guān)聯(lián)問題？數(shù)據(jù)量幾何式爆炸增長，如何解決存儲計算的性能和成本瓶頸？數(shù)據(jù)爆炸增長，如何降低計算耗能、更好保護環(huán)境？

“安全風(fēng)控領(lǐng)域是天然的開放空間強對抗博弈場景，需要與全球最狡詐的黑色產(chǎn)業(yè)團伙做高強度對抗。在這個領(lǐng)域中，目前單純基于數(shù)據(jù)驅(qū)動的智能體系是無法與之有效應(yīng)對的。一方面，需要深入研究機器智能與專家智能高效協(xié)同的融合對抗智能；另一方面需要加強AI的可信保障機制，包括可解釋性、魯棒性、公平性及隱私保護能力?！表f韜舉例稱。

韋韜認為，隱私計算、區(qū)塊鏈、圖計算、分布式數(shù)據(jù)庫和綠色計算，是支撐數(shù)字化時代AI大規(guī)模應(yīng)用的五大重要“根技術(shù)”。

對于隱私計算，上海市經(jīng)濟和信息化委員會副主任張英特別談到，“近年來，隱私計算已經(jīng)從前沿技術(shù)落地，成為應(yīng)用實踐的一部分。人工智能技術(shù)正朝向卓越、安全和可信的方向發(fā)展，技術(shù)創(chuàng)新多點突破，多方安全計算、聯(lián)邦學(xué)習(xí)、可信執(zhí)行環(huán)境、插分隱私、同態(tài)加密的關(guān)鍵技術(shù)日益成熟，更加安全，充分對數(shù)據(jù)要素進行挖掘與利用，實現(xiàn)真正可用不可見場景創(chuàng)新持續(xù)推動。隱私計算在政務(wù)、金融、醫(yī)療等領(lǐng)域中實現(xiàn)落地應(yīng)用，正向交通、教育等多行業(yè)延伸。”

隱私計算正在向規(guī)?；涞氐碾A段邁進。張英表示，未來將繼續(xù)在城市數(shù)字化轉(zhuǎn)型實踐探索中形成可信隱私計算的上海方案：

1、完善技術(shù)創(chuàng)新體系，依托核心創(chuàng)新科研平臺，帶動高校、科研院所、科技企業(yè)共同發(fā)力，加強信息安全的技術(shù)攻關(guān)，形成可信隱私計算的創(chuàng)新策源體系。

2、建立測評測試體系，加快構(gòu)建完善可信AI的相關(guān)標(biāo)準(zhǔn)，研發(fā)創(chuàng)新測試測評技術(shù)，推動可信AI測評和產(chǎn)業(yè)落地。

3、完善制度規(guī)范，加快研究與探索，制定生物信息安全、數(shù)據(jù)安全，各類隱私安全的法律法規(guī)，界定法律邊界，明確各主體、各環(huán)節(jié)的責(zé)任和義務(wù)。