對(duì)抗樣本攻擊、模型后門(mén)、模型竊取…人工智能產(chǎn)業(yè)的發(fā)展也帶來(lái)了特有的新風(fēng)險(xiǎn)。隨著產(chǎn)業(yè)進(jìn)程的深入，這些安全風(fēng)險(xiǎn)的邊界也迅速擴(kuò)散，逐步蔓延至金融、互聯(lián)網(wǎng)、安防、城市和社會(huì)治理各個(gè)領(lǐng)域。

如果可以模擬真實(shí)網(wǎng)絡(luò)環(huán)境，演練“攻擊”與“防守”尋找新漏洞，是不是就能有效應(yīng)對(duì)不斷出現(xiàn)的新型攻擊手段？并未雨綢繆提前補(bǔ)上漏洞？

11月11日，瑞萊智慧發(fā)布了人工智能安全靶場(chǎng)RealRange，提供提供實(shí)戰(zhàn)化、體系化的一站式人工智能攻防演練服務(wù)支撐。

瑞萊智慧人工智能安全靶場(chǎng)RealRange

北京瑞萊智慧科技有限公司成立于2018年7月，是清華大學(xué)人工智能研究院發(fā)起成立的科技成果轉(zhuǎn)化企業(yè)，致力于提供安全可控人工智能基礎(chǔ)設(shè)施平臺(tái)與解決方案。中國(guó)科學(xué)院院士、清華大學(xué)人工智能研究院名譽(yù)院長(zhǎng)張鈸和清華大學(xué)計(jì)算機(jī)系教授朱軍共同擔(dān)任公司首席科學(xué)家，清華大學(xué)計(jì)算機(jī)系博士田天出任CEO。

“隨著人工智能安全態(tài)勢(shì)不斷演化，新型攻擊手段不斷出現(xiàn)，單點(diǎn)產(chǎn)品只能解決滯后問(wèn)題，對(duì)于未知威脅無(wú)法進(jìn)行風(fēng)險(xiǎn)預(yù)判和策略調(diào)整，同時(shí)作為新興領(lǐng)域，行業(yè)普遍面臨專(zhuān)業(yè)人才不足與實(shí)戰(zhàn)經(jīng)驗(yàn)匱乏的雙重困境。鑒于此，打造動(dòng)態(tài)演化、科學(xué)調(diào)整的安全防御體系成為核心需求，也促使人工智能攻防靶場(chǎng)成為一項(xiàng)重要的新型基礎(chǔ)設(shè)施，”瑞萊智慧副總裁唐家渝表示。

具體來(lái)說(shuō)，即是通過(guò)預(yù)設(shè)訓(xùn)練場(chǎng)景模型，構(gòu)建真實(shí)網(wǎng)絡(luò)環(huán)境的人工智能實(shí)戰(zhàn)攻防演練，通過(guò)“實(shí)戰(zhàn)化、模塊化”的平臺(tái)服務(wù)，幫助政企機(jī)構(gòu)企業(yè)開(kāi)展安全能力體系檢驗(yàn)評(píng)估，實(shí)現(xiàn)精準(zhǔn)挖掘薄弱環(huán)節(jié)、驗(yàn)證攻防能力、敏捷迭代防御體系等能力。

7月12日，工信部官網(wǎng)發(fā)布《網(wǎng)絡(luò)安全產(chǎn)業(yè)高質(zhì)量發(fā)展三年行動(dòng)計(jì)劃（2021-2023年）（征求意見(jiàn)稿）》，將“構(gòu)建人工智能安全靶場(chǎng)”列為重點(diǎn)投入方向。

唐家渝介紹道，人工智能安全靶場(chǎng)RealRange類(lèi)似于“演兵場(chǎng)”，安全靶場(chǎng)通過(guò)攻防實(shí)戰(zhàn)演練將風(fēng)險(xiǎn)暴露前置，提前發(fā)現(xiàn)和適應(yīng)不斷升級(jí)、瞬息萬(wàn)變的新型攻擊和高級(jí)威脅，動(dòng)態(tài)提升團(tuán)隊(duì)軟實(shí)力，快速?gòu)浹a(bǔ)技術(shù)水平與經(jīng)驗(yàn)的不足，實(shí)現(xiàn)“讓風(fēng)險(xiǎn)發(fā)生在靶場(chǎng)，讓有效防御構(gòu)建在安全事件之前”。

據(jù)悉，該平臺(tái)集“學(xué)、練”為一體，包含攻擊靶場(chǎng)、防御靶場(chǎng)、攻防演練三大功能模塊?！肮シ腊袌?chǎng)”內(nèi)置不同維度、不同難度的攻防靶標(biāo)與最新的攻防算法；“攻防演練模塊”支持針對(duì)人臉識(shí)別、圖像分類(lèi)等不同應(yīng)用場(chǎng)景開(kāi)展攻防演練，同時(shí)平臺(tái)可自動(dòng)化評(píng)估攻防兩端能力，以攻防態(tài)勢(shì)的可視化功能直觀反饋實(shí)時(shí)戰(zhàn)況。

具體來(lái)看，該靶場(chǎng)平臺(tái)具備三大特點(diǎn)：場(chǎng)景豐富：集成多種典型應(yīng)用場(chǎng)景、攻防靶標(biāo)、攻防工具，有效支撐各類(lèi)業(yè)務(wù)場(chǎng)景下的攻防演練；容易上手：內(nèi)置難度由低到高的分階靶場(chǎng)體系，進(jìn)階式學(xué)練體系，無(wú)需具備專(zhuān)業(yè)AI安全知識(shí)也能快速上手；擴(kuò)展靈活：模塊化設(shè)計(jì)支持靈活構(gòu)建各類(lèi)演練場(chǎng)景，級(jí)聯(lián)設(shè)計(jì)支持靈活擴(kuò)展各種演練規(guī)模。

唐家渝說(shuō)道，“該靶場(chǎng)平臺(tái)基于瑞萊智慧在模型攻防領(lǐng)域深厚的技術(shù)積累，包括白盒攻擊、黑盒遷移攻擊等前沿對(duì)抗技術(shù)以及與清華大學(xué)、阿里安全聯(lián)合研發(fā)的AI對(duì)抗攻防基準(zhǔn)，將團(tuán)隊(duì)長(zhǎng)期在攻防、競(jìng)賽、實(shí)戰(zhàn)過(guò)程中形成的實(shí)踐經(jīng)驗(yàn)內(nèi)化于平臺(tái)之中。他透露，平臺(tái)下一步將基于橫向的通用計(jì)算機(jī)視覺(jué)任務(wù)，打造身份驗(yàn)證、自動(dòng)駕駛等縱向細(xì)分領(lǐng)域的個(gè)性化定制方案?！?/p>

瑞萊智慧是安全可控人工智能基礎(chǔ)設(shè)施平臺(tái)和解決方案提供商，團(tuán)隊(duì)曾獲2017NIPS對(duì)抗攻防競(jìng)賽、2018 世界頂級(jí)黑客大會(huì)DEFCON的CAAD CTF對(duì)抗攻防邀請(qǐng)賽、2019 國(guó)際安全極客安全大賽GeekPwn“CAAD CTF圖像對(duì)抗樣本挑戰(zhàn)賽”及 “CAAD隱身挑戰(zhàn)賽”等多項(xiàng)世界級(jí)AI安全大賽冠軍。