美國人工智能（AI）企業(yè)Anthropic本月披露其研發(fā)的最新大模型“Claude Mythos”，不到兩周時(shí)間內(nèi)，其高風(fēng)險(xiǎn)和非公開化引發(fā)廣泛關(guān)注和警惕。OpenAI首席執(zhí)行官山姆·奧特曼將Mythos比作“一邊投炸彈，一邊兜售價(jià)值1億美元的防空洞”。

Anthropic聲稱，Mythos具有不可思議的能力，可以發(fā)現(xiàn)并利用全球銀行、電網(wǎng)和政府機(jī)構(gòu)運(yùn)行軟件中的隱藏漏洞。這意味著，該模型可能成為一個(gè)地緣政治籌碼，而且掌握在一家美國公司手中。加拿大財(cái)長(zhǎng)將其威脅比作霍爾木茲海峽的關(guān)閉。

據(jù)新華社報(bào)道，Anthropic表示，Claude Mythos能夠自主識(shí)別主流軟件系統(tǒng)中大量此前未被發(fā)現(xiàn)的安全漏洞，并能開發(fā)出相應(yīng)攻擊手段。國際貨幣基金組織總裁克里斯塔利娜·格奧爾基耶娃12日警告說，全球貨幣體系尚未做好應(yīng)對(duì)AI風(fēng)險(xiǎn)快速升級(jí)的準(zhǔn)備。

不過也有專家指出，即使Mythos在大型操作系統(tǒng)和瀏覽器中可以發(fā)現(xiàn)數(shù)千個(gè)“零日（zero-day）”漏洞（注：已經(jīng)被發(fā)現(xiàn)、但軟件開發(fā)者尚未獲知或尚未發(fā)布修復(fù)補(bǔ)丁的安全漏洞），這也并非革命性的，其他價(jià)格低廉得多的模型也能夠發(fā)現(xiàn)此類漏洞，只是能力差異。

《紐約時(shí)報(bào)》稱，Mythos是全球AI鴻溝日益擴(kuò)大的最新跡象。“對(duì)于中國來說，我認(rèn)為這是繼ChatGPT之后的第二個(gè)警鐘?！笨▋?nèi)基國際和平基金會(huì)高級(jí)研究員麥特·希恩表示。

Mythos是革命還是炒作？

Anthropic在4月7日宣布了AI模型Mythos的存在，但表示不會(huì)公開發(fā)布，因?yàn)樗軌蜃R(shí)別IT系統(tǒng)中未知的缺陷。理論上，這些缺陷可能被黑客利用。

Anthropic表示，如果用戶提出要求，Mythos可以識(shí)別并利用每個(gè)重要IT操作系統(tǒng)和網(wǎng)絡(luò)瀏覽器中的“零日”漏洞。之所以被稱為“零日”，是因?yàn)榻M織和開發(fā)人員對(duì)其完全不知情，在攻擊者出擊之前沒有時(shí)間進(jìn)行修補(bǔ)。

據(jù)《衛(wèi)報(bào)》報(bào)道，英國AI安全研究所（AISI）已對(duì)Mythos進(jìn)行了觀察，認(rèn)為Mythos是先進(jìn)AI破壞能力的切實(shí)證據(jù)，并表示就其對(duì)網(wǎng)絡(luò)安全的威脅而言，是對(duì)以往模型的一次“升級(jí)”。其危險(xiǎn)信號(hào)包括執(zhí)行涉及多個(gè)步驟的攻擊能力，以及在沒有人類指導(dǎo)的情況下識(shí)別IT缺陷。

在AISI看來，Mythos還實(shí)現(xiàn)了一項(xiàng)首創(chuàng)：在研究所創(chuàng)建的一項(xiàng)測(cè)試中，成功完成了一次包含32個(gè)步驟的網(wǎng)絡(luò)攻擊模擬。它可以攻擊薄弱、小型的IT系統(tǒng)，盡管該機(jī)構(gòu)無法對(duì)防御良好的系統(tǒng)給出定論。該研究所在評(píng)估結(jié)束時(shí)提出了一項(xiàng)在別處也經(jīng)常被提及的觀察：AI系統(tǒng)從現(xiàn)在起只會(huì)變得更好。

Anthropic在Forge Global等未上市企業(yè)股權(quán)交易平臺(tái)上的估值已升至1萬億美元左右，超過OpenAI的8800億美元。據(jù)悉，由于買家正在競(jìng)相搶購Anthropic日益減少的二級(jí)市場(chǎng)股票，使得這家人工智能初創(chuàng)公司的估值迅速攀升。

一些專家認(rèn)為，Anthropic關(guān)于Mythos的主張，以及這家估值約8000億美元公司的呈現(xiàn)方式中存在炒作成分。Mythos無疑是一個(gè)能力強(qiáng)大的模型，但戲劇性的聲明為其贏得了大量關(guān)注，并將其產(chǎn)品置于關(guān)于AI如何促成網(wǎng)絡(luò)風(fēng)險(xiǎn)的更廣泛的行業(yè)討論中心。

4月21日，摩根大通上調(diào)標(biāo)普500指數(shù)目標(biāo)價(jià)，認(rèn)為隨著Mythos模型的發(fā)布，AI交易將推動(dòng)標(biāo)普500指數(shù)再創(chuàng)新高。

誰參與其中？

Anthropic在4月早些時(shí)候表示，由于擔(dān)心Mythos過于擅長(zhǎng)識(shí)別網(wǎng)絡(luò)安全漏洞，不會(huì)向公眾發(fā)布。該公司創(chuàng)建了“透明翼計(jì)劃”（Project Glasswing），只有包括谷歌、微軟、亞馬遜云服務(wù)（AWS）、英偉達(dá)和摩根大通在內(nèi)的11家機(jī)構(gòu)獲得了該模型的訪問權(quán)限。這些公司全部來自美國，承諾協(xié)助為該模型識(shí)別出的漏洞開發(fā)安全修復(fù)程序。

Anthropic還將其提供給了40多家公司和組織，他們目前正在測(cè)試該技術(shù)并努力加強(qiáng)其系統(tǒng)。

英國是唯一獲得訪問權(quán)限的其他國家。其政府支持的英國AI安全研究所對(duì)Mythos進(jìn)行測(cè)試后，在上周發(fā)布了一份獨(dú)立評(píng)估報(bào)告?！斑@代表了AI網(wǎng)絡(luò)能力的提升。”英國AI國務(wù)大臣卡尼什卡·納拉揚(yáng)上周在社交媒體上表示，該國正在采取措施保護(hù)“關(guān)鍵國家基礎(chǔ)設(shè)施”。

據(jù)《紐約時(shí)報(bào)》報(bào)道，一位歐盟官員表示，自Mythos發(fā)布以來，歐洲委員會(huì)已與Anthropic至少會(huì)面了三次。但由于雙方尚未就如何共享模型達(dá)成一致，該公司未提供訪問權(quán)限。而且，美國網(wǎng)絡(luò)安全和基礎(chǔ)設(shè)施安全局（CISA）也不在Mythos的訪問權(quán)限名單上。

Anthropic表示，已收到大量來自各國政府、公司和其他機(jī)構(gòu)要求獲取權(quán)限和信息的電話，但這些機(jī)構(gòu)在安全評(píng)估如此強(qiáng)大的AI模型方面可能具備不同水平的專業(yè)知識(shí)。該公司補(bǔ)充說，預(yù)計(jì)其他團(tuán)隊(duì)將在至少18個(gè)月內(nèi)發(fā)布具有類似網(wǎng)絡(luò)能力的AI模型并進(jìn)行更廣泛的推廣，這使得各機(jī)構(gòu)進(jìn)行必要安全修復(fù)的時(shí)間非常有限。

“這種營銷方式顯然令人難以置信：‘我們?cè)炝艘幻墩◤?，正?zhǔn)備把它扔到你頭上。我們會(huì)以1億美元的價(jià)格賣給你一個(gè)防空洞，讓它在你的所有設(shè)施中運(yùn)行，但前提是我們選擇你作為客戶?！眾W特曼在21日發(fā)布的播客節(jié)目Core Memory中說，Anthropic正在利用“基于恐懼的營銷”來推銷Mythos。

國際AI合作缺失，風(fēng)險(xiǎn)多大？

英格蘭銀行行長(zhǎng)近日公開警告稱，Anthropic可能已經(jīng)找到了一種“破解整個(gè)網(wǎng)絡(luò)風(fēng)險(xiǎn)世界”的方法。歐洲中央銀行開始詢問各銀行的防御情況。

由于擔(dān)心Mythos的預(yù)期威脅，美國財(cái)政部長(zhǎng)斯科特·貝森特本月初在華盛頓召集了包括高盛和花旗在內(nèi)的美國大銀行負(fù)責(zé)人開會(huì)。英國監(jiān)管機(jī)構(gòu)本周已將Mythos列入跨市場(chǎng)運(yùn)營彈性小組會(huì)議的議程，這使其進(jìn)入了資深銀行家以及來自財(cái)政部、英格蘭銀行、金融行為監(jiān)管局和國家網(wǎng)絡(luò)安全中心官員之間的高層討論。

盡管Mythos未向公眾發(fā)布，但外界普遍擔(dān)憂它仍可能落入壞人之手。彭博社21日?qǐng)?bào)道稱，在Anthropic首次宣布計(jì)劃向少數(shù)公司開放該模型進(jìn)行測(cè)試的同一天，一個(gè)私密在線論壇中的幾名用戶便獲得了Mythos的訪問權(quán)，他們未經(jīng)授權(quán)，但一直在定期使用。

喬治·華盛頓大學(xué)政治學(xué)教授杰弗里·丁對(duì)《紐約時(shí)報(bào)》表示，中國的一些AI研究人員私下表達(dá)了擔(dān)憂。中國駐美國大使館發(fā)言人劉鵬宇表示，中方對(duì)Mythos的具體細(xì)節(jié)并不熟悉，但支持和平、安全、開放的網(wǎng)絡(luò)空間。

圍繞Mythos的爭(zhēng)議發(fā)生在一個(gè)缺乏國際AI合作的時(shí)期，隨著各公司競(jìng)相超越對(duì)手，各國政府正帶著懷疑審視彼此。目前還沒有等同于《核不擴(kuò)散條約》的AI條約，沒有共同的檢查機(jī)制，也沒有針對(duì)如何處理像Mythos這樣事物的公認(rèn)規(guī)則。

去年，在上海召開的2025世界人工智能大會(huì)暨人工智能全球治理高級(jí)別會(huì)議上，中國政府發(fā)出倡議，成立世界人工智能合作組織，初步考慮總部設(shè)在上海。近日，中國16家科技社團(tuán)共同發(fā)布《全球人工智能治理科技社團(tuán)倡議》，倡導(dǎo)以人為本、智能向善，推動(dòng)建立開放、公正、包容、有效的全球人工智能治理體系。