AI（人工智能）初創(chuàng)公司Anthropic稱(chēng)AI（人工智能）技術(shù)正在加速接管AI研發(fā)工作，這可能會(huì)帶來(lái)重大的社會(huì)風(fēng)險(xiǎn)。

當(dāng)?shù)貢r(shí)間6月4日，Anthropic在官網(wǎng)上發(fā)文稱(chēng)，隨著AI技術(shù)加速接管自身的研發(fā)工作，如果這樣的趨勢(shì)發(fā)展到極致，在足夠的算力支持下，AI系統(tǒng)將能夠完全自主地設(shè)計(jì)、開(kāi)發(fā)和訓(xùn)練出超越自身的下一代AI系統(tǒng)，實(shí)現(xiàn)人類(lèi)尚未準(zhǔn)備好迎接的“遞歸自我改進(jìn)（Recursive Self-Improvement）”。

因此，公司提議，放緩全球尖端AI的發(fā)展速度“可能是一件好事”。但其也警告稱(chēng)，如果只有一家公司停止發(fā)展，競(jìng)爭(zhēng)對(duì)手就會(huì)加速前進(jìn)。要真正實(shí)現(xiàn)這一點(diǎn)，意味著多個(gè)國(guó)家的多家大型AI公司都必須同意實(shí)現(xiàn)“可驗(yàn)證的共同減速”。

Anthropic以公司內(nèi)部數(shù)據(jù)為例：目前，在并入公司生產(chǎn)系統(tǒng)的代碼中，有超過(guò)80%是由其AI助手Claude自主編寫(xiě)的，而在2025年2月推出編程工具Claude Code之前，這一比例僅為個(gè)位數(shù)。“由Claude負(fù)責(zé)寫(xiě)代碼、人類(lèi)進(jìn)行指導(dǎo)和審查”已經(jīng)成為了公司的典型工作模式，以至于在今年第二季度，Anthropic的工程師平均每個(gè)季度交付的代碼量達(dá)到了2024年的8倍。

Anthropic員工的人均季度代碼交付量在AI幫助下大幅增長(zhǎng)。來(lái)源：Anthropic

雖然代碼行數(shù)衡量的是數(shù)量而非質(zhì)量，但是，Anthropic并不會(huì)根據(jù)員工編寫(xiě)的代碼行數(shù)來(lái)給予獎(jiǎng)勵(lì)，上述變化仍然證明了生產(chǎn)力正在AI的推動(dòng)下加速增長(zhǎng)。根據(jù)公司在今年3月對(duì)130名員工的采訪統(tǒng)計(jì)，AI能夠獨(dú)立穩(wěn)定完成的任務(wù)長(zhǎng)度，已從早期的“每7個(gè)月翻倍”縮短至如今的“每4個(gè)月翻倍”。

同時(shí)，模型在關(guān)鍵的實(shí)驗(yàn)優(yōu)化和科研任務(wù)中也展現(xiàn)出了技術(shù)飛躍。例如，在“優(yōu)化小模型訓(xùn)練代碼使其運(yùn)行更快”的相同測(cè)試中，在2025年5月，Claude Opus 4平均只能讓代碼加速約3倍；而到了2026年4月，其Mythos預(yù)覽版模型達(dá)到了52倍的加速。

因此，Anthropic指出，在合適條件的支持下，AI可能形成一個(gè)不斷自我迭代增強(qiáng)的能力閉環(huán)，也就是“遞歸自我改進(jìn)”。公司強(qiáng)調(diào)，雖然人類(lèi)尚未達(dá)到這一階段，這一趨勢(shì)也并非必然發(fā)生，但其到來(lái)的速度很可能會(huì)超出絕大多數(shù)機(jī)構(gòu)的應(yīng)對(duì)準(zhǔn)備。

Anthropic預(yù)測(cè)，AI的未來(lái)發(fā)展路徑有三種可能性：第一種是技術(shù)進(jìn)步大幅放緩；第二種，AI持續(xù)帶來(lái)巨大的生產(chǎn)力增益，但人類(lèi)仍保持最終控制權(quán)，這是目前看來(lái)最有可能發(fā)生的場(chǎng)景；第三種，AI系統(tǒng)徹底跨入全面自建其繼承者（即下一代AI系統(tǒng)）的階段。

如果第三種可能性成真，盡管AI自建能夠?yàn)榭茖W(xué)、醫(yī)療等領(lǐng)域帶來(lái)無(wú)與倫比的好處，但其也蘊(yùn)含著巨大的生存風(fēng)險(xiǎn)，人類(lèi)可能失去對(duì)AI系統(tǒng)的控制權(quán)，并令人類(lèi)對(duì)AI的監(jiān)督變得極其困難。

因此，Anthropic呼吁給予“踩剎車(chē)”的選項(xiàng)：國(guó)際社會(huì)、政府以及頂尖AI實(shí)驗(yàn)室應(yīng)當(dāng)共同努力，建立一個(gè)有效的全球協(xié)調(diào)機(jī)制，以便在必要時(shí)能夠主動(dòng)放慢或暫時(shí)停止前沿AI的發(fā)展，從而給人類(lèi)留出足夠的時(shí)間來(lái)調(diào)適社會(huì)結(jié)構(gòu)、推進(jìn)AI對(duì)齊研究。

Anthropic發(fā)布這篇文章的時(shí)機(jī)耐人尋味。就在幾天前的6月1日，Anthropic在官網(wǎng)上發(fā)布文章稱(chēng)，公司已向美國(guó)證券交易委員會(huì)（SEC）保密遞交了S-1注冊(cè)聲明草案，正式啟動(dòng)IPO籌備流程。在SEC完成審核之后，公司就可以選擇上市。

根據(jù)Anthropic的披露，公司年化收入（ARR）已在今年5月初突破470億美元，有望在本月底達(dá)到500億美元。

Anthropic暫未披露上市的具體時(shí)間和募資規(guī)模，稱(chēng)其“將取決于市場(chǎng)狀況與各類(lèi)外部因素”。分析指出，公司最快或于今年秋天上市。目前，Anthropic公司估值達(dá)到9650億美元，超越了其估值為8520億美元的競(jìng)爭(zhēng)對(duì)手OpenAI。