AI（人工智能）初創(chuàng)公司Anthropic稱AI（人工智能）技術(shù)正在加速接管AI研發(fā)工作，這可能會帶來重大的社會風(fēng)險(xiǎn)。

當(dāng)?shù)貢r(shí)間6月4日，Anthropic在官網(wǎng)上發(fā)文稱，隨著AI技術(shù)加速接管自身的研發(fā)工作，如果這樣的趨勢發(fā)展到極致，在足夠的算力支持下，AI系統(tǒng)將能夠完全自主地設(shè)計(jì)、開發(fā)和訓(xùn)練出超越自身的下一代AI系統(tǒng)，實(shí)現(xiàn)人類尚未準(zhǔn)備好迎接的“遞歸自我改進(jìn)（Recursive Self-Improvement）”。

因此，公司提議，放緩全球尖端AI的發(fā)展速度“可能是一件好事”。但其也警告稱，如果只有一家公司停止發(fā)展，競爭對手就會加速前進(jìn)。要真正實(shí)現(xiàn)這一點(diǎn)，意味著多個(gè)國家的多家大型AI公司都必須同意實(shí)現(xiàn)“可驗(yàn)證的共同減速”。

Anthropic以公司內(nèi)部數(shù)據(jù)為例：目前，在并入公司生產(chǎn)系統(tǒng)的代碼中，有超過80%是由其AI助手Claude自主編寫的，而在2025年2月推出編程工具Claude Code之前，這一比例僅為個(gè)位數(shù)?！坝蒀laude負(fù)責(zé)寫代碼、人類進(jìn)行指導(dǎo)和審查”已經(jīng)成為了公司的典型工作模式，以至于在今年第二季度，Anthropic的工程師平均每個(gè)季度交付的代碼量達(dá)到了2024年的8倍。

Anthropic員工的人均季度代碼交付量在AI幫助下大幅增長。來源：Anthropic

雖然代碼行數(shù)衡量的是數(shù)量而非質(zhì)量，但是，Anthropic并不會根據(jù)員工編寫的代碼行數(shù)來給予獎勵(lì)，上述變化仍然證明了生產(chǎn)力正在AI的推動下加速增長。根據(jù)公司在今年3月對130名員工的采訪統(tǒng)計(jì)，AI能夠獨(dú)立穩(wěn)定完成的任務(wù)長度，已從早期的“每7個(gè)月翻倍”縮短至如今的“每4個(gè)月翻倍”。

同時(shí)，模型在關(guān)鍵的實(shí)驗(yàn)優(yōu)化和科研任務(wù)中也展現(xiàn)出了技術(shù)飛躍。例如，在“優(yōu)化小模型訓(xùn)練代碼使其運(yùn)行更快”的相同測試中，在2025年5月，Claude Opus 4平均只能讓代碼加速約3倍；而到了2026年4月，其Mythos預(yù)覽版模型達(dá)到了52倍的加速。

因此，Anthropic指出，在合適條件的支持下，AI可能形成一個(gè)不斷自我迭代增強(qiáng)的能力閉環(huán)，也就是“遞歸自我改進(jìn)”。公司強(qiáng)調(diào)，雖然人類尚未達(dá)到這一階段，這一趨勢也并非必然發(fā)生，但其到來的速度很可能會超出絕大多數(shù)機(jī)構(gòu)的應(yīng)對準(zhǔn)備。

Anthropic預(yù)測，AI的未來發(fā)展路徑有三種可能性：第一種是技術(shù)進(jìn)步大幅放緩；第二種，AI持續(xù)帶來巨大的生產(chǎn)力增益，但人類仍保持最終控制權(quán)，這是目前看來最有可能發(fā)生的場景；第三種，AI系統(tǒng)徹底跨入全面自建其繼承者（即下一代AI系統(tǒng)）的階段。

如果第三種可能性成真，盡管AI自建能夠?yàn)榭茖W(xué)、醫(yī)療等領(lǐng)域帶來無與倫比的好處，但其也蘊(yùn)含著巨大的生存風(fēng)險(xiǎn)，人類可能失去對AI系統(tǒng)的控制權(quán)，并令人類對AI的監(jiān)督變得極其困難。

因此，Anthropic呼吁給予“踩剎車”的選項(xiàng)：國際社會、政府以及頂尖AI實(shí)驗(yàn)室應(yīng)當(dāng)共同努力，建立一個(gè)有效的全球協(xié)調(diào)機(jī)制，以便在必要時(shí)能夠主動放慢或暫時(shí)停止前沿AI的發(fā)展，從而給人類留出足夠的時(shí)間來調(diào)適社會結(jié)構(gòu)、推進(jìn)AI對齊研究。

Anthropic發(fā)布這篇文章的時(shí)機(jī)耐人尋味。就在幾天前的6月1日，Anthropic在官網(wǎng)上發(fā)布文章稱，公司已向美國證券交易委員會（SEC）保密遞交了S-1注冊聲明草案，正式啟動IPO籌備流程。在SEC完成審核之后，公司就可以選擇上市。

根據(jù)Anthropic的披露，公司年化收入（ARR）已在今年5月初突破470億美元，有望在本月底達(dá)到500億美元。

Anthropic暫未披露上市的具體時(shí)間和募資規(guī)模，稱其“將取決于市場狀況與各類外部因素”。分析指出，公司最快或于今年秋天上市。目前，Anthropic公司估值達(dá)到9650億美元，超越了其估值為8520億美元的競爭對手OpenAI。