- +1
Anthropic警示AI自我進(jìn)化過快,呼吁適度放緩前沿研究
依托Claude,Anthropic超八成代碼已由AI生成,工程師開發(fā)效率數(shù)倍抬升,AI自主迭代、遞歸式自我改進(jìn)進(jìn)程提速超預(yù)期。美國大模型公司Anthropic在最新技術(shù)博文中《當(dāng)人工智能自我構(gòu)建時》披露實測數(shù)據(jù)并預(yù)判三類行業(yè)走向,同時罕見提出觀點:合理放慢尖端AI研發(fā)節(jié)奏,留給社會配套完善窗口期,或?qū)⒗萌祟惏踩l(fā)展。

Anthropic發(fā)表最新技術(shù)博文《當(dāng)人工智能自我構(gòu)建時》
Anthropic 稱,截至今年5月,80%以上的Anthropic代碼,都由Claude寫的。而在Claude Code發(fā)布之前,這個數(shù)字還僅是個位數(shù)。與此同時,Anthropic工程師平均每季度交付的代碼量,是2021至2025年的8倍。
“在 Anthropic 成立的前四年,也就是 2021 年至 2024 年,每位工程師每天合并的代碼行數(shù)基本保持穩(wěn)定;到 2025 年,隨著 Claude 開始運(yùn)行代碼,而不只是建議工程師復(fù)制粘貼代碼,這一數(shù)字開始上升?!?/p>
Anthropic 表示,2026 年,隨著模型開始在更長的時間范圍內(nèi)自主運(yùn)行,這一增長速度再次加快。數(shù)據(jù)顯示,2026 年第二季度,Anthropic 普通工程師每天合并的代碼量是 2024 年的 8 倍。
Claude編寫的代碼“很好”,而且還在不斷改進(jìn),在這種情況下,未來的工作模式會是怎樣的?Anthropic表示,未來可能會出現(xiàn)至少三種不同的情形:
第一,雖然指數(shù)級增長的趨勢可能會停滯,但如今AI的能力已經(jīng)廣泛普及。Anthropic稱,我們目前仍處于將現(xiàn)有模型推廣到更廣泛經(jīng)濟(jì)領(lǐng)域的早期階段,但制約人工智能進(jìn)步的因素不在模型本身,可能在供應(yīng)鏈、芯片制造速度、電網(wǎng)擴(kuò)展速度或互連帶寬等;
第二,人工智能實驗室的效率將持續(xù)提升,人工智能的開發(fā)將高度自動化,但人類仍然負(fù)責(zé)設(shè)定研究方向和評估結(jié)果。隨著時間的推移,使用人工智能系統(tǒng)的組織將變得更加高效,組織中每個人的生產(chǎn)力都將得到顯著提升。像Anthropic這樣的公司,人類的角色也將發(fā)生轉(zhuǎn)變。人們將與人工智能系統(tǒng)合作,擴(kuò)大研究規(guī)模,共同構(gòu)建驗證人工智能是否可信所需的系統(tǒng)。
第三,人工智能系統(tǒng)本身將具備完全遞歸式自我改進(jìn)的能力,并開始構(gòu)建其后繼者。如果技術(shù)進(jìn)步的趨勢持續(xù)下去,人工智能系統(tǒng)能夠發(fā)展出媲美人類具有變革性創(chuàng)造力,那么人工智能系統(tǒng)很可能進(jìn)行自我設(shè)計和改進(jìn)。
Anthropic 認(rèn)為,在這樣的世界里,人工智能發(fā)展的步伐將完全取決于人工智能系統(tǒng)所需的計算資源(或發(fā)現(xiàn)算法訓(xùn)練或推理中各種效率提升的速度),人類在人工智能系統(tǒng)發(fā)展中的作用將大幅降低,“我們的大部分精力可能會轉(zhuǎn)移到對人工智能系統(tǒng)運(yùn)行的‘虛擬實驗室’進(jìn)行監(jiān)督、驗證和確認(rèn)?!?/p>
不過,Anthropic 表示,目前判斷哪種結(jié)果最有可能還為時過早,但AI 已經(jīng)在幫助構(gòu)建 AI已是現(xiàn)實。
我們該怎么辦? 在這篇技術(shù)博客里,Anthropic稱,如果能夠有效減緩這項技術(shù)的發(fā)展速度,為我們?nèi)祟愄峁└鄷r間來應(yīng)對其巨大的影響,這或許是一件好事。但如果速度放緩反而讓那些最不謹(jǐn)慎的參與者在技術(shù)上迎頭趕上,那么最終可能會讓所有人的安全都受到威脅。
“我們認(rèn)為,如果世界可以選擇放緩或暫時中止前沿人工智能的研發(fā),從而使社會結(jié)構(gòu)和協(xié)調(diào)研究能夠跟上技術(shù)發(fā)展的步伐,這對世界大有好處?!盇nthropic表示。
這篇文章由瑪麗娜·法瓦羅(Marina Favaro)和 杰克·克拉克(Jack Clark )共同撰寫,其中杰克·克拉克是 Anthropic 聯(lián)合創(chuàng)始人,瑪麗娜·法瓦羅則參與 Anthropic研究院相關(guān)工作。
值得注意的是,Anthropic對AI風(fēng)險的公開警告,發(fā)生在公司估值快速攀升并籌備上市的背景下。6月1日,Anthropic 在其官網(wǎng)公告稱,公司已向美國證券交易委員會(SEC)秘密提交Form S-1注冊聲明草案,擬進(jìn)行普通股首次公開募股。公司同時強(qiáng)調(diào),具體發(fā)行股數(shù)和價格尚未確定,IPO將取決于市場條件及其他因素。另據(jù)英國《金融時報》報道,Anthropic已遞交首次公開募股相關(guān)文件,擬以超過1萬億美元估值上市,這也使其與OpenAI、SpaceX等公司一道,成為新一輪科技巨頭上市潮的焦點,若順利上市,Anthropic可能成為新一代AI公司中最受關(guān)注的公開上市案例之一,也將為資本市場如何給生成式AI公司定價提供參照。





- 報料熱線: 021-962866
- 報料郵箱: news@thepaper.cn
互聯(lián)網(wǎng)新聞信息服務(wù)許可證:31120170006
增值電信業(yè)務(wù)經(jīng)營許可證:滬B2-2017116
? 2014-2026 上海東方報業(yè)有限公司




