美國加州已成人工智能監(jiān)管斗爭焦點(diǎn)。日前，美國人工智能初創(chuàng)企業(yè)、科技巨頭、學(xué)術(shù)界聯(lián)合反對加州安全法案SB-1047（《前沿人工智能模型安全創(chuàng)新法案》），認(rèn)為該法案將使得AI創(chuàng)新冷卻，但支持者認(rèn)為對AI的監(jiān)管比對理發(fā)店的監(jiān)管更少。

8月6日，“AI教母”李飛飛在社交媒體上表示，雖然這項法案本意是好的，但它不僅很難達(dá)到它的目的，還會深深傷害人工智能學(xué)術(shù)界、開源社區(qū)等。李飛飛表示，人工智能是一項文明技術(shù)，將對每個人產(chǎn)生深遠(yuǎn)的影響。人工智能政策必須鼓勵創(chuàng)新，設(shè)置適當(dāng)限制，并減輕這些限制的影響；否則，最好的結(jié)果是達(dá)不到目標(biāo)，最壞的情況下是導(dǎo)致可怕甚至是意想不到的后果。

但杰弗里·辛頓(Geoffrey Hinton)和約書亞·本吉奧(Yoshua Bengio)等計算機(jī)科學(xué)研究人員以及法律學(xué)者共同簽署了一封致加州州長的信，支持SB-1047法案。信中說，“廢除這項法案的基本措施將是一個歷史性的錯誤，在一年內(nèi)，當(dāng)下一代更強(qiáng)大的人工智能系統(tǒng)發(fā)布時，這個錯誤將變得更加明顯?！彼麄儗⒎ò该枋鰹椤皩@項技術(shù)進(jìn)行有效監(jiān)管的最低限度”。

法案或阻礙創(chuàng)新生態(tài)

SB-1047法案已提交州立法機(jī)構(gòu)，在加州參議院和兩個州議會委員會獲得通過，幾乎沒有遭到反對意見。該法案要求人工智能大模型的開發(fā)人員進(jìn)行安全測試，以降低AI技術(shù)造成“災(zāi)難性傷害”的風(fēng)險。所謂的災(zāi)難性傷害，法案將其定義為造成至少5億美元損失或大規(guī)模人員傷亡的網(wǎng)絡(luò)攻擊。

法案適用于達(dá)到一定計算能力且訓(xùn)練成本超過1億美元的人工智能模型。無論公司總部在哪里，只要在加州開展業(yè)務(wù)，都被涵蓋在監(jiān)管范圍內(nèi)。李飛飛說，這種閾值的設(shè)定是武斷的，這一措施非但不會提供保障，只會限制包括學(xué)術(shù)界在內(nèi)的各個部門的創(chuàng)新。“今天，學(xué)術(shù)領(lǐng)域的人工智能模型低于這一門檻，但如果我們要重新平衡私營和公共部門人工智能的投資，學(xué)術(shù)界將受到SB-1047的監(jiān)管。我們的人工智能生態(tài)系統(tǒng)將因此變得更糟。”

法案要求，開發(fā)人員必須確保人工智能在開始有危險行為時可以被人類關(guān)閉。今年7月，著名AI學(xué)者吳恩達(dá)（Andrew Ng）表示，他對SB-1047法案深感擔(dān)憂，法案可能會使人工智能大模型的構(gòu)建者承擔(dān)責(zé)任，如果該法案以目前的形式通過，它將扼殺人工智能模型構(gòu)建者，尤其是開源開發(fā)者。

深度學(xué)習(xí)大牛、紐約大學(xué)教授、Meta首席科學(xué)家楊立昆（Yann LeCun）表示，監(jiān)管機(jī)構(gòu)應(yīng)該監(jiān)管應(yīng)用，而不是技術(shù)，規(guī)范基礎(chǔ)技術(shù)會阻礙創(chuàng)新。讓技術(shù)開發(fā)人員為不良使用承擔(dān)責(zé)任，只會阻止技術(shù)發(fā)展。最奇怪的是，所有這些規(guī)定都是基于完全假設(shè)的科幻小說場景。楊立昆認(rèn)為，這些監(jiān)管將殺死整個人工智能生態(tài)系統(tǒng)，“不僅僅是初創(chuàng)公司，還有學(xué)術(shù)研究?！?/p>

SB-1047也受到了產(chǎn)業(yè)界的強(qiáng)烈抵制?！叭绻凑諘嬉?guī)定生效，將對加州的創(chuàng)新產(chǎn)生寒蟬效應(yīng)。”創(chuàng)業(yè)加速器Y Combinator公共政策主管盧瑟·洛威（Luther Lowe）說。Meta和OpenAI也對該法案提出了擔(dān)憂，谷歌、微軟和Anthropic則提出了冗長的修正案。

反對者說，該法案沒有具體規(guī)定這些測試應(yīng)該是什么，也沒有規(guī)定由誰組成一個新的委員會來監(jiān)督遵守情況。微軟在概述對該法案的反對意見信中表示，支撐該法案監(jiān)管架構(gòu)的基本要素尚未到位，有可能導(dǎo)致投資錯位、產(chǎn)生誤導(dǎo)性結(jié)果，以及錯失集中資源的機(jī)會。

反對者的另一個擔(dān)憂是，如果存在不合理的風(fēng)險，可能導(dǎo)致或造成嚴(yán)重傷害，該法案將禁止發(fā)布人工智能大模型。“這個模糊的標(biāo)準(zhǔn)創(chuàng)造了一個法律雷區(qū)。”風(fēng)險投資公司安德森·霍洛維茨（Andreessen Horowitz）的合伙人安妮·米德哈（Anjney Midha）表示，“目前的技術(shù)根本無法保證不會出現(xiàn)這些假設(shè)的情況?！泵椎鹿J(rèn)為，該法案將阻止大型開發(fā)商向公眾提供模型，從而破壞依賴這種開放性進(jìn)行創(chuàng)新的生態(tài)系統(tǒng)。

加州是許多人工智能創(chuàng)新的發(fā)源地。吳恩達(dá)說，他擔(dān)心這個反競爭、反創(chuàng)新的提案在立法機(jī)構(gòu)中得到了如此多的關(guān)注?！案愀獾氖牵渌痉ü茌爡^(qū)經(jīng)常效仿加州，如果他們在這種情況下這樣做，那將是可怕的。”

對AI的監(jiān)管比理發(fā)店少

“我并不反對人工智能治理?！崩铒w飛在署名文章中表示，過去一年與美國總統(tǒng)拜登的多次對話中，她表達(dá)了需要一種“登月計劃”的心態(tài)來刺激美國人工智能教育、研究和發(fā)展?！叭欢琒B-1047的限制過于武斷，不僅會使加州的人工智能生態(tài)系統(tǒng)降溫，還會對整個國家的人工智能產(chǎn)生令人不安的下游影響?！?/p>

但舊金山民主黨州參議員斯科特·維納（Scott Wiener）表示正與科技行業(yè)接觸，對改革持開放態(tài)度?！翱萍夹袠I(yè)有些人反對任何形式的監(jiān)管，不管它是什么，即使是合理的、寬松的監(jiān)管。”維納認(rèn)為，該法案只是將該行業(yè)制定的安全標(biāo)準(zhǔn)編纂成法律，“這并不是過分的規(guī)定?！?/p>

杰弗里·辛頓(Geoffrey Hinton)和約書亞·本吉奧(Yoshua Bengio)等計算機(jī)科學(xué)研究人員以及法律學(xué)者共同簽署了一封致加州州長的信，支持SB-1047法案，否認(rèn)該法案會阻礙創(chuàng)新的說法，并指出按照書面規(guī)定，該法案只適用于最大的人工智能模型。信中說，“廢除這項法案的基本措施將是一個歷史性的錯誤，在一年內(nèi)，當(dāng)下一代更強(qiáng)大的人工智能系統(tǒng)發(fā)布時，這個錯誤將變得更加明顯?！彼麄儗⒎ò该枋鰹椤皩@項技術(shù)進(jìn)行有效監(jiān)管的最低限度”，“相對于我們面臨的風(fēng)險規(guī)模，這是一項非常寬松的立法?！?/p>

本吉奧和辛頓都是圖靈獎獲得者，與楊立昆同被稱為“人工智能教父”。“對可能帶來災(zāi)難性風(fēng)險的人工智能系統(tǒng)的監(jiān)管比對三明治店或理發(fā)店的監(jiān)管要少。”信中說，“作為最了解這些系統(tǒng)的一些專家，我們可以自信地說，這些風(fēng)險是可能的而且是足夠重要的，需要進(jìn)行安全測試和常識性預(yù)防措施?！?/p>

“我擔(dān)心，科技公司在爭奪市場份額和利潤最大化的過程中，無法獨(dú)自解決這些重大風(fēng)險。這就是為什么我們需要為那些處于這場競賽前沿的人制定一些規(guī)則。”本吉奧說。

上個月在接受Vox采訪時，維納說，該法案已經(jīng)被修改，以回應(yīng)來自開源社區(qū)的批評。當(dāng)前版本免除了原始開發(fā)人員在模型不再受其控制時的關(guān)閉要求，并且當(dāng)其他人對其模型進(jìn)行重大修改時限制了原始開發(fā)人員的責(zé)任，將重大修改版本視為新模型。

在華盛頓，從美國范圍內(nèi)監(jiān)管人工智能的提議幾乎沒有取得進(jìn)展。但科羅拉多州和猶他州最近通過了美國首批人工智能監(jiān)管法律，監(jiān)管范圍比加州SB-1047法案更窄。倡導(dǎo)對人工智能模型訓(xùn)練數(shù)據(jù)進(jìn)行監(jiān)管的非營利組織透明度聯(lián)盟(Transparency Coalition)稱，目前美國各州立法機(jī)構(gòu)正在審議大約400項與人工智能相關(guān)的法案。加州立法機(jī)構(gòu)大約有30項法案正處于不同階段，其目標(biāo)包括從保護(hù)知識產(chǎn)權(quán)到擴(kuò)大兒童色情的定義，將人工智能生成的圖像包括在內(nèi)。