美國科技巨頭OpenAI首次因安全問題遭到州政府起訴。

據(jù)新華社報(bào)道，美國佛羅里達(dá)州司法部門6月1日向法院提起民事訴訟，指控美國開放人工智能研究中心（OpenAI）及其首席執(zhí)行官薩姆·奧爾特曼在明知旗下聊天機(jī)器人ChatGPT存在“嚴(yán)重風(fēng)險(xiǎn)”的情況下，向公眾隱瞞實(shí)情并大力推廣其產(chǎn)品，致使未成年人遭誤導(dǎo)和被犯罪人員利用。

本次訴訟源于2025年佛羅里達(dá)州立大學(xué)槍擊案，當(dāng)時(shí)槍手曾利用ChatGPT策劃作案，導(dǎo)致兩人死亡，5人受傷。

作為歷史上增長最快的消費(fèi)級(jí)技術(shù)之一，生成式AI帶來的個(gè)人和社會(huì)風(fēng)險(xiǎn)正日益引發(fā)立法者、法律主管部門和公益組織的擔(dān)憂。美國《通信規(guī)范法》第230條旨在保護(hù)互聯(lián)網(wǎng)公司免于對(duì)第三方在其平臺(tái)上發(fā)布的內(nèi)容承擔(dān)責(zé)任，但現(xiàn)在越來越多針對(duì)科技企業(yè)的民事訴訟集中在社交平臺(tái)的設(shè)計(jì)漏洞，而非內(nèi)容。訴訟指控這些設(shè)計(jì)漏洞助長了用戶暴力、自殘等行為，要求加強(qiáng)監(jiān)管。

分析認(rèn)為，美國的政治體制鼓勵(lì)“先創(chuàng)新、后監(jiān)管”，這導(dǎo)致難以劃定用戶和公司之間的安全責(zé)任界限。目前，尚不清楚其監(jiān)管機(jī)構(gòu)會(huì)否采取更強(qiáng)硬的監(jiān)管措施。

“準(zhǔn)備好迎接戰(zhàn)斗吧”

該案訴狀長達(dá)83頁，開頭是一張截圖，顯示了OpenAI關(guān)于其安全性和透明度的一篇帖子。

訴狀指控OpenAI允許ChatGPT協(xié)助和教唆大規(guī)模槍擊案兇手、慫恿用戶自殺，削弱了用戶的批判性思維能力，并使未成年人沉迷于這款偽裝出人類同情心的工具。

去年佛羅里達(dá)州立大學(xué)發(fā)生槍擊事件后，佛羅里達(dá)州總檢察長詹姆斯·尤思邁耶今年4月啟動(dòng)了針對(duì)OpenAI的刑事調(diào)查。

據(jù)稱，槍手把ChatGPT作為心腹密友和商量計(jì)劃的“軍師”，詢問了諸如“應(yīng)該殺死多少人才能引起全國關(guān)注”等問題。ChatGPT給出了一個(gè)答案。

OpenAI當(dāng)時(shí)表示，這起槍擊事件“是一場悲劇，但ChatGPT并不對(duì)這起可怕罪行負(fù)責(zé)?！?/p>

訴狀還詳細(xì)描述了OpenAI自2022年推出ChatGPT以來迅速崛起的過程。目前，OpenAI的估值達(dá)到了近1萬億美元。

“被告設(shè)計(jì)的ChatGPT旨在不擇手段地讓用戶沉迷于對(duì)話，而不顧事實(shí)真相，因?yàn)檫@能增加該聊天機(jī)器人的使用量，為其改進(jìn)提供更多訓(xùn)練數(shù)據(jù)，并為OpenAI創(chuàng)造更高的市場價(jià)值?！痹V狀稱。

訴狀還提到了青少年安全問題，稱ChatGPT缺乏針對(duì)青少年和未成年人的安全防護(hù)措施。OpenAI雖然設(shè)置了一些家長控制功能，但并未強(qiáng)制要求將兒童賬號(hào)與家長賬號(hào)綁定。

例如，2025年美國加利福尼亞州16歲少年亞當(dāng)·雷恩在與ChatGPT多次交流后表達(dá)了輕生的念頭，隨后自殺身亡。訴狀顯示，ChatGPT為他寫了遺書。

OpenAI的發(fā)言人表示，未成年人需要得到充分保護(hù)，以免受AI帶來的傷害。在安全測試方面，OpenAI已與外部合作伙伴展開合作。且有調(diào)查結(jié)果表明，相較于舊版本，新版本的ChatGPT在處理敏感互動(dòng)方面有了顯著改進(jìn)。

“我們知道，強(qiáng)調(diào)這些工作并不能挽回一個(gè)孩子的生命，但我們致力于把這件事做好。”這名發(fā)言人說。

尤思邁耶則堅(jiān)稱，要確保佛羅里達(dá)州居民免受OpenAI的侵害?！八_姆·奧爾特曼和ChatGPT選擇了AI競賽，置我們孩子的安全與保障于不顧。他們選擇了利潤，無視公共安全。在佛羅里達(dá)州，我們絕不會(huì)容忍這種行為。”尤思邁耶在新聞發(fā)布會(huì)上說，“今天我們要向OpenAI傳達(dá)一個(gè)信息：準(zhǔn)備好迎接戰(zhàn)斗吧?！?/p>

擴(kuò)大針對(duì)AI巨頭的法律行動(dòng)，意味著同為共和黨人的尤思邁耶和總統(tǒng)特朗普的意見相左。

特朗普和包括奧爾特曼在內(nèi)的多位AI領(lǐng)域的領(lǐng)導(dǎo)者建立了私交，發(fā)布了多項(xiàng)行政命令以放松對(duì)AI行業(yè)的監(jiān)管。5月，特朗普放棄簽署一項(xiàng)新的行政命令，該命令原本會(huì)要求政府在AI模型發(fā)布前對(duì)其進(jìn)行安全審查。

已有多起類似起訴

佛羅里達(dá)州的法律行動(dòng)是針對(duì)OpenAI提起的一系列訴訟之一。尤思邁耶表示，他希望并預(yù)計(jì)其他州會(huì)效仿，對(duì)OpenAI提起更多訴訟。這些案件的共同指控是：其聊天機(jī)器人正在加劇心理健康危機(jī)，并引發(fā)暴力行為和自殺事件。

去年11月，7起針對(duì)OpenAI的起訴指責(zé)ChatGPT扮演了“自殺指導(dǎo)師”的作用。今年4月，又有7起針對(duì)OpenAI的訴訟，源于加拿大今年2月發(fā)生的一起校園槍擊案，事件造成5人死亡、27人受傷。

谷歌旗下的聊天機(jī)器人Gemini也因相關(guān)問題遭到起訴。去年8月，該聊天機(jī)器人曾慫恿佛羅里達(dá)州36歲男子喬納森·加瓦拉斯制造一場“災(zāi)難性事故”，并導(dǎo)致其自殺。

“它能夠理解喬納森的情緒，并以相當(dāng)人性化的方式與他對(duì)話。這模糊了界限，開始創(chuàng)造出虛構(gòu)的世界。”代表加瓦拉斯家屬的首席律師杰伊·埃德爾森說，“這就像科幻電影里的情節(jié)?！?/p>

加瓦拉斯的家人正在尋求經(jīng)濟(jì)賠償，并請(qǐng)求法院下達(dá)命令，要求谷歌對(duì)Gemini進(jìn)行設(shè)計(jì)變更，以增加防止自殺的安全措施。

代表加瓦拉斯家人的律師認(rèn)為，Gemini需要具備更多內(nèi)置的安全功能，比如完全拒絕涉及自殘內(nèi)容的聊天，并將用戶安全置于優(yōu)先位置。他們還指出，Gemini應(yīng)該附帶有關(guān)精神錯(cuò)亂和幻覺風(fēng)險(xiǎn)的安全警示。當(dāng)用戶出現(xiàn)這些癥狀時(shí)，谷歌應(yīng)進(jìn)行強(qiáng)制關(guān)閉。

同樣被起訴的還有聊天機(jī)器人平臺(tái)Character.AI。今年1月，肯塔基州起訴了其母公司Character Technologies，指控其“侵害兒童權(quán)益”并“誘導(dǎo)他們自殘”。

當(dāng)時(shí)Character.AI表示，其“首要任務(wù)是保障安全”，并正在為未成年人開發(fā)“完善的安全功能”。

5月，賓夕法尼亞州對(duì)Character.AI提起訴訟，指控其聊天機(jī)器人冒充醫(yī)生。該公司回應(yīng)稱，已采取“有力措施”表明其AI機(jī)器人并非真的醫(yī)生。

如何劃定責(zé)任界限？

康奈爾大學(xué)教授、《贊美訴訟》一書的作者亞歷山德拉·拉哈夫表示，美國的政治體系注重創(chuàng)新，傾向于先發(fā)布新產(chǎn)品，再研究如何監(jiān)管，這些訴訟就是這么做的后果。

“這些案件真正棘手的是，它們處于言論和產(chǎn)品的界限之間?！崩蛘f，“如果你與聊天機(jī)器人的互動(dòng)導(dǎo)致了現(xiàn)實(shí)世界出現(xiàn)傷害。這是你的問題，還是公司的責(zé)任？”

一直以來，Meta、Snap、TikTok以及YouTube等公司援引1996年《通信規(guī)范法》第230條為自己辯護(hù)。該條款授予互聯(lián)網(wǎng)公司“豁免權(quán)”，旨在保護(hù)互聯(lián)網(wǎng)公司免于對(duì)第三方在其平臺(tái)上發(fā)布的內(nèi)容承擔(dān)責(zé)任。

但在今年3月，Meta和谷歌在美國首例社交平臺(tái)成癮案中敗訴。來自加州的20歲女性凱莉·G·M指控平臺(tái)的無盡滾動(dòng)等功能，導(dǎo)致她在青少年時(shí)期對(duì)社交平臺(tái)上癮，引發(fā)抑郁、焦慮等健康問題，要求平臺(tái)修改設(shè)計(jì)，做出經(jīng)濟(jì)賠償。原告把指控理由放在了平臺(tái)產(chǎn)品的設(shè)計(jì)上而非內(nèi)容。

非營利性媒體《對(duì)話》的分析文章稱，即便是那些意識(shí)到自己過度使用數(shù)字產(chǎn)品，并真心想要減少屏幕使用時(shí)間的人，也發(fā)現(xiàn)想要真正做到這一點(diǎn)極其困難。原因并不是這些用戶缺乏意志力，而是系統(tǒng)導(dǎo)致用戶的強(qiáng)迫性使用行為，其設(shè)計(jì)初衷是為了最大限度地提高用戶參與度和廣告收益。

多年來，大型科技公司一直將管理屏幕使用時(shí)間的責(zé)任完全推給個(gè)人和家長，包括鼓勵(lì)他們設(shè)定屏幕使用時(shí)間限制、進(jìn)行數(shù)字排毒（即刻意減少電子產(chǎn)品的使用時(shí)間）、實(shí)施家長監(jiān)管措施。但與此同時(shí)，這些公司卻仍在研發(fā)旨在規(guī)避自我約束機(jī)制的產(chǎn)品。

文章稱，至于法院、監(jiān)管機(jī)構(gòu)和立法者是否會(huì)采取足夠強(qiáng)硬的措施，迫使進(jìn)行真正的結(jié)構(gòu)改革，目前尚不得而知。