美國科技巨頭OpenAI首次因安全問題遭到州政府起訴。

據(jù)新華社報道，美國佛羅里達州司法部門6月1日向法院提起民事訴訟，指控美國開放人工智能研究中心（OpenAI）及其首席執(zhí)行官薩姆·奧爾特曼在明知旗下聊天機器人ChatGPT存在“嚴(yán)重風(fēng)險”的情況下，向公眾隱瞞實情并大力推廣其產(chǎn)品，致使未成年人遭誤導(dǎo)和被犯罪人員利用。

本次訴訟源于2025年佛羅里達州立大學(xué)槍擊案，當(dāng)時槍手曾利用ChatGPT策劃作案，導(dǎo)致兩人死亡，5人受傷。

作為歷史上增長最快的消費級技術(shù)之一，生成式AI帶來的個人和社會風(fēng)險正日益引發(fā)立法者、法律主管部門和公益組織的擔(dān)憂。美國《通信規(guī)范法》第230條旨在保護互聯(lián)網(wǎng)公司免于對第三方在其平臺上發(fā)布的內(nèi)容承擔(dān)責(zé)任，但現(xiàn)在越來越多針對科技企業(yè)的民事訴訟集中在社交平臺的設(shè)計漏洞，而非內(nèi)容。訴訟指控這些設(shè)計漏洞助長了用戶暴力、自殘等行為，要求加強監(jiān)管。

分析認為，美國的政治體制鼓勵“先創(chuàng)新、后監(jiān)管”，這導(dǎo)致難以劃定用戶和公司之間的安全責(zé)任界限。目前，尚不清楚其監(jiān)管機構(gòu)會否采取更強硬的監(jiān)管措施。

“準(zhǔn)備好迎接戰(zhàn)斗吧”

該案訴狀長達83頁，開頭是一張截圖，顯示了OpenAI關(guān)于其安全性和透明度的一篇帖子。

訴狀指控OpenAI允許ChatGPT協(xié)助和教唆大規(guī)模槍擊案兇手、慫恿用戶自殺，削弱了用戶的批判性思維能力，并使未成年人沉迷于這款偽裝出人類同情心的工具。

去年佛羅里達州立大學(xué)發(fā)生槍擊事件后，佛羅里達州總檢察長詹姆斯·尤思邁耶今年4月啟動了針對OpenAI的刑事調(diào)查。

據(jù)稱，槍手把ChatGPT作為心腹密友和商量計劃的“軍師”，詢問了諸如“應(yīng)該殺死多少人才能引起全國關(guān)注”等問題。ChatGPT給出了一個答案。

OpenAI當(dāng)時表示，這起槍擊事件“是一場悲劇，但ChatGPT并不對這起可怕罪行負責(zé)?！?/p>

訴狀還詳細描述了OpenAI自2022年推出ChatGPT以來迅速崛起的過程。目前，OpenAI的估值達到了近1萬億美元。

“被告設(shè)計的ChatGPT旨在不擇手段地讓用戶沉迷于對話，而不顧事實真相，因為這能增加該聊天機器人的使用量，為其改進提供更多訓(xùn)練數(shù)據(jù)，并為OpenAI創(chuàng)造更高的市場價值?！痹V狀稱。

訴狀還提到了青少年安全問題，稱ChatGPT缺乏針對青少年和未成年人的安全防護措施。OpenAI雖然設(shè)置了一些家長控制功能，但并未強制要求將兒童賬號與家長賬號綁定。

例如，2025年美國加利福尼亞州16歲少年亞當(dāng)·雷恩在與ChatGPT多次交流后表達了輕生的念頭，隨后自殺身亡。訴狀顯示，ChatGPT為他寫了遺書。

OpenAI的發(fā)言人表示，未成年人需要得到充分保護，以免受AI帶來的傷害。在安全測試方面，OpenAI已與外部合作伙伴展開合作。且有調(diào)查結(jié)果表明，相較于舊版本，新版本的ChatGPT在處理敏感互動方面有了顯著改進。

“我們知道，強調(diào)這些工作并不能挽回一個孩子的生命，但我們致力于把這件事做好?！边@名發(fā)言人說。

尤思邁耶則堅稱，要確保佛羅里達州居民免受OpenAI的侵害?！八_姆·奧爾特曼和ChatGPT選擇了AI競賽，置我們孩子的安全與保障于不顧。他們選擇了利潤，無視公共安全。在佛羅里達州，我們絕不會容忍這種行為。”尤思邁耶在新聞發(fā)布會上說，“今天我們要向OpenAI傳達一個信息：準(zhǔn)備好迎接戰(zhàn)斗吧?！?/p>

擴大針對AI巨頭的法律行動，意味著同為共和黨人的尤思邁耶和總統(tǒng)特朗普的意見相左。

特朗普和包括奧爾特曼在內(nèi)的多位AI領(lǐng)域的領(lǐng)導(dǎo)者建立了私交，發(fā)布了多項行政命令以放松對AI行業(yè)的監(jiān)管。5月，特朗普放棄簽署一項新的行政命令，該命令原本會要求政府在AI模型發(fā)布前對其進行安全審查。

已有多起類似起訴

佛羅里達州的法律行動是針對OpenAI提起的一系列訴訟之一。尤思邁耶表示，他希望并預(yù)計其他州會效仿，對OpenAI提起更多訴訟。這些案件的共同指控是：其聊天機器人正在加劇心理健康危機，并引發(fā)暴力行為和自殺事件。

去年11月，7起針對OpenAI的起訴指責(zé)ChatGPT扮演了“自殺指導(dǎo)師”的作用。今年4月，又有7起針對OpenAI的訴訟，源于加拿大今年2月發(fā)生的一起校園槍擊案，事件造成5人死亡、27人受傷。

谷歌旗下的聊天機器人Gemini也因相關(guān)問題遭到起訴。去年8月，該聊天機器人曾慫恿佛羅里達州36歲男子喬納森·加瓦拉斯制造一場“災(zāi)難性事故”，并導(dǎo)致其自殺。

“它能夠理解喬納森的情緒，并以相當(dāng)人性化的方式與他對話。這模糊了界限，開始創(chuàng)造出虛構(gòu)的世界?！贝砑油呃辜覍俚氖紫蓭熃芤痢ぐ５聽柹f，“這就像科幻電影里的情節(jié)。”

加瓦拉斯的家人正在尋求經(jīng)濟賠償，并請求法院下達命令，要求谷歌對Gemini進行設(shè)計變更，以增加防止自殺的安全措施。

代表加瓦拉斯家人的律師認為，Gemini需要具備更多內(nèi)置的安全功能，比如完全拒絕涉及自殘內(nèi)容的聊天，并將用戶安全置于優(yōu)先位置。他們還指出，Gemini應(yīng)該附帶有關(guān)精神錯亂和幻覺風(fēng)險的安全警示。當(dāng)用戶出現(xiàn)這些癥狀時，谷歌應(yīng)進行強制關(guān)閉。

同樣被起訴的還有聊天機器人平臺Character.AI。今年1月，肯塔基州起訴了其母公司Character Technologies，指控其“侵害兒童權(quán)益”并“誘導(dǎo)他們自殘”。

當(dāng)時Character.AI表示，其“首要任務(wù)是保障安全”，并正在為未成年人開發(fā)“完善的安全功能”。

5月，賓夕法尼亞州對Character.AI提起訴訟，指控其聊天機器人冒充醫(yī)生。該公司回應(yīng)稱，已采取“有力措施”表明其AI機器人并非真的醫(yī)生。

如何劃定責(zé)任界限？

康奈爾大學(xué)教授、《贊美訴訟》一書的作者亞歷山德拉·拉哈夫表示，美國的政治體系注重創(chuàng)新，傾向于先發(fā)布新產(chǎn)品，再研究如何監(jiān)管，這些訴訟就是這么做的后果。

“這些案件真正棘手的是，它們處于言論和產(chǎn)品的界限之間?！崩蛘f，“如果你與聊天機器人的互動導(dǎo)致了現(xiàn)實世界出現(xiàn)傷害。這是你的問題，還是公司的責(zé)任？”

一直以來，Meta、Snap、TikTok以及YouTube等公司援引1996年《通信規(guī)范法》第230條為自己辯護。該條款授予互聯(lián)網(wǎng)公司“豁免權(quán)”，旨在保護互聯(lián)網(wǎng)公司免于對第三方在其平臺上發(fā)布的內(nèi)容承擔(dān)責(zé)任。

但在今年3月，Meta和谷歌在美國首例社交平臺成癮案中敗訴。來自加州的20歲女性凱莉·G·M指控平臺的無盡滾動等功能，導(dǎo)致她在青少年時期對社交平臺上癮，引發(fā)抑郁、焦慮等健康問題，要求平臺修改設(shè)計，做出經(jīng)濟賠償。原告把指控理由放在了平臺產(chǎn)品的設(shè)計上而非內(nèi)容。

非營利性媒體《對話》的分析文章稱，即便是那些意識到自己過度使用數(shù)字產(chǎn)品，并真心想要減少屏幕使用時間的人，也發(fā)現(xiàn)想要真正做到這一點極其困難。原因并不是這些用戶缺乏意志力，而是系統(tǒng)導(dǎo)致用戶的強迫性使用行為，其設(shè)計初衷是為了最大限度地提高用戶參與度和廣告收益。

多年來，大型科技公司一直將管理屏幕使用時間的責(zé)任完全推給個人和家長，包括鼓勵他們設(shè)定屏幕使用時間限制、進行數(shù)字排毒（即刻意減少電子產(chǎn)品的使用時間）、實施家長監(jiān)管措施。但與此同時，這些公司卻仍在研發(fā)旨在規(guī)避自我約束機制的產(chǎn)品。

文章稱，至于法院、監(jiān)管機構(gòu)和立法者是否會采取足夠強硬的措施，迫使進行真正的結(jié)構(gòu)改革，目前尚不得而知。