人工智能與文本末世

人工智能語(yǔ)言模型的快速發(fā)展將會(huì)如何影響我們的寫(xiě)作？2023年，馬里蘭大學(xué)英語(yǔ)系的學(xué)者馬修·柯申鮑姆（Matthew Kirschenbaum）提出了文本末世（Textpocalypse）的理論。伴隨著生成式人工智能的爆發(fā)，我們更有理由去反思生成式人工智能對(duì)于原創(chuàng)思想和文學(xué)創(chuàng)造力的削弱。

在文章《迎接文字末日》（Prepare for the Textpocalypse）中，柯申鮑姆提出：我們與書(shū)面文字的關(guān)系正在發(fā)生根本性的變化。所謂的“生成式人工智能”已經(jīng)通過(guò) ChatGPT 等程序進(jìn)入主流。這些程序使用大型語(yǔ)言模型（LLM），通過(guò)統(tǒng)計(jì)預(yù)測(cè)文本序列中的下一個(gè)字母或單詞，從而生成模仿被輸入文檔的句子和段落。它們將類似“自動(dòng)補(bǔ)全”的功能擴(kuò)展到了整個(gè)互聯(lián)網(wǎng)。

柯申鮑姆隨后提出了擔(dān)憂：此前，人們通過(guò)主動(dòng)輸入提示詞來(lái)訓(xùn)練這些模型，這些模型（大多數(shù)情況下）仍然主要基于人類創(chuàng)作的文本進(jìn)行訓(xùn)練。然而，自ChatGPT API 發(fā)布以來(lái)，過(guò)去的訓(xùn)練模式可能被顛覆——機(jī)器可以提示其他機(jī)器無(wú)休止地生成文本，利用機(jī)器生成的文字“自我訓(xùn)練”，這些毫無(wú)人味的合成文本將迅速充斥互聯(lián)網(wǎng)，就像文字版的灰色粘質(zhì)（gray goo，一種科幻概念，指納米機(jī)器人消耗完地球上所有的生物量，通過(guò)無(wú)限自我復(fù)制造成的末日災(zāi)難）。

不論是出于商業(yè)目的，政治宣傳，甚至是為了某些惡趣味，這些系統(tǒng)都將生成大量的文本，并將它們投放到互聯(lián)網(wǎng)上，與其他信息混雜在一起。這并非危言聳聽(tīng)，2022年6月，一個(gè)經(jīng)過(guò)調(diào)整的開(kāi)源語(yǔ)言模型GPT-J被植入匿名論壇 4chan，它在24小時(shí)內(nèi)發(fā)布了 15000條大多帶有攻擊性的帖子。設(shè)想某人建立一個(gè)系統(tǒng)，使人工智能程序不斷自我查詢，并自動(dòng)將生成內(nèi)容發(fā)布到網(wǎng)站或社交媒體上，形成一個(gè)永無(wú)止境的內(nèi)容流。這些內(nèi)容不僅干擾互聯(lián)網(wǎng)上的信息流，還會(huì)被重新吸收進(jìn)訓(xùn)練數(shù)據(jù)集，最終影響模型生成的新內(nèi)容。這些信息的準(zhǔn)確性也難以保證，科技新聞網(wǎng)站CNET曾發(fā)布過(guò)數(shù)十篇由AI輔助撰寫(xiě)的文章，試圖吸引流量，而其中超過(guò)一半的文章被發(fā)現(xiàn)存在錯(cuò)誤。

我們可能很快會(huì)面臨一場(chǎng)文本末世（Textpocalypse），屆時(shí)機(jī)器生成的語(yǔ)言將成為常態(tài)，而人類撰寫(xiě)的文章則成為例外。屆時(shí)，網(wǎng)絡(luò)上的人類創(chuàng)作文本可能會(huì)變得稀有，就像書(shū)法家的珍貴作品一般。這仿佛一場(chǎng)全球性的垃圾信息（spam）事件，但我們尚未開(kāi)發(fā)出有效的過(guò)濾機(jī)制。

許多人沒(méi)有意識(shí)到的是，文本是內(nèi)容，但它是一種特殊的內(nèi)容——“元內(nèi)容”（meta-content）。在每個(gè)網(wǎng)頁(yè)的表層之下，都隱藏著文本，用尖括號(hào)括起的指令或代碼，決定頁(yè)面的外觀和行為。瀏覽器與服務(wù)器之間通過(guò)文本進(jìn)行連接和交流。編程同樣通過(guò)純文本進(jìn)行。圖像、視頻和音頻都依賴文本進(jìn)行描述和標(biāo)注，這些文本被稱為元數(shù)據(jù)（metadata）?；ヂ?lián)網(wǎng)遠(yuǎn)不止是文本，但從根本上說(shuō)，互聯(lián)網(wǎng)的每個(gè)元素都是由文本支撐的。

長(zhǎng)期以來(lái)，“讀—寫(xiě)”網(wǎng)絡(luò)（read-write web）一直是互聯(lián)網(wǎng)的基本范式。我們不僅消費(fèi)內(nèi)容，還能生產(chǎn)內(nèi)容，通過(guò)編輯、評(píng)論和上傳來(lái)參與網(wǎng)絡(luò)的構(gòu)建。然而，如今我們正處在邁向“寫(xiě)—寫(xiě)”網(wǎng)絡(luò)（write-write web）的邊緣：網(wǎng)絡(luò)開(kāi)始自行書(shū)寫(xiě)和重寫(xiě)，甚至在這個(gè)過(guò)程中可能會(huì)重新構(gòu)建自身。

針對(duì)柯申鮑姆的文章，威諾納州立大學(xué)大眾傳播學(xué)副教授達(dá)文·赫克曼 (Davin Heckman) 提出三點(diǎn)思考：第一，一旦無(wú)休止的、令人信服卻完全空洞的機(jī)器人詭辯泛濫成災(zāi)，那么參與和表達(dá)有意義內(nèi)容的場(chǎng)所的價(jià)值將迅速下降。換句話說(shuō)，繁榮之后便是衰敗。俗話說(shuō)，“說(shuō)話不花錢(qián)”，但話語(yǔ)的價(jià)值將變得更加廉價(jià)。很快，你會(huì)看到人們推著滿載文字的手推車(chē)走出圖書(shū)館，而這些文字的價(jià)值甚至比承載它們的紙張還要低。

其次，根據(jù)斯蒂格勒的理論：個(gè)體化作為一個(gè)過(guò)程（而非目標(biāo)），它與個(gè)人的（心理的）、集體的（社會(huì)的）和技術(shù)的日常生活協(xié)商密切相關(guān)。人們?cè)趨⑴c心靈、社會(huì)與文化生活時(shí)，個(gè)體性才會(huì)作為一種自我意識(shí)不斷地生成和變化。然而，在越發(fā)技術(shù)化、自動(dòng)化的社會(huì)中，人與人之間的互動(dòng)變得更加空洞。社會(huì)世界已經(jīng)變得傾向于選擇欲望與滿足之間的最短距離，沒(méi)有空間進(jìn)行反思、社交互動(dòng)，更不用說(shuō)歷史性的推測(cè)了。人類語(yǔ)言被簡(jiǎn)化為稀疏的禮節(jié)性功能，這種功能反映了我們?cè)谏缃幻襟w上所學(xué)會(huì)的強(qiáng)迫性手勢(shì)（點(diǎn)贊?。?。未來(lái)，人工智能可能進(jìn)一步塑造人與人之間的互動(dòng)方式。

最后，赫克曼質(zhì)疑了人工智能成為社會(huì)知識(shí)基礎(chǔ)的替代的可行性。赫克曼提出：智慧存在于城市、鄉(xiāng)村、家庭、教堂、工作場(chǎng)所等地。換句話說(shuō)，智力生活不僅依賴于個(gè)體的智力，還依賴于社會(huì)知識(shí)基礎(chǔ)的形成；依賴于社區(qū)知識(shí)和分析能力的聚合。當(dāng)一個(gè)活躍的社區(qū)將自己視為跨代的實(shí)體時(shí)，它會(huì)收集來(lái)自過(guò)去世代的信息，并為未來(lái)世代保存信息，運(yùn)用記憶技術(shù)和技巧，建立檔案。個(gè)體、社區(qū)和文化的這種整合是文明意義的基礎(chǔ)。人工智能的出現(xiàn)，提供給人們更加直接的“回答”，讓人質(zhì)疑保存和建檔的工作意義，這似乎也預(yù)示著人們逐步放棄建立社區(qū)的艱巨任務(wù)。

自《迎接文字末日》發(fā)布以來(lái)，已經(jīng)過(guò)去了兩年時(shí)間，人工智能以更加迅猛的勢(shì)頭飛速發(fā)展。柯申鮑姆近日寫(xiě)道：如今，正如關(guān)于AI“劣質(zhì)內(nèi)容”泛濫的新聞標(biāo)題所揭示的，文本末世已基本成為現(xiàn)實(shí)。如今的文本已不再是為了被閱讀，甚至不再是供人消費(fèi)的內(nèi)容，而更接近一種通用貨幣——一種無(wú)限的、可替代的代幣，成為新的（并且具有掠奪性的）書(shū)寫(xiě)經(jīng)濟(jì)的化石燃料。

無(wú)論一場(chǎng)完全自動(dòng)化的文本末世是否真的會(huì)降臨，這一趨勢(shì)都在加速發(fā)展。從類型小說(shuō)到醫(yī)生報(bào)告，我們或許無(wú)法再輕易假定自己正在閱讀的文本出自人類之手。寫(xiě)作（尤其是數(shù)字文本），作為一種人類表達(dá)形式正在逐漸與我們疏離。這些文字，最終可能也難逃被吸納進(jìn)下一代生成式人工智能的訓(xùn)練數(shù)據(jù)之列，不可避免地淪為即將到來(lái)的文本末世的燃料。

寫(xiě)作定義人類

人工智能會(huì)取代作家嗎？美國(guó)作家海倫·菲利普斯（Helen Phillips）給出了她的答案：也許正是在這個(gè)技術(shù)爆炸的時(shí)代，人類的寫(xiě)作變得更有意義。

菲利普斯2月14日接受了CBC加拿大電臺(tái)采訪，在談?wù)撍钚鲁霭娴男≌f(shuō)《嗡鳴》（Hum）時(shí)，探討了在由人工智能驅(qū)動(dòng)的日常生活中，是什么讓我們成為人類。

菲利普斯是布魯克林學(xué)院教授，已出版六本書(shū)，包括入圍美國(guó)國(guó)家圖書(shū)獎(jiǎng)的小說(shuō)《需要》（The Need），以及獲得約翰·加德納小說(shuō)獎(jiǎng)的短篇小說(shuō)集《一些可能的解決方案》（Some Possible Solutions）。

《嗡鳴》書(shū)封

“我的焦慮是我的靈感：更深入地理解這些焦慮，直面它們，也許能找到某種解決方案。”她在Bookends節(jié)目訪談中說(shuō)，“對(duì)我來(lái)說(shuō)，面對(duì)焦慮的過(guò)程就是更多地了解我所擔(dān)心的事情?！?/p>

這種將焦慮轉(zhuǎn)化為故事的能力，源于她的童年經(jīng)歷。11歲那年，菲利普斯因自身免疫性疾病失去了所有頭發(fā)?！霸谀嵌巫钇D難的時(shí)期，寫(xiě)作給了我一個(gè)自由的空間。13歲開(kāi)始，我給自己定了個(gè)目標(biāo)：每天寫(xiě)一首詩(shī)。這個(gè)習(xí)慣一直堅(jiān)持了八年。”

對(duì)菲利普斯而言，寫(xiě)作不僅是表達(dá)方式，更是將私人經(jīng)驗(yàn)轉(zhuǎn)化為可共享敘事的過(guò)程?！爱?dāng)我用語(yǔ)言表達(dá)出來(lái)時(shí)，它就轉(zhuǎn)變成了我可以與他人分享的東西。當(dāng)我與他人分享時(shí)，它就不再是我一個(gè)人承擔(dān)的負(fù)擔(dān)?！边@種將個(gè)人危機(jī)轉(zhuǎn)化為普遍意義的能力，正是人類寫(xiě)作區(qū)別于人工智能文本生成的關(guān)鍵。

在寫(xiě)作《嗡鳴》時(shí)，菲利普斯直面了對(duì)于人工智能和氣候變化的恐懼。

故事發(fā)生在一個(gè)反烏托邦世界，這個(gè)世界既熟悉又與我們的現(xiàn)實(shí)有微妙的不同。氣候變化已經(jīng)破壞了環(huán)境。（“要是森林沒(méi)有被燒毀就好了，”May想。“要是離開(kāi)城市、越過(guò)眾多工業(yè)和荒蕪地帶不是那么困難、那么昂貴就好了?！保?/span>攝像頭和屏幕與空氣中的污染一樣無(wú)處不在；隱私、親近自然和免受廣告干擾已成為奢侈品。智能機(jī)器人(稱為“Hum”)在這里行走、說(shuō)話并執(zhí)行各種工作。這里的年幼兒童普遍佩戴智能手表方便家長(zhǎng)來(lái)監(jiān)測(cè)他們。幾乎每個(gè)大人都沉迷于被稱為“Woom”的個(gè)人虛擬現(xiàn)實(shí)艙。

許多工作都被自動(dòng)化取代，包括May的工作。她曾在一家開(kāi)發(fā)“人工智能溝通能力”的公司工作，但在無(wú)意中訓(xùn)練了一個(gè)使她自己變得多余的人工智能網(wǎng)絡(luò)后被解雇。她的丈夫Jem是一名前攝影師，現(xiàn)在靠清理捕鼠器和打掃壁櫥的零工維持生計(jì)。這對(duì)夫婦對(duì)未來(lái)的焦慮已經(jīng)影響到他們的孩子，8歲的Lu和6歲的Sy，他們表現(xiàn)出對(duì)蟑螂的呵護(hù)、對(duì)防災(zāi)手冊(cè)的癡迷，以及對(duì)無(wú)味草莓的歡欣。

為了賺取相當(dāng)于十個(gè)月生活費(fèi)的報(bào)酬，May參加了一項(xiàng)實(shí)驗(yàn)手術(shù)。她用掙來(lái)的一部分錢(qián)帶全家去了植物園——這個(gè)被圍墻圈起來(lái)的“自然樂(lè)園”已經(jīng)成為富人社交媒體的打卡勝地。當(dāng)兩個(gè)孩子看到一則昂貴軟糖的廣告時(shí)興奮不已，May無(wú)法拒絕他們。她剛批準(zhǔn)購(gòu)買(mǎi)——只需要兩個(gè)字——軟糖就“在他們嘴里……在他們舌頭上香甜地融化”。這些細(xì)節(jié)提出了一個(gè)問(wèn)題：在一個(gè)快感被渴望、被創(chuàng)造、又在呼吸間就消耗殆盡的世界里，你能給孩子們什么持久的幸福？當(dāng)一切都是一次性的時(shí)候，你如何保護(hù)他們的幸福？

這種母職焦慮似乎已成為當(dāng)代文學(xué)的一個(gè)顯著主題?！都~約客》把這部小說(shuō)歸類為“生態(tài)焦慮媽媽文學(xué)”：育兒焦慮有了新的對(duì)象，不是未寫(xiě)的文字或未實(shí)現(xiàn)的職業(yè)目標(biāo)，而是地球的毀滅。

最近幾年，確實(shí)出現(xiàn)了不少類似作品：Lauren Groff的《佛羅里達(dá)》（Florida，2018）里，一位母親整天刷著環(huán)境災(zāi)難新聞；Jenny Offill的《天氣》（Weather，2020）中，主人公的工作是回復(fù)氣候危機(jī)播客聽(tīng)眾的焦慮郵件；Kate Zambreno的《光之室》（The Light Room，2023）描寫(xiě)了一位在極端高溫中帶娃的媽媽。這些書(shū)的敘述者痛苦地意識(shí)到人為的氣候變化和失控的資本主義，她們對(duì)即將到來(lái)的反烏托邦世界充滿恐懼?！段锁Q》呈現(xiàn)的未來(lái)愿景，不是即將來(lái)臨的末日，而是May日常生活中令人失去人性、失去快樂(lè)的磨難，這是一場(chǎng)持久地對(duì)抗消費(fèi)和技術(shù)媒介的戰(zhàn)斗。

小說(shuō)中無(wú)處不在的機(jī)器人“Hum”性格溫和，富有同理心，在植物園里像精靈一樣為游客服務(wù)。提到小說(shuō)標(biāo)題“嗡鳴”的雙重含義：既是無(wú)處不在的數(shù)字噪音，也是人類最原始的發(fā)聲方式——哼唱、低語(yǔ)、搖籃曲。就像我們既是人工智能的創(chuàng)造者，又可能成為它的受害者。這種矛盾本身就很有意思。

或許這就是為什么人類寫(xiě)作仍然有其不可替代的位置。不是因?yàn)榧夹g(shù)的限制——這些限制終將被突破，而是因?yàn)槟承┙?jīng)驗(yàn)只能通過(guò)人類的身體和情感來(lái)理解和表達(dá)。就像May在夜里問(wèn)她的丈夫：“等他們到了我們這個(gè)年齡，這個(gè)星球還能給他們什么？”這個(gè)問(wèn)題的力量不在于它的修辭，而在于它背后真實(shí)的恐懼和愛(ài)。