理性是激情的奴隸?！笮l(wèi)·休謨

324格的棋盤，一邊坐著李世石——當(dāng)世頂尖的棋手，另一邊是AlphaGo——號(hào)稱在挑戰(zhàn)人類智力極限的人工智能程序。這一幕被包裝得充滿了儀式感，好像是人類智慧與人工智能的終極對(duì)決，這場(chǎng)對(duì)決的結(jié)果可能意味著一個(gè)時(shí)代的開始或者另一個(gè)時(shí)代的結(jié)束。第一場(chǎng)，李世石就敗下陣來，似乎意味著電影《終結(jié)者》所描述的人類的宿命正離我們?cè)絹碓浇?。這一次，在對(duì)弈之外，人們普遍對(duì)于人工智能的未來產(chǎn)生了恐懼，計(jì)算機(jī)是否已經(jīng)可以比人類更加“聰明”了？有人疑惑，如果AlphaGo在對(duì)弈中的失誤是故意賣給李世石的破綻是否更加可怕？而事實(shí)上，這些擔(dān)心其實(shí)都沒有抓住人工智能相關(guān)科技倫理的癥結(jié)。

第一場(chǎng)賽前就有人問我，你覺得李世石和AlphaGo，誰能贏。我的回答是：不重要。大勢(shì)不可擋，即使這次李世石贏了，他也會(huì)在不久的將來被類似的人工智能擊敗。本次人機(jī)大戰(zhàn)充滿了各種噱頭，Google公司對(duì)它進(jìn)行了精心的商業(yè)炒作，這無疑是一則完美的軟廣告。它備受矚目由科技倫理而起：大家都想知道人工智能是否已經(jīng)可以戰(zhàn)勝人類智能，它到底預(yù)示著一個(gè)更加智能化的科技時(shí)代的到來，還是人類自掘墳?zāi)沟谋瘎∷廾拈_始。無論再多的人從圍棋的角度抑或人工智能算法的角度解讀這場(chǎng)對(duì)弈，大家都不得不承認(rèn)，這已經(jīng)不單單是一場(chǎng)圍棋比賽了。大家關(guān)心的不只是圍棋，而是李世石所代表的人類智慧是否真的要低頭了。但是大部分人并沒有意識(shí)到，這次人機(jī)對(duì)戰(zhàn)并沒有創(chuàng)造任何新的有關(guān)人工智能的科技倫理問題，只是大家不熟悉這些問題的癥結(jié)。

本次人機(jī)對(duì)戰(zhàn)，本質(zhì)上仍是人與人之間智慧的較量——一邊是李世石，一邊是AlphaGo團(tuán)隊(duì)。就像兩個(gè)人比賽伐木，一個(gè)人力大無窮卻沒有工具，但另一個(gè)人有刀斧。我們稱AlphGo為人工智能，而它實(shí)際上和人類發(fā)明的其他的工具并無本質(zhì)區(qū)別。從深藍(lán)到AlphaGo，人工智能的計(jì)算能力在不斷增強(qiáng)，分析網(wǎng)絡(luò)不斷復(fù)雜化，但他們卻仍然只是計(jì)算能力極強(qiáng)的工具，沒有成為我們想象中的“終結(jié)者”。大衛(wèi)·休謨告訴我們：理性是激情的奴隸?，F(xiàn)在的人工智能只有工具理性而不能隨機(jī)設(shè)定目標(biāo)，它至多是人類意志的一種延伸。而一種擁有隨機(jī)設(shè)定目標(biāo)的能力并擁有無比強(qiáng)大的分析計(jì)算能力以實(shí)現(xiàn)目的的智能，將是一種“上帝”式的存在。這種智能一旦存在，可能地球的文明形式確實(shí)要改寫。

兩個(gè)思想實(shí)驗(yàn)

關(guān)于能隨機(jī)設(shè)定目標(biāo)的人工智能是否能夠到來，涉及的論證太過復(fù)雜，在此只給讀者講兩個(gè)思想實(shí)驗(yàn)來解釋。

1950年，計(jì)算機(jī)之父圖靈發(fā)表了一篇題為《機(jī)器能夠思維嗎？》的論文，論文中設(shè)計(jì)了一種非常巧妙的檢測(cè)智能的方法：一個(gè)人在不接觸對(duì)方的情況下，通過某種特殊的方式，與對(duì)方進(jìn)行一系列的問答，如果最終他無法根據(jù)這些問題判斷出對(duì)方是人還是計(jì)算機(jī)，那么，就可以認(rèn)為這臺(tái)計(jì)算機(jī)具有與人相當(dāng)?shù)闹悄?。美?guó)著名心靈哲學(xué)家約翰·賽爾認(rèn)為這樣的判斷太過簡(jiǎn)單狹隘，他在1980年提出了著名的所謂“中文屋”的思想實(shí)驗(yàn)。該實(shí)驗(yàn)是這樣設(shè)計(jì)的：塞爾設(shè)想他只懂英文不懂中文，被關(guān)在一間屋子里。屋子里有各種各樣的紙片，上面有一些字符。通過屋子的窗口，屋外的中國(guó)人可以遞給他有中國(guó)字符的紙片提問，他也可以通過窗口把另外一些紙片遞出來“回答”。屋內(nèi)有一本英文的規(guī)則書告訴他怎樣為這些中文字符配對(duì)。于是屋外的中國(guó)人發(fā)現(xiàn)：屋內(nèi)人對(duì)于用中文提出的問題總能給出恰當(dāng)?shù)幕卮?，看起來似乎懂得中文。如此一來?u>賽爾就通過了圖靈測(cè)試，但他依然不懂中文。他所做的只是按照規(guī)則進(jìn)行形式的匹配。塞爾由此指出：“程序本身不能夠構(gòu)成心靈，程序的形式句法本身不能確保心智內(nèi)容的出現(xiàn)。”顯然，在賽爾眼中，任何計(jì)算機(jī)程序都是不具有理解力的，再復(fù)雜的程序本質(zhì)上都是在完成句法的設(shè)定，屋外的人錯(cuò)誤地認(rèn)為屋內(nèi)的人理解了中文，而屋內(nèi)的人僅僅是做了簡(jiǎn)單的符號(hào)對(duì)應(yīng)工作。計(jì)算機(jī)程序終究是沒有目標(biāo)的，有目標(biāo)的是“屋外”的人。

賽爾的思想實(shí)驗(yàn)很快遭遇了反駁。一個(gè)叫“發(fā)光屋”的思想實(shí)驗(yàn)應(yīng)運(yùn)而生：1864年麥克斯韋提出光的本質(zhì)是一種電磁波的理論，假如此時(shí)有人反對(duì)麥克斯韋的理論，要求他在一個(gè)漆黑的屋子里擺動(dòng)磁鐵棒，看看在漆黑的屋子里是否會(huì)有發(fā)光現(xiàn)象，麥克斯韋將無法反駁。后來我們知道，電磁棒搖擺頻率低于1015Hz的情況下，不足以產(chǎn)生發(fā)光現(xiàn)象，這并不是麥克斯韋錯(cuò)了，而是我們對(duì)于自然的認(rèn)識(shí)還不夠深入。我們不能靜止地看待人工智能，認(rèn)為它只是完成一些句法任務(wù)的工具。隨著這項(xiàng)技術(shù)的不斷發(fā)展，它遲早會(huì)超越人類現(xiàn)在的認(rèn)識(shí)局限，可能這項(xiàng)技術(shù)將發(fā)生革命性的變化，甚至人類在不經(jīng)意之間可能早就這種智能。對(duì)于“發(fā)光屋”思想實(shí)驗(yàn)，賽爾的反駁不能使我信服。

兩個(gè)思想實(shí)驗(yàn)引起了美國(guó)社會(huì)對(duì)于人工智能倫理的大討論，以《霹靂五號(hào)》、《終結(jié)者》等為代表的的一系列相關(guān)電影應(yīng)運(yùn)而生。前者溫情脈脈，認(rèn)為具有感情的機(jī)器和人具有相似的人格，可以類似少數(shù)族裔融入人類社會(huì)；后者就不那么樂觀了，認(rèn)為一旦打開了潘多拉魔盒，人類的“審判日”也就到來了。國(guó)人對(duì)于相關(guān)問題的認(rèn)識(shí)，也大多源于這幾部電影。

2012年，已經(jīng)80歲高齡的賽爾來到北大，我向他請(qǐng)教了關(guān)于“發(fā)光屋”實(shí)驗(yàn)的看法。他告訴我：其實(shí)類似“發(fā)光屋”實(shí)驗(yàn)的命題是基本不可反駁的，因?yàn)檎l也看不到幾百年后的世界，理論不斷被懷疑和反駁才有價(jià)值。他開了一個(gè)“牛頓實(shí)驗(yàn)”的玩笑：如果幾百年前有人對(duì)牛頓說，你的理論是有局限的，只不過要等幾百年后人類對(duì)于世界的認(rèn)識(shí)更加深入，你不覺得很可笑嗎？

的確，在我們現(xiàn)在的認(rèn)識(shí)局限內(nèi)，“終結(jié)者”還難以實(shí)現(xiàn)，但是這樣的倫理擔(dān)憂還是有必要的。

“終結(jié)者”何以實(shí)現(xiàn)

關(guān)于“真正的”人工智能將如何出現(xiàn)，學(xué)界當(dāng)然會(huì)給出各種各樣的預(yù)言。英國(guó)物理學(xué)家彭羅斯的理論被廣泛推崇。不同于哲學(xué)家、心理學(xué)家和生物學(xué)家，物理學(xué)家提出的認(rèn)識(shí)理論似乎是在計(jì)算機(jī)領(lǐng)域更易實(shí)踐的。

我們還是講故事。當(dāng)一個(gè)人接受全身麻醉之后，他會(huì)在一段時(shí)間之內(nèi)喪失意識(shí)，這似乎可以證明意識(shí)是一種可以通過廣義的物理方法阻斷的生理過程。既然如此，我們可以認(rèn)為意識(shí)的本質(zhì)就是一個(gè)廣義物理過程。彭羅斯試圖用量子理論還原這一過程。這個(gè)時(shí)代，無論多快的計(jì)算機(jī)都在進(jìn)行二進(jìn)制計(jì)算，這完全是建立在經(jīng)典物理學(xué)理論基礎(chǔ)上的。彭羅斯認(rèn)為，人腦顯然不可能按這種簡(jiǎn)單的經(jīng)典計(jì)算方式來處理信息。那么，人腦只能靠更深一層次的物理學(xué)，即量子力學(xué)來處理信息，產(chǎn)生意識(shí)。簡(jiǎn)而言之，人腦是一臺(tái)量子計(jì)算機(jī)。彭羅斯隨后和神經(jīng)學(xué)家哈梅羅夫合作，提出了所謂Orch-OR理論，認(rèn)為人腦中能夠產(chǎn)生量子計(jì)算的單元是神經(jīng)細(xì)胞的微管，因?yàn)槭羌{米尺度的蛋白質(zhì)結(jié)構(gòu)，量子效應(yīng)顯著。他們甚至認(rèn)為，這可以解釋何為“靈魂”：心臟停止跳動(dòng)，血液停止流動(dòng)，微管失去了它們的量子態(tài)，但微管內(nèi)的量子信息并沒有遭到破壞，也無法被破壞，離開肉體后重新回到宇宙。如果患者蘇醒過來，這種量子信息又會(huì)重新回到微管，患者會(huì)說‘我體驗(yàn)了一次瀕死經(jīng)歷’。如果沒有蘇醒過來，患者便會(huì)死亡，這種量子信息將存在于肉體外，以靈魂的形式。

盡管這一理論一經(jīng)出世就遭遇了大量質(zhì)疑，但隨著量子信息學(xué)的發(fā)展，意識(shí)起源于人腦的量子計(jì)算這個(gè)未經(jīng)證實(shí)的假說逐漸潛移默化到了很多領(lǐng)域。也就意味著如果這個(gè)假說正確，量子計(jì)算機(jī)可以完美模擬人腦。如《變形金剛》之類的好萊塢的科幻電影，在提到真正人工智能時(shí)都會(huì)用到“量子”這個(gè)詞。最近一些機(jī)器人影片也在熱炒這個(gè)概念。當(dāng)然，谷歌這樣的科技公司更不會(huì)放過量子計(jì)算機(jī)這個(gè)噱頭。

一大批科技企業(yè)熱衷于量子計(jì)算的概念。但至少在當(dāng)前階段，還沒有經(jīng)典算法不能轉(zhuǎn)化的量子算法。也就是說：如果有一個(gè)量子算法能夠產(chǎn)生人類的意識(shí)，也一定存在一個(gè)模擬人類意識(shí)的經(jīng)典算法，反之亦然?？此埔磺卸际强萍冀绲膭?dòng)人外包裝。

當(dāng)然，人工智能的力量還很弱小，它再理性也必須接受人類的意志。機(jī)器，依然是人類的奴隸。倫理學(xué)家擔(dān)心的是，一切是否一定會(huì)在人類控制之下。須知，人類在其他科研領(lǐng)域經(jīng)常有種花得柳的表現(xiàn)：我們想制造一種對(duì)抗心臟病的新藥，但最終這種新藥成為了萬艾可。我們當(dāng)然不希望創(chuàng)造一個(gè)我們不能控制的怪物，而這個(gè)怪物會(huì)不會(huì)降臨我們確實(shí)不得而知。因而，各國(guó)的人工智能倫理研究所紛紛成立，對(duì)于相關(guān)研究的界限也有待劃清。

我們的科技觀

在我們的語境下，“科學(xué)”往往是個(gè)褒義詞。“科學(xué)規(guī)劃”、“科學(xué)治理”這樣的字眼常常被寫入政策性文件，我們也并未覺得這有何不妥。本質(zhì)上，這是一個(gè)從前現(xiàn)代到現(xiàn)代過度的國(guó)家對(duì)于現(xiàn)代性的一種崇拜。

我們崇拜科學(xué)，因?yàn)樗哂懈脑熳匀煌苿?dòng)生產(chǎn)力發(fā)展的偉大力量。但我們中的大多數(shù)卻還沒能建立科學(xué)本身所蘊(yùn)含的理性思維方式。只有足夠理性并了解科學(xué)才能對(duì)科學(xué)形成反思。

與人工智能影響力類似的科技倫理問題還有很多。比如基因改造。我們可以通過檢測(cè)發(fā)現(xiàn)一些可以造成先天性疾病的基因，并把受精卵中的相應(yīng)基因置換掉。看似是功德一件的好事，但是如果沒有倫理約束會(huì)變得非常可怕：如果我們認(rèn)為其他的基因也不夠完美需要置換呢？走到極端，我們會(huì)創(chuàng)造身高相貌智力都無比優(yōu)越的人，這樣的人走到社會(huì)上會(huì)對(duì)其他人形成壓倒性的競(jìng)爭(zhēng)優(yōu)勢(shì)。于是不服氣的父母?jìng)儠?huì)把試管定為每個(gè)嬰兒的起跑線。長(zhǎng)此以往，會(huì)有太多具有類似“優(yōu)勢(shì)基因”的人來到這個(gè)世界上。他們太像了，就像工廠的產(chǎn)物一樣，他們會(huì)破壞這個(gè)因多樣而美好的世界。類似對(duì)于科技的反思往往智能因出現(xiàn)在好萊塢電影里被我們所知。我們習(xí)慣性地功利化看待科技，而“科學(xué)文化”卻難以形成。中國(guó)人并非不對(duì)科學(xué)進(jìn)行反思——往往學(xué)者們的討論很熱烈，但觀點(diǎn)往往難以走出校門。

這些反思并非只屬于小部分人。人工智能的長(zhǎng)足進(jìn)步必然引發(fā)大量工作崗位的消失，如果把它看成一個(gè)必然的歷史過程，那么這一歷史過程會(huì)極為殘酷，甚至造成劇烈的社會(huì)動(dòng)蕩。不止是低端腦力工作行業(yè)，法務(wù)、金融、醫(yī)療這些高端服務(wù)行業(yè)的大量工作機(jī)會(huì)都將消失。如果對(duì)此沒有清醒的認(rèn)識(shí)，沒有相應(yīng)的政策早作計(jì)劃和應(yīng)對(duì)，結(jié)果將是災(zāi)難性的。

科學(xué)崇拜背后，是一種傲慢的現(xiàn)代性。我們實(shí)際上已經(jīng)在品嘗這種現(xiàn)代性帶來的苦果：重度污染、產(chǎn)能過剩都是它的具體體現(xiàn)。有人說，這是每個(gè)國(guó)家從現(xiàn)代走向后現(xiàn)代必須經(jīng)歷的過程，都要痛過，才能學(xué)會(huì)反思。我們正在痛著，但是真的在反思嗎？

對(duì)于科技，不只是決策者，每個(gè)人的思考都應(yīng)當(dāng)更為立體?？萍疾⒎强萍急旧?，它一經(jīng)出世就已經(jīng)離不開與社會(huì)的互動(dòng)。希望這次人機(jī)大戰(zhàn)能夠引發(fā)足夠多的討論，為全民上一場(chǎng)科技倫理教育課。人類應(yīng)該更加理性地使用自己的“激情”，不是嗎？