- +1
專訪趙汀陽:只要不具反思能力,人工智能就不會(huì)失控
著名哲學(xué)家趙汀陽新作《四種分叉》近期由華東師范大學(xué)出版社出版?!胺植妗苯栌昧瞬柡账剐≌f《小徑分叉的花園》的用語,描述了一張包含一切可能性的多維時(shí)間之網(wǎng),無窮分叉生成無數(shù)未來。在本書中,趙汀陽討論了時(shí)間的無窮分叉狀態(tài)、人類意識(shí)的起源、有軌電車悖論和超級(jí)人工智能四個(gè)關(guān)于“可能性”的分叉問題?!爱?dāng)代”何以成為一個(gè)“創(chuàng)世”時(shí)刻?人類的思想、哲學(xué)與文明,統(tǒng)統(tǒng)都建基在一個(gè)詞語之上?倫理學(xué)發(fā)展到現(xiàn)代如何作繭自縛?超級(jí)人工智能帶來的是人類的進(jìn)步,還是毀滅?這些都是一個(gè)哲學(xué)家對(duì)這個(gè)世界的深沉追問。近日,澎湃新聞就《四種分叉》對(duì)趙汀陽進(jìn)行了專訪。

時(shí)間:當(dāng)代性標(biāo)示了在時(shí)間中面臨一個(gè)存在臨界點(diǎn)的狀態(tài)
澎湃新聞:《四種分叉》的第一個(gè)分叉討論的是時(shí)間,您論述了時(shí)間的無窮分叉狀態(tài),過去因?yàn)椴煌臄⑹鲁蔀閺?fù)數(shù)的歷史,將來因?yàn)椴煌倪x擇成為了復(fù)數(shù)的未來,歷史與未來向此刻雙向匯集過來,“當(dāng)代”成為唯一沒有時(shí)間分叉的點(diǎn)。而您認(rèn)為“當(dāng)代性”并非時(shí)間屬性,而是一個(gè)存在狀態(tài),該如何理解?
趙汀陽:“當(dāng)代的”(contemporary)詞義是人或事件與時(shí)間的同步關(guān)系。顯然,當(dāng)代性(contemporariness)就是這種與時(shí)間同步關(guān)系的性質(zhì),而不是時(shí)間性(temporality)的性質(zhì)。存在總是在時(shí)間中存在,因此,與時(shí)間的某種關(guān)系就是存在的某種狀態(tài)(可以想想海德格爾的書名《存在與時(shí)間》的深意)。在當(dāng)代性的基本詞義基礎(chǔ)上,根據(jù)不同的問題和理論語境,可以有多種進(jìn)一步的含義伸延。我的討論也是對(duì)當(dāng)代性概念的一種含義伸延。
當(dāng)代性標(biāo)示了在時(shí)間中面臨一個(gè)存在臨界點(diǎn)的狀態(tài),即必須著手于生成某種未來的猶豫狀態(tài),稱為“存在論的猶豫”。理由是,在現(xiàn)時(shí)中,或者說在此時(shí)中,面對(duì)未來性所展開的由許多可能性所構(gòu)成的“時(shí)間分叉”(博爾赫斯用語),卻又無法證明哪一種可能性是更可取的,因此進(jìn)入一種超越了知識(shí)論的困惑,所以是“存在論的猶豫”。這里的要點(diǎn)是,必然性在此缺席,每一條路徑都只是可能性,既找不到歷史必然規(guī)律也看不見歷史的目的(或終點(diǎn)),于是就形成了時(shí)間、存在、自由三者同一的存在論境地。為什么這種境地是猶豫?因?yàn)楸厝灰?guī)律、先知、教師、榜樣和目的地都不在場(chǎng),甚至不存在,那么,這種猶豫就不再是挑三揀四、斤斤計(jì)較的得失猶豫,而是一種在存在論水平上相當(dāng)于“何以創(chuàng)世”的創(chuàng)作猶豫。
澎湃新聞:您在思考當(dāng)代性的時(shí)候,將它與現(xiàn)代性做了區(qū)分,認(rèn)為兩者存在相關(guān)又相背的關(guān)系。您能展開講講,現(xiàn)代性如何影響我們對(duì)于時(shí)間的認(rèn)知,以及我們對(duì)當(dāng)代性或生活現(xiàn)實(shí)的理解?
趙汀陽:當(dāng)代性與現(xiàn)代性并不是同一個(gè)層次上的問題,也不是同一個(gè)系列里的概念。當(dāng)代性不是現(xiàn)代性之后的新時(shí)段,后現(xiàn)代才是現(xiàn)代性的后繼。當(dāng)代性是個(gè)哲學(xué)概念,是一個(gè)關(guān)于存在狀態(tài)的概念,而現(xiàn)代才是個(gè)歷史分期概念,通常指1500左右至今的歷史階段,也有人把1968之后歸為后現(xiàn)代。前現(xiàn)代、現(xiàn)代和后現(xiàn)代的歷史階段劃分是歐洲人基于歐洲歷史變遷事實(shí)的一種理解,這種時(shí)段劃分與世界上其它地方的歷史變遷并不吻合,最好不要混為一談。不過,世界各地的歷史變遷節(jié)奏正在變得越來越步調(diào)一致,這是全球化的結(jié)果。
歐洲的現(xiàn)代性觀念確實(shí)改變了歐洲對(duì)時(shí)間的歷史理解。古希臘主要是時(shí)間-歷史的循環(huán)觀;基督教建立了線性的時(shí)間-歷史觀,線性的歷史進(jìn)程有個(gè)終點(diǎn);現(xiàn)代的時(shí)間-歷史觀部分地繼承了基督教的線性觀點(diǎn),但有根本變化,最重要的變化是把基督教的“等待”替換為“進(jìn)步”,于是,在歷史終結(jié)之前每一步不再是除了等待就別無意義的過程,而成為具有決定性意義的主動(dòng)進(jìn)展,于是,現(xiàn)時(shí)(the present)就變成最具意義的核心時(shí)刻,因此,現(xiàn)代性的觀念總是以現(xiàn)時(shí)為核心的現(xiàn)時(shí)主義。

意識(shí):反思自身系統(tǒng)是人的最高級(jí)能力
澎湃新聞:第二個(gè)分叉討論的是意識(shí)。您認(rèn)為,以往的形而上學(xué)大都談?wù)摗笆恰?,但?shí)際上使人區(qū)別于動(dòng)物、讓意識(shí)轉(zhuǎn)變?yōu)樗枷氲年P(guān)鍵在于“反思”,而作為反思基礎(chǔ)的否定詞——“不”是“第一個(gè)哲學(xué)詞匯”,也就是說,一個(gè)“不”字,啟動(dòng)了人類的思想、哲學(xué)乃至文明。從“是”生出“不”,與老子想象的世界生成之道是同構(gòu)的:“一生二,二生三,三生萬物?!边@種論述容易讓人聯(lián)想到二進(jìn)制,1和0的無窮組合構(gòu)成了浩渺的計(jì)算機(jī)世界,那么我們是否能夠認(rèn)為,人的思想與計(jì)算機(jī)具有共同的起源與底層架構(gòu)?如果不是,區(qū)別在哪?
趙汀陽:我想,更準(zhǔn)確的說法應(yīng)該是,計(jì)算機(jī)的思維是人的思維的一部分,是由人的思維派生出來的一種特殊算法系統(tǒng)。既然兩者之間是父子關(guān)系,當(dāng)然就是一致的,而由于計(jì)算機(jī)思維只是人的思維的一部分,當(dāng)然也就只是部分相似。計(jì)算機(jī)思維在本質(zhì)上就是人的邏輯和數(shù)學(xué)思維,不過,目前的一些新進(jìn)展似乎試圖讓計(jì)算機(jī)具備人的其它思維能力,比如自由聯(lián)想、感知、學(xué)習(xí)甚至想象力之類,如果成功的話,那就越來越像人了。根本的差異在于,目前的計(jì)算機(jī)思維不可能對(duì)自身系統(tǒng)的整體性進(jìn)行反思。反思自身系統(tǒng)是人的最高級(jí)能力。
倫理:一些倫理兩難是通過把不等式定義為等式造成的
澎湃新聞:第三個(gè)分叉討論的是倫理,您利用著名的有軌電車悖論展開論述。您認(rèn)為,倫理學(xué)本來的目的是幫助人們構(gòu)筑完整的生活,但有軌電車這種倫理困局被理解為不可解決的道德悖論,事實(shí)上等于拒絕了關(guān)于共同命運(yùn)的思考,反而成為一種分裂的力量。很多倫理學(xué)發(fā)展到現(xiàn)代變成了作繭自縛,以至于把一些本來并非悖論的問題轉(zhuǎn)化為了悖論,是什么生成或者誘發(fā)了這種“作繭自縛”?
趙汀陽:關(guān)于倫理分叉的討論是本書中相對(duì)最小的一個(gè)問題,也相對(duì)最簡(jiǎn)單。如果一個(gè)系統(tǒng)只有單一價(jià)值觀,原則上就不應(yīng)該出現(xiàn)矛盾或悖論,比如說,邏輯和數(shù)學(xué)系統(tǒng)只使用真值(真或假)為其單一價(jià)值觀。即使如此,數(shù)學(xué)在特殊的反思條件下也會(huì)遇到難以解釋的問題。如果一個(gè)系統(tǒng)具有多樣價(jià)值觀,比如說人類生活系統(tǒng)就具有多樣價(jià)值觀,那就必定會(huì)產(chǎn)生許多矛盾、悖論或兩難。就目前熟知的人類價(jià)值系統(tǒng)而言,公正(justice)、自由、平等、公平(fairness)、博愛、善良、仁義、誠實(shí)等等價(jià)值之間就存在著大量的矛盾或兩難,不可能同時(shí)得到滿足。這是不可能解決的問題,因?yàn)槟切┗緝r(jià)值都是同等重要的價(jià)值,難以形成理性排序。因此,這些價(jià)值之間的矛盾或兩難就是人類必須接受的命運(yùn)。
但有一些所謂的倫理兩難其實(shí)是通過把某種不等式不合邏輯地定義為等式而造成的,有軌電車兩難就是一個(gè)典型,它把“5條人命大于1條人命”的不等式改為“5條人命等值于1條人命”的等式。這種難題基于一個(gè)自我中心的無理假定:一個(gè)人的生命價(jià)值無窮大,所以等價(jià)于無數(shù)人的生命價(jià)值。這個(gè)等式在邏輯上是錯(cuò)誤的。假如這種等式是對(duì)的,那么,“一句等于一萬句”就也是對(duì)的。由此不難看出其中的危險(xiǎn)性。正如真理越界多走一步就變成謬誤,人道主義越界多走一步就會(huì)變成反人道主義。
智能:人工智能會(huì)帶來全人類解放還是叢林戰(zhàn)爭(zhēng)?
澎湃新聞:第四個(gè)分叉討論的是智能,似乎前面三個(gè)分叉都是為智能的分叉做鋪墊,有點(diǎn)圖窮匕見的意思。人工智能本來似乎是一個(gè)科學(xué)上的專業(yè)問題,但現(xiàn)在有越來越多的人文學(xué)者介入到這一問題并產(chǎn)生廣泛影響,乃至占據(jù)了舞臺(tái)中心,比如《未來簡(jiǎn)史》的作者赫拉利。您覺得人文學(xué)者思考人工智能的優(yōu)勢(shì)何在?
趙汀陽:恐怕無法籠統(tǒng)地談?wù)撊宋膶W(xué)者,因?yàn)槊恳粋€(gè)人文學(xué)者都是不一樣的。也許只能說,假如一個(gè)人文學(xué)者能夠確實(shí)做到尊重科學(xué)和邏輯的話,那么,其人文角度的反思或許有助于科學(xué)家慎重考慮人工智能的發(fā)展限度問題。
澎湃新聞:您對(duì)人工智能的未來持一個(gè)相對(duì)不樂觀的態(tài)度,霍金、比爾·蓋茨等人也對(duì)超級(jí)人工智能的研究提出警告,有相當(dāng)一部分人類對(duì)超級(jí)人工智能是懷著恐懼心理的。那么,二戰(zhàn)后兩大陣營(yíng)也一度被核恐懼籠罩,那時(shí)候人類也具備了自毀能力且保持到現(xiàn)在,這種恐懼與對(duì)超級(jí)人工智能的恐懼有什么異同?
趙汀陽:核戰(zhàn)爭(zhēng)當(dāng)然是具有毀滅人類能力的威脅,但核武器有著“確保互相摧毀”的理性均衡,因此不如人工智能的潛在威脅那么大。我覺得,人類自己能夠做主的危險(xiǎn)不如由別的物種做主的危險(xiǎn)那么深不可測(cè)。
澎湃新聞:您說,存在的唯一本真意圖就是繼續(xù)存在。但人類試圖發(fā)明超越自身的超級(jí)人工智能,本身是反存在的,結(jié)果可能是人類的毀滅或者說文明的自殺。是什么誘惑人類違背“本真意圖”?或者說,這種自毀沖動(dòng)來自何方?
趙汀陽:這確實(shí)是一件難以理解的怪事。對(duì)于這個(gè)費(fèi)解的問題,我找不到一個(gè)充分合理的理性解釋,只有一個(gè)恐怕不太可靠的推測(cè):科學(xué)家并非試圖毀滅人類,相反,他們?cè)噲D拯救人類,試圖通過人工智能、物理學(xué)和生物學(xué)的高端技術(shù)的聯(lián)合應(yīng)用而創(chuàng)造出永生的新人類。問題是,假如此種技術(shù)能夠?qū)崿F(xiàn),也只能是一小部分人獲得存在升級(jí)和永生,大部分人沒有這種機(jī)會(huì)。不過,這個(gè)存在升級(jí)的可能性還比較遙遠(yuǎn),人們還有機(jī)會(huì)慢慢思考。
澎湃新聞:因?yàn)椤按嬖诘奈ㄒ槐旧硪鈭D是繼續(xù)存在”,所以超級(jí)人工智能很可能采取最高效的自我保存原則,您在《智能的分叉》中推導(dǎo)出,超級(jí)人工智能極大可能不會(huì)遵循,甚至徹底無視人類的價(jià)值體系,人類為自己培育了掘墓人。那么,在這個(gè)人工智能還停留在AlphaGo的時(shí)代,我們是否有可能阻止這一晦暗的圖景呢?
趙汀陽:當(dāng)然有可能,假如人類能夠形成集體理性而阻止越界冒險(xiǎn)的話。我想,關(guān)鍵的界限是:(1)人工智能的發(fā)展應(yīng)該限于特殊的或?qū)I(yè)的人工智能,不能發(fā)展具有全面綜合能力的人工智能;(2)不應(yīng)該發(fā)展具有等價(jià)于人類反思能力的人工智能,即不能把人工智能設(shè)計(jì)成為能夠?qū)ψ陨硐到y(tǒng)整體進(jìn)行反思的全權(quán)自主智能。目前在研制的具有學(xué)習(xí)能力、積累經(jīng)驗(yàn)?zāi)芰ι踔辆哂心撤N“創(chuàng)造性”的人工智能并沒有越界,其“創(chuàng)造性”只是對(duì)所擁有的材料進(jìn)行聯(lián)想和重組。即使人工智能將來能夠作曲比美巴赫、畫畫匹敵米開朗基羅、寫詩不輸杜甫,也不算越界。只要缺乏對(duì)自身系統(tǒng)整體的反思能力,人工智能就不會(huì)把自身升級(jí)為人類無法控制的超級(jí)智能存在。
澎湃新聞:在整本書的最后,您用了一頁的篇幅討論,在想象中的“人機(jī)大戰(zhàn)”之外,人類社會(huì)內(nèi)部的極端危險(xiǎn)?,F(xiàn)在的人們勉強(qiáng)能忍受經(jīng)濟(jì)不平等,但未來出現(xiàn)的可能是生命權(quán)的不平等,一部分人通過高技術(shù)改造生命而達(dá)到永生或者高量級(jí)的不平等,而另一部分人被降格為蝗蟲,甚至連剝削的價(jià)值都不再存在。假設(shè)“人機(jī)大戰(zhàn)”不會(huì)發(fā)生,技術(shù)的極大發(fā)展,更可能帶來的是全人類的解放,還是人類社會(huì)內(nèi)部的極端危險(xiǎn)?
趙汀陽:這件事情嚴(yán)格地說不是關(guān)于人工智能的問題,而是人類自身的問題。假如人工智能的發(fā)展沒有越界成為超級(jí)智能存在,那么,人工智能系統(tǒng)與人類之間就沒有致命的矛盾。就是說,無論人工智能發(fā)展到多么精巧,只要維持作為人類的使用工具,就與人類不會(huì)形成敵對(duì)關(guān)系。至于人工智能的發(fā)展是否在人類內(nèi)部帶來馬克思式的全人類解放還是霍布斯式的叢林戰(zhàn)爭(zhēng),就不得而知了。就目前的人性水平而言,假如一小部分人手握人工智能的利器,局面恐怕不容樂觀。假如控制人工智能的強(qiáng)者們聯(lián)合起來壓迫弱者,那么將是專制的最后勝利(赫拉利談到這個(gè)可能性);假如控制人工智能的強(qiáng)者們互相爭(zhēng)霸,則有可能導(dǎo)致人類毀滅(帝國主義邏輯的可能結(jié)局);假如控制人工智能的強(qiáng)者們聯(lián)合起來共建一個(gè)萬民共享之天下,應(yīng)該是最優(yōu)結(jié)局(我希望如此)。哪種結(jié)局的可能性更大?要看人類的運(yùn)氣了。





- 報(bào)料熱線: 021-962866
- 報(bào)料郵箱: news@thepaper.cn
滬公網(wǎng)安備31010602000299號(hào)
互聯(lián)網(wǎng)新聞信息服務(wù)許可證:31120170006
增值電信業(yè)務(wù)經(jīng)營(yíng)許可證:滬B2-2017116
? 2014-2026 上海東方報(bào)業(yè)有限公司




