主講人：史占中（上海交通大學(xué)安泰經(jīng)濟(jì)與管理學(xué)院教授）

主題：未來智能社會如何與機(jī)器人和諧共處

時間：2017年3月15日

主辦：上海交通大學(xué)安泰經(jīng)濟(jì)與管理學(xué)院

【編者按】

3月15日，上海交通大學(xué)安泰經(jīng)濟(jì)與管理學(xué)院教授史占中在安泰深度思考論壇上與大家探討“未來智能社會如何與機(jī)器人和諧共處”。史占中指出，在工業(yè)領(lǐng)域機(jī)器人的運(yùn)用能夠大規(guī)模降低企業(yè)的制造成本，同時，機(jī)器人能從事一些安全系數(shù)高的工作，降低工人的危險(xiǎn)性。

但是，由于機(jī)器人的出現(xiàn)，部分原有的勞動力不能適應(yīng)新的職業(yè)需求而造成失業(yè)。史占中還認(rèn)為，除了改變生活觀念外，最大的問題在于法律監(jiān)管和社會倫理上。

人工智能是否會超過人類智能？史占中表示，有這種可能。人工智能在前期發(fā)展緩慢，但后期呈爆發(fā)式、指數(shù)性發(fā)展，有超過線性增長的人類智能的可能。

那么，如何與機(jī)器人和諧共處？在史占中看來，對于就業(yè)沖擊，人工智能在替代的同時也在創(chuàng)造就業(yè)，關(guān)鍵是把握好轉(zhuǎn)崗過程。關(guān)鍵在于，人類要發(fā)揮自己的比較優(yōu)勢。對于倫理問題，史占中指出，一定要明確機(jī)器人的社會功能與角色定位，機(jī)器人是機(jī)器，不是人。機(jī)器人的發(fā)展應(yīng)該完全受控于人類。

以下是澎湃新聞（www.school126.cn）對史占中演講的摘錄：

優(yōu)：降低勞動成本與增加安全性

優(yōu)，給我們的幫助是什么？如果在工業(yè)領(lǐng)域，可以大規(guī)模的降低企業(yè)的制造成本。我們研究產(chǎn)業(yè)經(jīng)營時，把中國勞動力的成本做了一個比較。機(jī)器人換人的話，一臺焊接機(jī)器人的成本大概五萬塊，按十年折舊，隨著技術(shù)發(fā)展成本還會進(jìn)一步的降低。而勞動的成本，現(xiàn)在一個專業(yè)的焊接技工一年要7.2萬，一臺焊接機(jī)器人相當(dāng)于三個焊接工人的勞動量，成本就是21.6萬。就是說用機(jī)器人的成本相當(dāng)于用了人工成本的四分之一，并且可以面對復(fù)雜、危險(xiǎn)的工作環(huán)境。這是專業(yè)機(jī)器人在制造領(lǐng)域?qū)ξ覀儎趧恿Φ奶娲?，這是非常可觀的。

現(xiàn)在全世界用機(jī)器人最多的是在中國，因?yàn)橹袊莿趧又圃?、世界工廠、制造大國，現(xiàn)在大概全世界五分之一的機(jī)器人是用在中國。工人的勞動成本不斷提高，因?yàn)榧夹g(shù)進(jìn)步，機(jī)器人的成本不斷降低。而勞動成本隨著我們?nèi)司钏降奶岣撸瑒趧映杀疽哺摺?/strong>

如果中國還陶醉在是人口大國的夢中，應(yīng)該醒來了。牛津經(jīng)濟(jì)研究院做過一個實(shí)驗(yàn)，2003年中國勞動力成本僅為美國的四成左右，但2012年的時候就接近美國的成本了。報(bào)告預(yù)測2016年中國制造業(yè)領(lǐng)域的勞動力成本僅比美國便宜4%。我看過一個曹德旺的視頻講話，他講中國很多的制造成本開始超越美國。這個講的還是低端造業(yè)里的勞動力成本，我們沒有太多的比較優(yōu)勢。所以，在人工成本迅速增長的背景下，機(jī)器人的廣泛應(yīng)用具有巨大的現(xiàn)實(shí)意義，是不可逆轉(zhuǎn)的趨勢。

無人駕駛是機(jī)器人在交通領(lǐng)域的應(yīng)用。谷歌已經(jīng)做了很多年了。實(shí)驗(yàn)表明，如果讓90%的汽車變成無人駕駛汽車的話，車禍數(shù)量將會從600萬降到130萬起，死亡人數(shù)大幅度降低。谷歌無人駕駛汽車已經(jīng)有六年了，行駛了三百多萬公里，只遇到過16起交通意外，且從未有致命事件。這個報(bào)告顯示無人駕駛汽車可以幫助高速公路容納汽車能力提高5倍。谷歌無人駕駛汽車項(xiàng)目里，目前專家認(rèn)為一旦機(jī)器人成為主流，當(dāng)前公路上只需要30%的汽車。大大的提高交通的效率。為什么？因?yàn)槲覀兌萝?，一方面是車多造成堵車因素，還有人為的交通事故，我們很多的堵車都是人為的，都想超車。機(jī)器人駕駛可以避免這種人為的堵塞，無人駕駛成為未來的必然趨勢。

那么安全領(lǐng)域里面呢？比如在排爆領(lǐng)域，有偵查機(jī)器人、掃雷機(jī)器人，地震救援機(jī)器人，我們汶川地震在救援現(xiàn)場也死很多人。無辜的解放軍士兵就這樣犧牲，就是缺少救援機(jī)器人。還有消防機(jī)器人，水下救援機(jī)器人。我們上次看到天津大爆炸事故，很多都是二次爆炸，消防員犧牲了一大批。機(jī)器人的廣泛應(yīng)用可以大量減少救援救災(zāi)現(xiàn)場事故。

服務(wù)性機(jī)器人不僅在生產(chǎn)領(lǐng)域、交通領(lǐng)域、安全領(lǐng)域，甚至在我們的生活領(lǐng)域帶來了很多的應(yīng)用。清潔機(jī)器人、家庭作業(yè)機(jī)器人，現(xiàn)在我們小孩布置作業(yè)太多了，家庭作業(yè)機(jī)器人可以幫助做作業(yè)。殘障輔助機(jī)器人可以幫助殘障人士。醫(yī)療機(jī)器人，可以大大減少醫(yī)生的工作強(qiáng)度。

但是帶來這么多的就業(yè)沖擊我們應(yīng)該如何應(yīng)對？

機(jī)器在長時間的重復(fù)勞動中有相對于人類的巨大優(yōu)勢，這由兩個方面決定：一是思維參與程度。以前機(jī)器人不會拐彎，現(xiàn)在有了傳感器他就會拐彎了。還有一個是他的操作模塊化程度，比如做手術(shù)，就是把工作模塊化以后做手術(shù)。模塊化程度的提高可以提高替代性。未來二十年，近半數(shù)的人類工作被機(jī)器人替代。如果回顧一下人類的工業(yè)發(fā)展史，就是機(jī)器人不斷替代人工的發(fā)展史冊，從18世紀(jì)的手工業(yè)到19世紀(jì)的簡單工業(yè)，到20世紀(jì)的復(fù)雜制造，到了我們現(xiàn)在21世紀(jì)信息處理。這是一個不可逆轉(zhuǎn)的趨勢，我們?nèi)绾伟盐者@個趨勢，掌控這個趨勢是非常關(guān)鍵的。

新技術(shù)突破后會帶來新的職業(yè)需求，而部分原有的勞動力不能適應(yīng)新的職業(yè)需求而造成失業(yè)。從2000年起，單位工資與單位產(chǎn)出差距逐步的拉大，機(jī)器正在搶占崗位。按照經(jīng)濟(jì)學(xué)理論，勞動投入的增加帶來了產(chǎn)出的增加。而勞動成本慢慢抵消了產(chǎn)出增加的附加值。2000年后是機(jī)器人廣泛應(yīng)用的世界，資本大量投入買機(jī)器人，機(jī)器人替代人工。這個時候產(chǎn)出大幅度增加，而勞動力減少，勞動力成本不斷下降，產(chǎn)出不斷增加，這個差距就不斷拉大。所以說機(jī)器人替代人工趨勢在不斷加強(qiáng)，帶來我們社會財(cái)富的增加，因?yàn)槿斯こ杀窘迪聛砹?，這個產(chǎn)出不斷的增加了，機(jī)器人的效率更高。這意味著機(jī)器人正在搶占我們很多的勞動崗位，尤其是制造業(yè)里面的崗位。

替代有三個階段。一個是高替代，比較容易被替代的崗位，像運(yùn)輸物流行業(yè)，一般一百萬的快遞員可能再過十年就被替代掉了。勞動密集型行業(yè)，這是高替代行業(yè)。中替代的行業(yè)是組裝、維修等手工制造業(yè)。比較難替代的是教育、醫(yī)療保健、媒體、藝術(shù)等等。教育有思維能力的要求，老師講課邊講還有很多的創(chuàng)造，而機(jī)器人是按照模式講的。機(jī)器人教授上這種基礎(chǔ)課，像大學(xué)本科的數(shù)學(xué)、物理可能上得非常好，因?yàn)樗呀?jīng)程序化了。而專業(yè)課，需要我們教授獨(dú)特的思想發(fā)揮，不太可能會被替代。所以教育行業(yè)的替代難度在增加。但是隨著人工智能的技術(shù)不斷的提高，替代的風(fēng)險(xiǎn)在增加。

中國制造業(yè)的競爭力越來越低。而美國說有三大技術(shù)就可以掏空中國的制造業(yè)——機(jī)器人、人工智能、數(shù)字化服務(wù)。不管中國的工程師多么多，人工智能可以替代你教出來的工程師，還有大數(shù)據(jù)服務(wù)可以定制化需求，知道消費(fèi)者未來需要什么。美國說，憑這三大殺手锏可以很快的把你中國的制造業(yè)淘汰，這對我們中國制造業(yè)帶來很大的挑戰(zhàn)。

實(shí)際上我們也在做這個布局，但是我們比美國的投入和重視程度差一點(diǎn)。什么原因？我們沒有這個顧慮。13億人，大量的機(jī)器人替代人工的話，我們的社會穩(wěn)定怎么辦？這些人找不到工作都在上街走，我們會有很多的顧慮。而美國是堅(jiān)定不移的發(fā)展機(jī)器人。光人工智能領(lǐng)域有六百多家公司，這是值得我們關(guān)注的趨勢。

舉個例子，順豐是最大的快遞企業(yè)，而跟亞馬遜比較一下。亞馬遜2016年12月17日已經(jīng)在英國開始測試無人機(jī)送貨，實(shí)驗(yàn)平均配送速度18分鐘，正式應(yīng)用后預(yù)計(jì)替代數(shù)千萬快遞工人。先出倉，再取貨，再尋址，再送達(dá)，無人機(jī)通過直線飛行，快速達(dá)到目標(biāo)位置。而快遞員經(jīng)過堵車，還有找不到門牌號碼，都影響了快遞送出的準(zhǔn)確率，甚至說未來的物流行業(yè)很快就被我們的無人機(jī)替代，效率又快又準(zhǔn)確。

憂：社會倫理與法律監(jiān)管問題

機(jī)器人的出現(xiàn)對我們很多觀念和行為習(xí)慣帶來了改變。我們手足無措，難以適應(yīng)。還有最重要的問題，未來隨著機(jī)器人的形態(tài)和功能的發(fā)展，機(jī)器人也會像人類克隆一樣，帶來很多的社會倫理和法律監(jiān)管問題。

比如說法律監(jiān)管案例。現(xiàn)在的社會是一個法治社會。長期看，如果機(jī)器人犯錯的話，對于傷害性結(jié)果應(yīng)由誰來負(fù)責(zé)？這種機(jī)器人犯錯，機(jī)器人致人死亡，這個法律問題怎么界定？我們?nèi)绾蝸肀O(jiān)管？比如未來尤其是我們廣大農(nóng)村師資不足，找不到好的老師，我們讓機(jī)器人下鄉(xiāng)。但是如果機(jī)器人錯誤教學(xué)，這個誰負(fù)責(zé)？傳播的不是核心價(jià)值觀怎么辦？他的程序設(shè)計(jì)會有很多的偏差和問題。機(jī)器人發(fā)現(xiàn)錯誤如何界定？現(xiàn)在有不少機(jī)器人傷人的例子，如果大范圍的應(yīng)用，法律責(zé)任的界定和監(jiān)管的問題對我們的社會治理提出了巨大的挑戰(zhàn)。你教育機(jī)器人傳播的很多東西，一旦程序啟動就重復(fù)犯錯。醫(yī)療機(jī)器人出了事故怎么辦？還有機(jī)器人傷害我們現(xiàn)場的作業(yè)人員怎么辦？這個我們講法律責(zé)任怎么界定？

最擔(dān)心的在機(jī)器人軍事領(lǐng)域的應(yīng)用。如果機(jī)器人在軍事領(lǐng)域那就真的變成了殺人機(jī)器呢？軍事歷史學(xué)家馬歇爾做二戰(zhàn)的時候傷亡事故統(tǒng)計(jì),他的統(tǒng)計(jì)很有意思，二戰(zhàn)前大概只有15%到20%的美國步兵能夠或者愿意向敵人開火。一個原因是人類的同情心，他不愿意射殺。比如看到弱小的士兵，老弱病殘的士兵不愿意開火。還有戰(zhàn)場中自身的恐懼。馬歇爾說，由于人性的優(yōu)點(diǎn)和弱點(diǎn)使二戰(zhàn)減少了很多的死亡人數(shù)。但是，我們機(jī)器人一旦走上戰(zhàn)場的話是毫無人性的。一旦啟動的話，他可能成為真正的冷血?dú)⑹?。他可以不知疲倦的、長途奔襲、超越視距的在戰(zhàn)場上進(jìn)行搏殺。機(jī)器人也可能被不法之徒，比如ISIS利用，所以成為人類社會的敵人的可能性非常之大，這是我們非常擔(dān)心的。

還有社會倫理的困擾。機(jī)器人有人的某種屬性，他可以平復(fù)你、照顧你、給你情感上的慰藉，你產(chǎn)生感情了，怎么辦？這是一個真實(shí)的場景，在日本因?yàn)闄C(jī)器人業(yè)務(wù)非常廣泛，機(jī)器人被視作寵物，死后被人懷念，這是真實(shí)的。英劇《黑鏡》講到了因?yàn)檎煞蛟谲嚨溨腥ナ懒?，妻子買了一個模擬機(jī)器人，最后跟機(jī)器人產(chǎn)生了感情，難以自拔。

為什么說機(jī)器人經(jīng)過一定的發(fā)展之后可能變成人呢？一旦機(jī)器人的人工智能超過人類智能怎么辦？有沒有這種可能性？這種可能性是存在的。

人工智能他的發(fā)展是一個指數(shù)式增加，開始可能很緩慢，到后面突變，人工智能自我學(xué)習(xí)、自我提升，可能是指數(shù)型的增長。前面是蝸牛漫步，后面是爆炸式。人類智能進(jìn)化比較慢的，我們看《道德經(jīng)》，我們覺得我們現(xiàn)在的智慧比古人超越多少？我們很難說。幾千年前產(chǎn)生的諸子百家的思想，春秋時代有那么多的思想家。幾千年過去了，我們?nèi)祟愔悄苓M(jìn)化了多少？我們捫心自問哪個比愛因斯坦聰明，哪個超過了牛頓？人類智能是非常的緩慢的。一個指數(shù)性的增長，一個線性的增長，這種驅(qū)使下人工智能超越人類智能是有可能的，那怎么辦？

人工智能到達(dá)一定階段之后產(chǎn)生突變，他會比愛因斯坦更聰明。當(dāng)人工智能向人類級別智能靠近，我們看到他逐漸變得更加智能，我們卻無能為力，我們怎么辦？這種可能是存在的。

何以解憂？

著名物理學(xué)家霍金就非常反對搞人工智能。他認(rèn)為人工智能可能是毀滅人類的元兇。但是各個國家現(xiàn)在都不惜血本地投入搞人工智能。喬布斯也反對人工智能，他認(rèn)為人工智能比核武器還可怕，因?yàn)槿斯ぶ悄苷莆盏闹R可能更豐富。比爾·蓋茨也是反對人工智能的，他認(rèn)為人工智能足夠強(qiáng)大，會給我們帶來擔(dān)憂。這是著名的企業(yè)家和科學(xué)家對人工智能帶來深深的憂慮。這個憂慮確實(shí)是比較切實(shí)的。

那么，何以解憂？

我們先講如何應(yīng)對就業(yè)沖擊。有機(jī)構(gòu)做了統(tǒng)計(jì)表明，52%學(xué)者還是持積極態(tài)度?？萍歼M(jìn)步會使某些工作崗位消亡，但是同時又創(chuàng)造了許多新的工作崗位。技術(shù)使我們從重復(fù)性勞動中解放出來后，我們有更多的時間和空間可以釋放人類的創(chuàng)造性，也就可能創(chuàng)造更多的就業(yè)崗位出來。機(jī)器人不僅席卷藍(lán)領(lǐng)，還會波及到白領(lǐng)。機(jī)器人可以替代更多的崗位，也會創(chuàng)造許多新的崗位。

機(jī)器人替代人力、提高效率是時代的趨勢。其實(shí)，人類的發(fā)展史就是機(jī)器的發(fā)展史。第一次工業(yè)革命，蒸汽機(jī)問世，機(jī)器把人替代。比如英國當(dāng)時出現(xiàn)了紡紗機(jī)，紡紗機(jī)出來之后，很多紡紗工就回家了。但是平穩(wěn)過渡后，被替代的人又重新找到新的崗位了。電力通信是第二次的革命，有了電力的應(yīng)用，大量的工作崗位被創(chuàng)造出來了。新的計(jì)算機(jī)也是這樣的。就是替代了工作崗位以后衍生很多的新的工作崗位。我們從積極的角度看，替代的同時也同時在創(chuàng)造。

我們是能夠妥善化解機(jī)器對就業(yè)崗位的沖擊的。轉(zhuǎn)崗過程中，要加強(qiáng)對被替換勞動力的轉(zhuǎn)崗培訓(xùn)，使之適應(yīng)智能社會的職業(yè)需求。而機(jī)器人應(yīng)用帶來的生產(chǎn)力的提高和社會財(cái)富的積累可以提高整體社會的福利，也可以帶來轉(zhuǎn)崗更充裕的時間和空間。比爾·蓋茨提的觀念就很有意思，對機(jī)器人征稅，用來補(bǔ)貼工人的再培訓(xùn)。被替代的工人可以增強(qiáng)新的就業(yè)能力，實(shí)現(xiàn)再就業(yè)。

另外，要有計(jì)劃、有步驟地實(shí)現(xiàn)機(jī)器換人，否則會引起動蕩。我們應(yīng)該同機(jī)器人一起升級，不是讀完大學(xué)有工作了，不用看書了，不然不是別人淘汰你，是機(jī)器人淘汰你。這在迫使我們?nèi)祟愐粩嗌钊雽W(xué)習(xí)，終身學(xué)習(xí)來提高我們的謀生能力和設(shè)備的適應(yīng)能力。

人與機(jī)器人要共同協(xié)作，除了管理上的，還有心理上的。我們有時候請一個保姆到家里做家務(wù)，但如果來一個機(jī)器人還是會不適應(yīng)，總感覺就是一個冷冰冰的機(jī)器。給你做手術(shù)是個機(jī)器人的話也會產(chǎn)生很多的恐懼心理，而實(shí)際上他比一般的專業(yè)醫(yī)生做手術(shù)的成功率更高，但是我們心里上會有障礙。

我們無法完成的職業(yè)要放心地交給機(jī)器人。機(jī)器人時代將會創(chuàng)造出全新的職業(yè)。人類能夠完成的，但機(jī)器人能做得更出色。而我們?nèi)祟愐龈袆?chuàng)造力的工作，發(fā)揮我們的比較優(yōu)勢。

人類和機(jī)器人怎么樣和諧相處？建立更好的社會組織體系和發(fā)揮人類的自身比較優(yōu)勢。

人類的比較優(yōu)勢在哪里？我們要從事機(jī)器人不能涉及的領(lǐng)域。因?yàn)闄C(jī)器人的思維創(chuàng)意程度還沒到那么高。人有靈性、有創(chuàng)造性，這是機(jī)器人不能替代的。

人類社會會創(chuàng)造兩個方面，物質(zhì)領(lǐng)域和精神領(lǐng)域。機(jī)器人可以幫助我們創(chuàng)造很多的物質(zhì)財(cái)富。但是創(chuàng)造精神財(cái)富，機(jī)器人還是略輸一籌。人類是有情感的，文化產(chǎn)業(yè)是最有潛力，最有發(fā)展前景的行業(yè)，因?yàn)檫@需要人類的情感和更高的創(chuàng)造性。物質(zhì)層面很容易滿足，但是精神層面的追求越來越高。從工作中解放出來后，能創(chuàng)造更多精神財(cái)富的可能就是未來的就業(yè)崗位?？赡芪磥韽氖挛幕a(chǎn)業(yè)的藝術(shù)工作者要占到社會50%以上的就業(yè)。而大量的工業(yè)領(lǐng)域、簡單的服務(wù)領(lǐng)域可能就是機(jī)器人去做。所以李開復(fù)講，人類的藝術(shù)創(chuàng)造生活中的美是很重要的。李開復(fù)對機(jī)器人接觸比較早，他對這個人工智能的發(fā)展沒有那么悲觀。

如何定位機(jī)器人的功能和社會角色？最關(guān)鍵在和諧相處。按照我的理解，要把機(jī)器人視同為機(jī)器，不能等同于人。應(yīng)該明確界定其社會角色，它就是機(jī)器，為人類社會所用的機(jī)器。不能把它等同于人，更不能產(chǎn)生社會倫理的沖動，這點(diǎn)很重要，要界定機(jī)器人的功能和社會角色。

社會學(xué)領(lǐng)域界定人死亡是兩個，一個是大腦停止思考的腦死亡，還有心臟停止跳動，心死亡。人之所以為人，因?yàn)槿耸怯徐`性的，一定是有人腦的是人，如果不是人腦，盡管有人的軀體，那它還是機(jī)器人。如果大腦是人腦的話，這個人就被界定為人，應(yīng)從靈性的角度來界定是人還是機(jī)器人?，F(xiàn)在社會已經(jīng)有了，叫生化人，人的軀體，人工智能的大腦，還有就是人的大腦，有機(jī)器的軀體。人腦應(yīng)為區(qū)別人與機(jī)器人的關(guān)鍵因素。

機(jī)器人發(fā)展應(yīng)該完全受控于人類社會。一旦人工智能超越人類智能怎么辦？我們要做到機(jī)器人在人類社會的可控、可終止，否則可能會帶來很多的問題。舉個例子，克隆人在生物學(xué)上已經(jīng)完全沒問題，但是法律上禁止以避免很多的社會倫理問題

人工智能是聯(lián)網(wǎng)的，最怕產(chǎn)生群體智慧?？苹秒娪耙呀?jīng)給了我們很多的啟發(fā)了，人類應(yīng)對機(jī)器人發(fā)展程度要進(jìn)行嚴(yán)格監(jiān)控，避免其群體意識和群體認(rèn)同，杜絕科幻電影中機(jī)器人奴役人類的事件發(fā)生。

機(jī)器人發(fā)展準(zhǔn)則，希望機(jī)器人的發(fā)展中有一些約束。比如說沒有命令，機(jī)器人不得行動。機(jī)器人不得傷害人類。這個要成為我們?nèi)鐣l(fā)展機(jī)器人的要求，否則的話可能會出現(xiàn)前面講的一些問題。

（演講內(nèi)容由澎湃新聞記者根據(jù)主辦速記整理，未經(jīng)演講者審訂）