人工智能，從上世紀(jì)50年代到現(xiàn)在起起伏伏。我最早不喜歡神經(jīng)網(wǎng)絡(luò)的原因是在于它的不確定性，即最后輸出的結(jié)果是不確定的，今天深度學(xué)習(xí)卷積神經(jīng)網(wǎng)絡(luò)的不確定性依然存在。當(dāng)時(shí)從哲學(xué)意義上來講它是一種革新，所以大家很喜歡，到2005年又開始興起，起因是說它好像又非常好，把結(jié)果推廣到一些人類的競賽上。其實(shí)在美國機(jī)器學(xué)習(xí)學(xué)術(shù)界依然是兩派，一部分還是看不起深度學(xué)習(xí)，今天宣傳深度學(xué)習(xí)更多是工業(yè)背景。很多領(lǐng)域都開始嘗試深度學(xué)習(xí)，包括我們實(shí)驗(yàn)室也做了3-4年，因?yàn)樗杏^點(diǎn)和意見都要和深度學(xué)習(xí)方法對比，調(diào)網(wǎng)絡(luò)調(diào)一個(gè)月，很多時(shí)候是要靠調(diào)試員的經(jīng)驗(yàn)，因?yàn)橛胁淮_定性。

說人工智能是洪水猛獸，我更多的是從安全性角度來講。首先它的推動(dòng)主體是企業(yè)，既然它具有不確定性，而且又是企業(yè)和資本來推動(dòng)，我認(rèn)為這對公眾安全存在問題，不透明，存在黑箱操作的空間。第二，它的技術(shù)本身，包括學(xué)界對深度學(xué)習(xí)排斥的一點(diǎn)在于不可解釋性，由于它本身來自于神經(jīng)網(wǎng)絡(luò)，很多時(shí)候是靠窮盡局部的采樣特性和不明確的非線性，喪失了理論的簡潔和優(yōu)美，如果科學(xué)的本意是告訴我們這個(gè)世界可以認(rèn)知。相對我們原來竭盡心力，基于數(shù)學(xué)或者是幾何的原理解釋，理解明確的原因，最近我們兩三年一直在做的動(dòng)機(jī)，現(xiàn)在從事的一些課題，就是希望確實(shí)能確認(rèn)深度學(xué)習(xí)的可解釋性，同時(shí)嘗試從傳統(tǒng)的技術(shù)來演化深度機(jī)制，二者尋求共同性，單純從神經(jīng)計(jì)算來似是而非的解釋，其實(shí)是不負(fù)責(zé)任的，知識應(yīng)該是可追朔的，否則這種經(jīng)驗(yàn)是不可靠的，工具和方法必須要有原理來支撐！以前我們了解的傳統(tǒng)技術(shù)，在控制上都是有因果性來推動(dòng)，我們希望能發(fā)展非常非常簡潔的算法。今天深度學(xué)習(xí)的算法不具有廣泛的一致性，從應(yīng)用上，一個(gè)具有個(gè)性的深度學(xué)習(xí)算法，需要從小數(shù)據(jù)移植到大數(shù)據(jù)上去，也需要一套調(diào)試規(guī)則來闡述。

今天人工智能的深度學(xué)習(xí)，最大的推動(dòng)力不在于算法，而是在于數(shù)據(jù)。其實(shí)現(xiàn)在這些大公司開源算法架構(gòu)，只是為了占領(lǐng)人工智能的生態(tài)，這是商業(yè)策略。也就是說數(shù)據(jù)才是最后關(guān)鍵的因素。一個(gè)最后的結(jié)果，它的不確定性和不可操作性來源于數(shù)據(jù)，即使同一個(gè)數(shù)據(jù)不同的人操作也不一樣，這就帶來很大的問題：公共安全性，把這運(yùn)用到生命醫(yī)療，現(xiàn)在都認(rèn)為是最重要的應(yīng)用，但這方面在美國就很謹(jǐn)慎。我們國家也在推動(dòng)這方面，也引起關(guān)注，各種各樣的數(shù)據(jù)被共享、被采納。首先，它是把雙刃劍，這東西帶來的危害我覺得會更大。想想看，迄今我們?nèi)祟愐磺屑夹g(shù)的發(fā)展，都是以超越我們?nèi)俗陨淼南拗谱鳛橥苿?dòng)的。那這個(gè)大數(shù)據(jù)共享深度學(xué)習(xí)會走到哪里去，所有的機(jī)器都會聯(lián)網(wǎng)，成為單方面龐大的力量，這個(gè)力量會決策我們每個(gè)人的命運(yùn)。從倫理講，我不知道這將來會是什么樣一種方式來決定我們個(gè)人的命運(yùn)，因?yàn)槲覀冊瓉硭纬傻闹R是個(gè)人可認(rèn)知和可掌握的，是科學(xué)性的，是自由且公平的，這是做研究的最大動(dòng)力。

今天說人臉識別在什么數(shù)據(jù)集下到了99%，不停刷性能，學(xué)術(shù)思想變成了各種排列組合的途徑，這其實(shí)沒有任何意義，學(xué)術(shù)的意義在哪里？首先，我們要認(rèn)識這個(gè)世界，我們想讓自身更自由一些，如果只是為了得到最后的某個(gè)結(jié)果，其實(shí)長遠(yuǎn)看沒有什么太大價(jià)值。其次，要真實(shí)認(rèn)識人工智能背后的基理所在，如果這個(gè)方式不解決，一旦壟斷在一些大公司手里，現(xiàn)在跨國資本聯(lián)合，實(shí)際上來講是對我們個(gè)人的命運(yùn)可能會很難。真實(shí)原因不在于機(jī)器，而是人性其實(shí)是不可靠的！

機(jī)器智能掌握在大資本手里對個(gè)人的運(yùn)營是很難的，如果機(jī)器背后產(chǎn)生自覺的智能，如果它的智能（今天，只能說是計(jì)算和記憶的能力）確實(shí)超越了人類，按照自然法則來講高級智能是可以去除掉低級智能，就像我們?nèi)祟悓Φ厍蚱渌镎趯?shí)施的，沒有什么對等的倫理。機(jī)器會不會有自我發(fā)掘智能，什么叫靈魂，值得反思！現(xiàn)在各行各業(yè)都在做計(jì)算機(jī)視覺和識別，單純從性能角度講提升都明顯，完全可以融合，決策的性能在穩(wěn)步提升，這么講吧，人工智能深度學(xué)習(xí)的感知能力越來越強(qiáng)。更值得注意的是，機(jī)器人的動(dòng)力系統(tǒng)發(fā)展也非?？?，結(jié)合起來就是一種新的“生物”。這種生物不智能的話（類似某種動(dòng)物一樣），對我們有不確定的威脅；這種生物有智能的話，那就更具有危險(xiǎn)性。也就是說，最后我們所面對的不是倫理上像我們這樣的人。我其實(shí)很怕動(dòng)物，總覺得它們不是我的同類，所以覺得“認(rèn)為人工智能是洪水猛獸”還是很有道理的，因?yàn)閷?shù)據(jù)的操控性和選擇性，所有的人類能力都在機(jī)器人的載體上形成發(fā)展，不管是它操控在我的同類人手里，還是即使它有良知，但它具有不確定性和不可解釋性，我都不認(rèn)為是可以淡定的。因?yàn)檫@種能力的控制性，完全不可靠，而且它會不斷演化和發(fā)展。這會給我們這個(gè)人類世界帶來極大的不確定性。也許將來，人類的定義需要改寫。

我們現(xiàn)在也開始做一些大數(shù)據(jù)的信息加密，現(xiàn)在相關(guān)國際數(shù)據(jù)大企業(yè)都開始從事這種技術(shù)，信息被加密，在加密的基礎(chǔ)上進(jìn)行大數(shù)據(jù)的分析和處理，產(chǎn)生的效果要和明文原始信息的分析的效果趨于一致，便于各個(gè)機(jī)構(gòu)間的數(shù)據(jù)共享。由于深度學(xué)習(xí)依賴于數(shù)據(jù)，一方面是數(shù)據(jù)驅(qū)動(dòng)，一方面也要依賴知識的引導(dǎo)來加速計(jì)算。

現(xiàn)在的深度學(xué)習(xí)是數(shù)據(jù)的大規(guī)模計(jì)算，但這個(gè)計(jì)算本身并不帶來知識，因?yàn)樗魂P(guān)心輸入和最后輸出的結(jié)果。阿爾法GO在人類圍棋領(lǐng)域取得了巨大的成功，它以人類自古而有的棋譜作為標(biāo)注的數(shù)據(jù)，以勝負(fù)作為最后的得失，所以每一步棋會計(jì)算最后勝算的概率。我們?nèi)祟愊聡灞M管理論上有這么多選擇余地，但其實(shí)傳承積累下來的候選空間并不大，阿爾法GO計(jì)算得失，還有計(jì)算每步棋最后獲勝的概率，這是人類所沒有的。

（本文首發(fā)于《探索與爭鳴》雜志微信公眾號：tansuoyuzhengming，熊紅凱在2017年8月28日由上海市社聯(lián)《探索與爭鳴》雜志社和華東政法大學(xué)政治學(xué)研究院共同主辦的“人工智能與未來社會：趨勢、風(fēng)險(xiǎn)與挑戰(zhàn)”學(xué)術(shù)研討會上的主題發(fā)言，發(fā)言題目為《人工智能的范式轉(zhuǎn)換及其發(fā)展前景》，澎湃新聞得到授權(quán)使用）