面對(duì)人工智能在當(dāng)前發(fā)展態(tài)勢(shì)下的倫理沖突和風(fēng)險(xiǎn)挑戰(zhàn)，有兩個(gè)具體的問(wèn)題值得展開(kāi)切實(shí)的審度與調(diào)適：其一是數(shù)據(jù)權(quán)利與算法權(quán)力的再平衡；其二是人機(jī)共生時(shí)代的人機(jī)關(guān)系的再平衡。

談到數(shù)據(jù)權(quán)利，2018年5月，歐盟頒布了《一般數(shù)據(jù)保護(hù)條例》（GDPR），明確指出保護(hù)的主體就是個(gè)人數(shù)據(jù)，而個(gè)人數(shù)據(jù)指與一個(gè)已被識(shí)別或者可被識(shí)別的自然人相關(guān)的任何信息。該條例對(duì)數(shù)據(jù)獲取權(quán)、修改權(quán)、被遺忘權(quán)、數(shù)據(jù)可攜帶權(quán)、異議權(quán)等數(shù)據(jù)主體的權(quán)利做出了明確的界定。這些數(shù)據(jù)權(quán)利在一定程度上體現(xiàn)了在數(shù)據(jù)的商業(yè)智能等數(shù)據(jù)智能應(yīng)用中的問(wèn)題，可以視為在價(jià)值和倫理層面對(duì)相關(guān)侵權(quán)行為的反制。

但同時(shí)也要看到，這些權(quán)利也并非無(wú)條件的絕對(duì)權(quán)利，都存在一定的限制。以對(duì)數(shù)據(jù)畫(huà)像異議權(quán)為例，只有當(dāng)對(duì)用戶(hù)進(jìn)行畫(huà)像等決策對(duì)用戶(hù)產(chǎn)生法律或者其他重大影響時(shí)，用戶(hù)才有權(quán)反對(duì)。

但這一條例出臺(tái)后，不論是從國(guó)際數(shù)據(jù)流通，還是從中國(guó)相關(guān)法律和倫理建設(shè)層面考慮，必須對(duì)其基本內(nèi)容進(jìn)行系統(tǒng)的研究，對(duì)相關(guān)數(shù)據(jù)權(quán)利的合理性與局限性應(yīng)該有一個(gè)全面的認(rèn)識(shí)。

在數(shù)據(jù)智能得到普遍應(yīng)用的解析社會(huì)，個(gè)人數(shù)據(jù)權(quán)利的重要性不言而喻。在解析社會(huì)中，不論人們主動(dòng)與否，大家都是數(shù)據(jù)的貢獻(xiàn)者，一切數(shù)據(jù)都被記錄，一切行為都被分析。數(shù)據(jù)智能不斷追蹤著每個(gè)人的數(shù)據(jù)，數(shù)據(jù)與世界的等同性意味著對(duì)個(gè)體數(shù)據(jù)的追蹤，實(shí)際上就是對(duì)每個(gè)人的價(jià)值觀(guān)的追蹤。因此，在理解了非人格化智能算法正在用人們的行為數(shù)據(jù)定義人們這一事實(shí)的情況下，每個(gè)人都應(yīng)該更加主動(dòng)地參與到此過(guò)程中，使主體的能動(dòng)性影響到基于智能算法的數(shù)據(jù)分析和數(shù)據(jù)畫(huà)像的過(guò)程與結(jié)果，通過(guò)必要的反饋與修正機(jī)制的構(gòu)建，重獲西蒙棟意味的個(gè)體化議程的主導(dǎo)權(quán)。

由此，數(shù)據(jù)智能和解析社會(huì)的未來(lái)發(fā)展面臨著數(shù)據(jù)權(quán)利和算法權(quán)力的再平衡。鑒于個(gè)人數(shù)據(jù)權(quán)利的缺失終將導(dǎo)致全局性的信任稀缺，是時(shí)候認(rèn)真審視和從根本上改變當(dāng)下普遍存在的不無(wú)侵略性的數(shù)據(jù)監(jiān)控模式了。

為此，應(yīng)該認(rèn)識(shí)到智能算法和數(shù)據(jù)分析技術(shù)的應(yīng)用，不能不考量普通主體的利害權(quán)衡，以及這些技術(shù)的可接受性，從而由智能技術(shù)的可接受性的維度出發(fā)，構(gòu)建全新的基于信任氛圍的數(shù)據(jù)共享模式。

首先，即便不能像歐洲的數(shù)據(jù)權(quán)利保護(hù)條例那樣提出高標(biāo)準(zhǔn)的數(shù)據(jù)倫理規(guī)范，至少也要促使企業(yè)、機(jī)構(gòu)對(duì)智能算法的應(yīng)用擔(dān)當(dāng)起主要的責(zé)任。

其次，致力于尋求有利于營(yíng)造信任氛圍的、務(wù)實(shí)的數(shù)據(jù)權(quán)利保護(hù)模式，促使數(shù)據(jù)交易各方對(duì)自己的行為負(fù)責(zé)，使每個(gè)相關(guān)主體知道相關(guān)的數(shù)據(jù)如何被處理，特別是用于其他用途的情形。使數(shù)據(jù)權(quán)利的主體在原則上有權(quán)決定對(duì)其數(shù)據(jù)的處理與洞察，以此減少數(shù)據(jù)的濫用，杜絕對(duì)數(shù)據(jù)主體的嚴(yán)重傷害。

更為重要的是，應(yīng)從負(fù)責(zé)任的、創(chuàng)新的觀(guān)念出發(fā)，形成更具反思平衡性的數(shù)據(jù)觀(guān)念。一方面，在提升數(shù)據(jù)主體的數(shù)據(jù)權(quán)利意識(shí)的同時(shí)，要促使主體通過(guò)追蹤自己的數(shù)據(jù)，能動(dòng)地反省其內(nèi)在的價(jià)值訴求和價(jià)值觀(guān)念，并通過(guò)自我參與式的數(shù)據(jù)分析和數(shù)據(jù)畫(huà)像不斷改進(jìn)自我。

另一方面，至關(guān)重要的是，應(yīng)該走出過(guò)度地攫取數(shù)據(jù)的迷思，樹(shù)立數(shù)據(jù)有度的觀(guān)念，對(duì)非人格化的算法權(quán)力加以必要的節(jié)制。尤其應(yīng)該在跨學(xué)科研究的基礎(chǔ)上，充分揭示當(dāng)下具有高度侵略性的數(shù)據(jù)監(jiān)控模式對(duì)主體能動(dòng)性的侵蝕，深入辨析其對(duì)個(gè)體行為的自由度及其自我修正和自由發(fā)展的潛在可能所形成的高度制約性。

為此，應(yīng)倡導(dǎo)一種基于“節(jié)儉理性”而非“全能神理性”的數(shù)據(jù)和智能觀(guān)念，使數(shù)據(jù)的收集、存儲(chǔ)、處理和挖掘?qū)χ黧w權(quán)利的負(fù)面影響盡量減少，并以主體的可接受性作為數(shù)據(jù)智能應(yīng)用的剛性邊界，倒逼數(shù)據(jù)挖掘和分析技術(shù)的創(chuàng)新，使其能夠更有效地發(fā)現(xiàn)有價(jià)值的數(shù)據(jù)模式。

就人機(jī)關(guān)系而言，在人工智能的未來(lái)情境中，即便未必會(huì)出現(xiàn)庫(kù)茲韋爾等人所宣稱(chēng)的超級(jí)人工智能大爆發(fā)的奇點(diǎn)，但依然應(yīng)該借助各種理論資源對(duì)可能帶來(lái)的重大影響和深遠(yuǎn)后果及對(duì)策展開(kāi)系統(tǒng)的分析與探究。

以所謂“無(wú)用階層”的出現(xiàn)為例，馬克思在晚年就曾有預(yù)見(jiàn)。在《機(jī)器論片斷》中，馬克思指出：“工人把工具當(dāng)作器官，通過(guò)自己的技能和活動(dòng)賦予它以靈魂，因此，掌握工具的能力取決于工人的技藝。相反，機(jī)器則代替工人而具有技能和力量，它本身就是能工巧匠，它通過(guò)在自身中發(fā)生作用的力學(xué)規(guī)律而具有自己的靈魂……科學(xué)通過(guò)機(jī)器的構(gòu)造驅(qū)使那些沒(méi)有生命的機(jī)器肢體有目的地作為自動(dòng)機(jī)來(lái)運(yùn)轉(zhuǎn)，這種科學(xué)并不存在于工人的意識(shí)中，而是作為異己的力量，作為機(jī)器本身的力量，通過(guò)機(jī)器對(duì)工人發(fā)生作用?！?/p>

馬克思不僅強(qiáng)調(diào)指出，“機(jī)器無(wú)論在哪一方面都不表現(xiàn)為單個(gè)工人的勞動(dòng)資料”，而且進(jìn)一步預(yù)見(jiàn)，“對(duì)象化在機(jī)器體系中的價(jià)值表現(xiàn)為這樣一個(gè)前提，同它相比，單個(gè)勞動(dòng)能力創(chuàng)造價(jià)值的力量作為無(wú)限小的量而趨于消失?！?/p>

倘若“無(wú)用階層”的出現(xiàn)難以避免，從社會(huì)風(fēng)險(xiǎn)防范的角度來(lái)看，一定要從創(chuàng)造性教育、人文素質(zhì)培養(yǎng)上努力減少“無(wú)用階層”產(chǎn)生的沖擊波，通過(guò)系統(tǒng)的心理疏導(dǎo)和社會(huì)管控，從心理和精神層面展開(kāi)智能化的引導(dǎo)和校正。

要克服機(jī)器掌控世界和智能化鴻溝等可能給人類(lèi)文明帶來(lái)的風(fēng)險(xiǎn)，必須對(duì)人類(lèi)在智能系統(tǒng)中的地位和作用加以認(rèn)真的審視。

一般而言，如果將智能算法決策和自動(dòng)智能系統(tǒng)的操作過(guò)程視為一個(gè)閉環(huán)，人類(lèi)對(duì)自動(dòng)智能系統(tǒng)的控制一般有四種方式。一是人在閉環(huán)之中：人定義－機(jī)器人選擇－人確認(rèn)－機(jī)器執(zhí)行。二是人在閉環(huán)之上：人定義－機(jī)器人選擇－人可以使之中止－如人未使之中止－機(jī)器人執(zhí)行。三是人在閉環(huán)之外：人定義－機(jī)器選擇－機(jī)器執(zhí)行，人無(wú)法中止。四是人與閉環(huán)無(wú)關(guān)：機(jī)器定義－機(jī)器選擇－機(jī)器執(zhí)行。

通過(guò)這四種方式可以看到，隨著自動(dòng)駕駛和自動(dòng)智能武器系統(tǒng)等能力與威力的迅猛增長(zhǎng)，人對(duì)系統(tǒng)的控制作用卻在逐漸弱化，對(duì)風(fēng)險(xiǎn)防范和責(zé)任追究必將成為社會(huì)關(guān)注的焦點(diǎn)。但要克服這些風(fēng)險(xiǎn)并沒(méi)有捷徑，只能通過(guò)諸如“無(wú)人駕駛是否比人類(lèi)駕駛更安全，更合乎道德”和“自動(dòng)智能武器系統(tǒng)會(huì)不會(huì)比士兵作戰(zhàn)更人道”等悖論的探討，從具體的人機(jī)共生的可能情境中，不斷展開(kāi)對(duì)人機(jī)關(guān)系的再思考。

為了從根本上抑制自動(dòng)智能系統(tǒng)可能帶來(lái)的風(fēng)險(xiǎn)，應(yīng)考慮引入若干促進(jìn)人機(jī)相互理解與協(xié)同的策略。其一，將人與機(jī)器之間的相互理解作為自動(dòng)智能系統(tǒng)的基礎(chǔ)和前提，其中既應(yīng)包括理性層面的認(rèn)知方式與知識(shí)表達(dá)層面的人機(jī)相互理解，還應(yīng)包括人與機(jī)器之間的共情關(guān)系和同理心的構(gòu)建。

其二，一些重大決策和執(zhí)行系統(tǒng)如果采用自動(dòng)智能系統(tǒng)，應(yīng)有多個(gè)備份和功能類(lèi)似的替代性系統(tǒng)，以防范系統(tǒng)風(fēng)險(xiǎn)。

其三，構(gòu)建人工智能應(yīng)用特區(qū)，在有條件的科技創(chuàng)新中心的部分地區(qū)，廣泛、深入、充分地展開(kāi)人機(jī)互動(dòng)試驗(yàn)，探索面向未來(lái)人機(jī)共生社會(huì)的創(chuàng)新文化。

-----

本文節(jié)選自作者刊于《當(dāng)代美國(guó)評(píng)論》2019年第1期的論文“面向人工智能時(shí)代的倫理策略”?！芭炫取苯?jīng)授權(quán)選編。