從科幻和未來(lái)圖景回到現(xiàn)實(shí)，人工智能當(dāng)下發(fā)展的主要特征是數(shù)據(jù)智能興起與解析社會(huì)的來(lái)臨。當(dāng)前的人工智能熱主要得益于數(shù)據(jù)智能即數(shù)據(jù)驅(qū)動(dòng)的智能發(fā)展，各種人工智能應(yīng)用方興未艾的基礎(chǔ)是對(duì)數(shù)據(jù)的認(rèn)知計(jì)算和機(jī)器學(xué)習(xí)。所謂數(shù)據(jù)就是一切可以以電子化形式對(duì)人和世界的記錄。

隨著移動(dòng)智能終端、監(jiān)控與傳感技術(shù)、普適計(jì)算、身體與生物信息采集、大型科學(xué)裝置與數(shù)據(jù)密集型科學(xué)等方面的發(fā)展，各種類(lèi)型的數(shù)據(jù)呈指數(shù)級(jí)增長(zhǎng)，數(shù)據(jù)對(duì)人的狀態(tài)和行為的記錄無(wú)處不在，不管是主動(dòng)還是被動(dòng)，每個(gè)人和各種事物都是數(shù)據(jù)的貢獻(xiàn)者。由此，數(shù)據(jù)與存在如影隨形，甚至可以說(shuō)“數(shù)據(jù)就是存在”“世界等同于數(shù)據(jù)”。

數(shù)據(jù)智能的實(shí)質(zhì)就是透過(guò)對(duì)數(shù)據(jù)的自動(dòng)化、智能化認(rèn)知分析人的行為，建立在數(shù)據(jù)智能分析之上的人類(lèi)社會(huì)可以稱(chēng)之為解析社會(huì)。就像17世紀(jì)，笛卡爾提出解析幾何這一精確地分析運(yùn)動(dòng)軌跡的方法一樣，數(shù)據(jù)智能可以對(duì)人的行為軌跡加以記錄和解析并實(shí)施相應(yīng)的引導(dǎo)和調(diào)控。一切都將被記錄，一切都將被分析，建立在數(shù)據(jù)智能之上的社會(huì)正在走向解析社會(huì)。

數(shù)據(jù)智能對(duì)人類(lèi)社會(huì)的洞察如同透鏡對(duì)自然界的透視，可以稱(chēng)之為數(shù)據(jù)透鏡。13世紀(jì)時(shí)，人們發(fā)明了透鏡，后來(lái)又用它制造出了望遠(yuǎn)鏡和顯微鏡，從微觀(guān)到宇觀(guān)天體系統(tǒng)，整個(gè)世界的自然圖景得以呈現(xiàn)和改變。

17世紀(jì)時(shí)，統(tǒng)計(jì)學(xué)的早期倡導(dǎo)者威廉?配蒂（William Petty） 寫(xiě)了本名為《政治算術(shù)》（Political Arithmetic）的小冊(cè)子，將數(shù)據(jù)的價(jià)值提升到了統(tǒng)治基礎(chǔ)的高度。如今，人們開(kāi)始運(yùn)用數(shù)據(jù)智能這一數(shù)據(jù)透鏡從各種可量化的層面，對(duì)個(gè)體和群體進(jìn)行社會(huì)計(jì)算，在記錄、解析、引導(dǎo)和調(diào)控人的行為的基礎(chǔ)上，對(duì)個(gè)人和社會(huì)進(jìn)行管理和治理。

基于數(shù)據(jù)智能的計(jì)算社會(huì)學(xué)和新社會(huì)物理學(xué)認(rèn)為，通過(guò)數(shù)據(jù)智能的解析，甚至可以站在“上帝的視角”來(lái)看整個(gè)社會(huì)和組織是怎樣來(lái)發(fā)展的。在城市管理中，數(shù)據(jù)智能的發(fā)展使網(wǎng)格化管理向“城市大腦”的方向發(fā)展。在組織管理中，對(duì)包括微表情在內(nèi)的人的行為數(shù)據(jù)的記錄，可以監(jiān)測(cè)并建議人們?cè)谥v堂或會(huì)議中如何更加集中注意力，如何互動(dòng)，而這種調(diào)控對(duì)人的控制力應(yīng)該是很強(qiáng)的。換句話(huà)說(shuō)，借助數(shù)據(jù)透鏡可以對(duì)人的行為進(jìn)行智能化的調(diào)節(jié)。

在數(shù)據(jù)智能的應(yīng)用中，數(shù)據(jù)成為計(jì)算、分析、評(píng)價(jià)、預(yù)測(cè)人的行為的素材與資源。雖然各種數(shù)據(jù)在采集時(shí)本來(lái)只有單一的目的，而一旦記錄下來(lái)以后，根據(jù)需要就可以有多重目的與各種各樣的用途。不同的數(shù)據(jù)整合后會(huì)帶來(lái)意想不到的效果。比如，把一個(gè)人的醫(yī)療數(shù)據(jù)和他的犯罪數(shù)據(jù)結(jié)合在一起，可以判斷這個(gè)人可能是真的因?yàn)橛心撤N精神疾患才去犯罪。有人在一些網(wǎng)站點(diǎn)擊了某些商品，馬上就會(huì)有推銷(xiāo)的電話(huà)打過(guò)來(lái)，對(duì)方知道某人的電話(huà)可能是因?yàn)槟橙嗽谧?cè)時(shí)登記的，也可能由網(wǎng)絡(luò)服務(wù)商或第三方的不當(dāng)個(gè)人數(shù)據(jù)泄露所致。

通過(guò)對(duì)不同的數(shù)據(jù)整合與分析，就使得它們成為反映和折射事實(shí)的素材，用于評(píng)價(jià)人的狀況和行為。因此，數(shù)據(jù)智能所帶來(lái)的解析社會(huì)首先表現(xiàn)為每個(gè)人的行為都會(huì)得到量化的評(píng)價(jià)。

在基于數(shù)據(jù)智能的評(píng)價(jià)型社會(huì)中，人類(lèi)所產(chǎn)生的各種數(shù)據(jù)被當(dāng)作事件和過(guò)程加以分析和調(diào)控，即數(shù)據(jù)智能通過(guò)對(duì)人的行為的評(píng)價(jià)來(lái)調(diào)節(jié)人類(lèi)自身的行為。在網(wǎng)絡(luò)購(gòu)物和網(wǎng)約車(chē)的使用中，各種應(yīng)用軟件會(huì)對(duì)使用者進(jìn)行評(píng)分，如果頻繁取消“滴滴”的叫車(chē)服務(wù)，軟件會(huì)“記仇”———因?yàn)樵u(píng)分下降，在特別需要叫車(chē)時(shí)，可能會(huì)得不到派車(chē)。軟件還可以根據(jù)某人是否愿意在著急的情況下加價(jià)支付以及每次加多少，評(píng)價(jià)某人的性格特征，甚至難免用于對(duì)某人的算計(jì)。

由于各種數(shù)據(jù)都可以從不同側(cè)面反映人的人格與行為特征，信貸、保險(xiǎn)等行業(yè)已經(jīng)開(kāi)始使用行業(yè)之外的大數(shù)據(jù)評(píng)價(jià)客戶(hù)。假如一個(gè)人有不當(dāng)?shù)穆放袨榛蛟谀承﹫?chǎng)所與他人發(fā)生過(guò)沖突，保險(xiǎn)公司有可能獲得這些事件的記錄數(shù)據(jù)并對(duì)其加以分析，某人很可能就要交數(shù)額較高的保費(fèi)。其實(shí)，這種評(píng)分體系一直就有，只不過(guò)是在數(shù)據(jù)智能出現(xiàn)以后，使用的大數(shù)據(jù)資源更廣，分析與評(píng)價(jià)的自動(dòng)化和智能化程度更高，其應(yīng)用越來(lái)越朝著規(guī)?；姆较虬l(fā)展。

美國(guó)的一些法院已經(jīng)在使用一些特定的算法預(yù)測(cè)犯人再次犯罪的概率，并據(jù)此決定是否假釋。隨著各種大數(shù)據(jù)集的建構(gòu)以及數(shù)據(jù)智能的普遍應(yīng)用，這種預(yù)測(cè)犯罪概率的算法將更為智能化和普及，甚至用于對(duì)潛在的嫌疑對(duì)象沒(méi)有實(shí)施的犯罪的預(yù)測(cè)、控制和打擊，而這種治未罪的做法顯然不同于一般對(duì)嫌疑犯無(wú)罪推定的做法。

但問(wèn)題是，實(shí)行這些評(píng)價(jià)的數(shù)據(jù)模型和智能算法一般被當(dāng)作行業(yè)和部門(mén)的機(jī)密，被評(píng)價(jià)者往往不知道它們的存在，對(duì)于非專(zhuān)業(yè)人員來(lái)說(shuō)它們?nèi)缤诤校瑢?duì)其一無(wú)所知。評(píng)價(jià)一旦出現(xiàn)偏差，不僅很難加以糾正，而且會(huì)被視為一種合理的結(jié)論，使偏差持續(xù)強(qiáng)化而造成惡性循環(huán)，甚至?xí)ㄟ^(guò)數(shù)據(jù)的跨領(lǐng)域運(yùn)用導(dǎo)致附加傷害。

近年來(lái)，基于數(shù)據(jù)智能的智能化生活已經(jīng)初現(xiàn)端倪。其一是量化自我，在可穿戴技術(shù)的推動(dòng)下，量化自我運(yùn)動(dòng)的實(shí)踐者運(yùn)用運(yùn)動(dòng)手環(huán)等各種可穿戴設(shè)備，對(duì)人們的健康狀態(tài)和運(yùn)動(dòng)情況進(jìn)行量化評(píng)價(jià)和管理，并在微信等社交軟件上展示。但這在一定程度上也是人屈從于機(jī)器的一種表現(xiàn)，而實(shí)際上有很多東西是不可量化的。

其二是智能陪伴，隨著人工智能和機(jī)器人技術(shù)的發(fā)展，各種陪伴機(jī)器人、智能音箱、記憶管家將得到普遍應(yīng)用。由于這些技術(shù)還在發(fā)展之中，難免出現(xiàn)體驗(yàn)不佳、言行誤導(dǎo)和成癮等負(fù)面后果。尤其值得關(guān)注的是，智能陪伴將使個(gè)人的所有活動(dòng)數(shù)據(jù)得到全面的采集，這些數(shù)據(jù)的采集與使用無(wú)疑將在法律和倫理層面帶來(lái)巨大的挑戰(zhàn)。

從信息化向智能化發(fā)展的維度來(lái)看，正在興起的智能化社會(huì)可以視為控制革命的2.0版。20世紀(jì)80年代，信息社會(huì)的研究者、美國(guó)傳播學(xué)學(xué)者詹姆斯?貝尼格（James Beniger）寫(xiě)過(guò)一本《控制革命：信息社會(huì)的技術(shù)與經(jīng)濟(jì)起源》（ The Control Revolution：Technological and Economic Origins of the Information Society）的書(shū)。該書(shū)指出，19世紀(jì)以來(lái)，城市化帶來(lái)的陌生人社會(huì)和現(xiàn)代工業(yè)化大生產(chǎn)導(dǎo)致了一系列的控制的危機(jī)，信息技術(shù)的發(fā)展就是對(duì)它們的回應(yīng)，由此從電報(bào)、無(wú)線(xiàn)電到計(jì)算機(jī)和互聯(lián)網(wǎng)等信息技術(shù)的發(fā)展，導(dǎo)致了一系列控制革命。智能化的解析社會(huì)中，通過(guò)數(shù)據(jù)智能可以對(duì)社會(huì)和人進(jìn)行最大限度的解析，形成觀(guān)測(cè)、監(jiān)視、預(yù)測(cè)、評(píng)價(jià)、誘導(dǎo)等全新的智能化控制手段。一個(gè)典型的反面案例是智能化賭場(chǎng)，通過(guò)對(duì)人的表情和行為精細(xì)的數(shù)據(jù)洞察設(shè)計(jì)，完全可以設(shè)計(jì)出一種智能化的上癮機(jī)制使賭徒無(wú)法自拔。

透過(guò)對(duì)數(shù)據(jù)智能和解析社會(huì)的描述，已經(jīng)可以清晰地看到巨大的力量。這種力量的實(shí)質(zhì)不僅僅意味著工具理性或某種自主性的技術(shù)力量，與掌控這種力量主體和被這種力量所掌控的主體休戚相關(guān)，更多地關(guān)涉尼采意味的權(quán)力意志與葛蘭西式（Gramscian）霸權(quán)，故而應(yīng)從主體能動(dòng)性的維度，對(duì)作為數(shù)據(jù)智能和解析社會(huì)基礎(chǔ)的智能算法展開(kāi)必要的價(jià)值追問(wèn)與倫理審度。

-----

本文節(jié)選自作者刊于《當(dāng)代美國(guó)評(píng)論》2019年第1期的論文“面向人工智能時(shí)代的倫理策略”。作者段偉文系中國(guó)社會(huì)科學(xué)院哲學(xué)所研究員，中國(guó)社會(huì)科學(xué)院科學(xué)技術(shù)和社會(huì)研究中心主任。“澎湃”經(jīng)授權(quán)選編。