9月8日，在2024浦江創(chuàng)新論壇的科技倫理論壇上，中國(guó)工程院院士、國(guó)家科技倫理委員會(huì)委員、人工智能倫理分委員會(huì)主任、鵬城實(shí)驗(yàn)室主任高文表示，國(guó)內(nèi)百“模”大戰(zhàn)也消耗了大量資源，“整個(gè)社會(huì)用電里，大概1%~3%的耗電用在計(jì)算方面?！彼ㄗh加強(qiáng)國(guó)產(chǎn)算力和國(guó)產(chǎn)生成式大模型構(gòu)建，把開(kāi)源和閉源模型高效利用起來(lái)。

面對(duì)人工智能帶來(lái)的倫理問(wèn)題，中國(guó)工程院院士高文表示，要加強(qiáng)技術(shù)研究和制度設(shè)計(jì)。

從完整概念提出至今，人工智能的發(fā)展歷史只有68年。高文表示，這68年里，人工智能經(jīng)歷了三個(gè)階段：第一階段是基于邏輯推理的人工智能，大約經(jīng)歷了20年；第二階段是基于規(guī)則的專家系統(tǒng)階段，這些規(guī)則由人類一條條羅列出來(lái)，也由神經(jīng)網(wǎng)絡(luò)訓(xùn)練而來(lái)，這個(gè)階段持續(xù)了大約30年。

從2006年至今是人工智能發(fā)展的第三階段，也就是基于深度神經(jīng)網(wǎng)絡(luò)的階段。這一階段實(shí)際上又經(jīng)歷了兩次浪潮，其中第一次浪潮是可用神經(jīng)網(wǎng)絡(luò)對(duì)圖像分類的判別式人工智能，第二次浪潮則是從2017年起步的生成式人工智能。

生成式人工智能會(huì)帶來(lái)深度偽造、詐騙、抄襲、歧視、侵犯隱私和數(shù)據(jù)安全、“勞動(dòng)降級(jí)”等社會(huì)問(wèn)題。高文表示，判別式人工智能和生成式人工智能如火如荼，但對(duì)當(dāng)前的勞動(dòng)力市場(chǎng)影響不大，下一輪熱潮很可能是具身智能、人形機(jī)器人等，真正對(duì)勞動(dòng)力市場(chǎng)產(chǎn)生大規(guī)模影響的，也是這一輪。“如果機(jī)器人被大量使用，怎樣使作為勞動(dòng)力的人仍有工作，是我們必須要面臨的問(wèn)題?！?/p>

高文表示，要從倫理上監(jiān)管人工智能帶來(lái)的社會(huì)問(wèn)題。當(dāng)前的人工智能倫理面臨兩個(gè)派別，一派認(rèn)為要堅(jiān)決控制風(fēng)險(xiǎn)，另一派認(rèn)為現(xiàn)在的人工智能尚未發(fā)展到需要立刻踩剎車的階段，現(xiàn)在只需設(shè)計(jì)好剎車，但不需要踩剎車。

“我們必須要有足夠的技術(shù)手段，在數(shù)據(jù)、算法或使用中設(shè)立規(guī)范和標(biāo)準(zhǔn)?！彼J(rèn)為，要想規(guī)避這些危害，就需要加強(qiáng)技術(shù)研究和制度設(shè)計(jì)，將來(lái)必須能對(duì)人工智能踩剎車、關(guān)電源，在設(shè)計(jì)人工智能時(shí)要留有處理手段?！皠x車的好壞、靈敏度都和技術(shù)有關(guān)，所以要加強(qiáng)技術(shù)研究。裝不裝剎車、什么時(shí)候裝剎車，這需要制度配合。”

他也提到，除了文生文 ，還要考慮文生圖、文生視頻，“大語(yǔ)言模型是一維的數(shù)據(jù)串，到了圖像就變成了兩維數(shù)據(jù)，到了視頻就變成三維數(shù)據(jù)，這些數(shù)據(jù)怎么在統(tǒng)一架構(gòu)下訓(xùn)練和學(xué)習(xí)？所以有很多技術(shù)上的問(wèn)題需要考慮?！备呶谋硎荆訌?qiáng)技術(shù)研究，完善理論基礎(chǔ)驗(yàn)證，提升模型可解釋性，嚴(yán)格控制生成式人工智能的底層價(jià)值取向，實(shí)現(xiàn)安全價(jià)值對(duì)齊，“現(xiàn)在還是靠人來(lái)做對(duì)齊，把人回答的一些解讀一點(diǎn)點(diǎn)輸入來(lái)對(duì)齊，有沒(méi)有更好的對(duì)接方法，這也需要技術(shù)跟進(jìn)?！?/p>

在算力能耗方面，“目前人工智能給我們帶來(lái)的一個(gè)技術(shù)和社會(huì)問(wèn)題就是耗能太高。整個(gè)社會(huì)用電里，大概1%~3%的耗電用在計(jì)算方面。人工智能稍微再往前走一兩年，大概有10%的耗電用在算力上，再往前走很可能要30%左右被算力耗掉?！备呶谋硎荆绾斡行Ю秒娏ψ鲞m當(dāng)?shù)乃懔κ钱?dāng)前面臨的挑戰(zhàn)，國(guó)內(nèi)百“?！贝髴?zhàn)也消耗了大量資源，要把開(kāi)源和閉源模型高效利用起來(lái)，加強(qiáng)國(guó)產(chǎn)算力和國(guó)產(chǎn)生成式大模型構(gòu)建。

與此同時(shí)，要確保數(shù)據(jù)要素可信流通。在制度設(shè)計(jì)方面，要開(kāi)展與生成式人工智能倫理相關(guān)的理論研究，完善生成式人工智能的法律法規(guī)建設(shè)。“我們要在治理領(lǐng)域形成共識(shí)，加強(qiáng)國(guó)際合作?！备呶谋硎?。