9月8日，在2024浦江創(chuàng)新論壇的科技倫理論壇上，中國工程院院士、國家科技倫理委員會委員、人工智能倫理分委員會主任、鵬城實(shí)驗(yàn)室主任高文表示，國內(nèi)百“模”大戰(zhàn)也消耗了大量資源，“整個(gè)社會用電里，大概1%~3%的耗電用在計(jì)算方面。”他建議加強(qiáng)國產(chǎn)算力和國產(chǎn)生成式大模型構(gòu)建，把開源和閉源模型高效利用起來。

面對人工智能帶來的倫理問題，中國工程院院士高文表示，要加強(qiáng)技術(shù)研究和制度設(shè)計(jì)。

從完整概念提出至今，人工智能的發(fā)展歷史只有68年。高文表示，這68年里，人工智能經(jīng)歷了三個(gè)階段：第一階段是基于邏輯推理的人工智能，大約經(jīng)歷了20年；第二階段是基于規(guī)則的專家系統(tǒng)階段，這些規(guī)則由人類一條條羅列出來，也由神經(jīng)網(wǎng)絡(luò)訓(xùn)練而來，這個(gè)階段持續(xù)了大約30年。

從2006年至今是人工智能發(fā)展的第三階段，也就是基于深度神經(jīng)網(wǎng)絡(luò)的階段。這一階段實(shí)際上又經(jīng)歷了兩次浪潮，其中第一次浪潮是可用神經(jīng)網(wǎng)絡(luò)對圖像分類的判別式人工智能，第二次浪潮則是從2017年起步的生成式人工智能。

生成式人工智能會帶來深度偽造、詐騙、抄襲、歧視、侵犯隱私和數(shù)據(jù)安全、“勞動降級”等社會問題。高文表示，判別式人工智能和生成式人工智能如火如荼，但對當(dāng)前的勞動力市場影響不大，下一輪熱潮很可能是具身智能、人形機(jī)器人等，真正對勞動力市場產(chǎn)生大規(guī)模影響的，也是這一輪?！叭绻麢C(jī)器人被大量使用，怎樣使作為勞動力的人仍有工作，是我們必須要面臨的問題?！?/p>

高文表示，要從倫理上監(jiān)管人工智能帶來的社會問題。當(dāng)前的人工智能倫理面臨兩個(gè)派別，一派認(rèn)為要堅(jiān)決控制風(fēng)險(xiǎn)，另一派認(rèn)為現(xiàn)在的人工智能尚未發(fā)展到需要立刻踩剎車的階段，現(xiàn)在只需設(shè)計(jì)好剎車，但不需要踩剎車。

“我們必須要有足夠的技術(shù)手段，在數(shù)據(jù)、算法或使用中設(shè)立規(guī)范和標(biāo)準(zhǔn)。”他認(rèn)為，要想規(guī)避這些危害，就需要加強(qiáng)技術(shù)研究和制度設(shè)計(jì)，將來必須能對人工智能踩剎車、關(guān)電源，在設(shè)計(jì)人工智能時(shí)要留有處理手段。“剎車的好壞、靈敏度都和技術(shù)有關(guān)，所以要加強(qiáng)技術(shù)研究。裝不裝剎車、什么時(shí)候裝剎車，這需要制度配合?！?/p>

他也提到，除了文生文 ，還要考慮文生圖、文生視頻，“大語言模型是一維的數(shù)據(jù)串，到了圖像就變成了兩維數(shù)據(jù)，到了視頻就變成三維數(shù)據(jù)，這些數(shù)據(jù)怎么在統(tǒng)一架構(gòu)下訓(xùn)練和學(xué)習(xí)？所以有很多技術(shù)上的問題需要考慮?！备呶谋硎荆訌?qiáng)技術(shù)研究，完善理論基礎(chǔ)驗(yàn)證，提升模型可解釋性，嚴(yán)格控制生成式人工智能的底層價(jià)值取向，實(shí)現(xiàn)安全價(jià)值對齊，“現(xiàn)在還是靠人來做對齊，把人回答的一些解讀一點(diǎn)點(diǎn)輸入來對齊，有沒有更好的對接方法，這也需要技術(shù)跟進(jìn)。”

在算力能耗方面，“目前人工智能給我們帶來的一個(gè)技術(shù)和社會問題就是耗能太高。整個(gè)社會用電里，大概1%~3%的耗電用在計(jì)算方面。人工智能稍微再往前走一兩年，大概有10%的耗電用在算力上，再往前走很可能要30%左右被算力耗掉?！备呶谋硎荆绾斡行Ю秒娏ψ鲞m當(dāng)?shù)乃懔κ钱?dāng)前面臨的挑戰(zhàn)，國內(nèi)百“?！贝髴?zhàn)也消耗了大量資源，要把開源和閉源模型高效利用起來，加強(qiáng)國產(chǎn)算力和國產(chǎn)生成式大模型構(gòu)建。

與此同時(shí)，要確保數(shù)據(jù)要素可信流通。在制度設(shè)計(jì)方面，要開展與生成式人工智能倫理相關(guān)的理論研究，完善生成式人工智能的法律法規(guī)建設(shè)?！拔覀円谥卫眍I(lǐng)域形成共識，加強(qiáng)國際合作。”高文表示。