張?zhí)烊未?/p>

“人工智能在帶來巨大機(jī)遇和利益的同時(shí)，也可能引發(fā)一系列社會(huì)經(jīng)濟(jì)、道德倫理等問題，啟動(dòng)立法研究、制定專門的綜合性法律勢(shì)在必行?！比珖?guó)人大代表、天能控股集團(tuán)董事長(zhǎng)張?zhí)烊蜗蚴膶萌珖?guó)人大三次會(huì)議提交議案，建議制定“人工智能管理法”，在鼓勵(lì)突破關(guān)鍵技術(shù)，引導(dǎo)社會(huì)資源向人工智能前沿領(lǐng)域傾斜，提升我國(guó)技術(shù)自主可控能力的同時(shí)，注意防范和應(yīng)對(duì)可能出現(xiàn)的負(fù)面效應(yīng)。

AI技術(shù)正呈現(xiàn)爆發(fā)式增長(zhǎng)態(tài)勢(shì)，應(yīng)用場(chǎng)景不斷拓展，也出現(xiàn)錯(cuò)綜復(fù)雜的問題。張?zhí)烊伪硎荆绮糠制髽I(yè)利用AI技術(shù)虛假宣傳、夸大宣傳；AI系統(tǒng)高度依賴海量數(shù)據(jù)，在數(shù)據(jù)收集、存儲(chǔ)、使用過程中，隱私泄露的風(fēng)險(xiǎn)很高。算法歧視則可能損害社會(huì)公平，在招聘、貸款審批、司法量刑等決策環(huán)節(jié)，基于有偏差數(shù)據(jù)訓(xùn)練的算法可能對(duì)特定群體造成不公平。此外，當(dāng)人工智能系統(tǒng)引發(fā)事故、造成損害時(shí)，責(zé)任界定的模糊性可能使受害者難以尋求有效救濟(jì)。

“我國(guó)已出臺(tái)一些法律法規(guī)和政策文件，如《生成式人工智能服務(wù)管理暫行辦法》等，但較為零散，無法涵蓋AI領(lǐng)域各類問題和應(yīng)用場(chǎng)景。”他建議，“人工智能管理法”以提高新質(zhì)生產(chǎn)力、建設(shè)數(shù)字中國(guó)為目標(biāo)，統(tǒng)籌規(guī)范與促進(jìn)、保護(hù)與創(chuàng)新、發(fā)展與安全、當(dāng)下與長(zhǎng)遠(yuǎn)、國(guó)際合作與競(jìng)爭(zhēng)，內(nèi)容包括總則、研發(fā)管理、產(chǎn)品與服務(wù)管理、應(yīng)用管理、責(zé)任劃分與保險(xiǎn)制度、保障和監(jiān)督、國(guó)際合作與資源共享、法律責(zé)任等。

關(guān)于立法重點(diǎn)，他認(rèn)為要建立科技倫理規(guī)范體系，為研發(fā)設(shè)計(jì)人員制定道德規(guī)范和行為守則，構(gòu)建人機(jī)協(xié)作的倫理框架，推動(dòng)人工智能朝通用、可信、負(fù)責(zé)任的方向發(fā)展。

其次，建立公開透明的監(jiān)管體系。設(shè)立專門的監(jiān)管機(jī)構(gòu)，或明確現(xiàn)有監(jiān)管機(jī)構(gòu)的職責(zé)，加強(qiáng)對(duì)人工智能行業(yè)的監(jiān)督檢查。提升模型技術(shù)、數(shù)據(jù)源的透明度，讓用戶能深入了解模型的運(yùn)行機(jī)制，提升信任度。制訂、落實(shí)人工智能備案制度，強(qiáng)化審查，定期評(píng)估，一旦利益相關(guān)者的合法權(quán)益因人工智能決策遭受損害，完善的可解釋性機(jī)制能迅速介入，及時(shí)解答用戶疑問并提供相應(yīng)的法律救濟(jì)渠道。

鑒于人工智能技術(shù)的全球化發(fā)展趨勢(shì)，張?zhí)烊伪硎荆瑧?yīng)將在我國(guó)境內(nèi)運(yùn)營(yíng)，或?qū)ξ覈?guó)用戶產(chǎn)生影響的外國(guó)主體納入備案管理范疇，確保其遵守我國(guó)關(guān)于人工智能發(fā)展的法律法規(guī)和監(jiān)管要求。

第三，明確責(zé)任主體與責(zé)任承擔(dān)程度。在責(zé)任判定中，應(yīng)綜合考慮行為人、人工智能服務(wù)提供商在侵權(quán)行為及損害后果中的實(shí)際作用，參考相關(guān)條款，明確人工智能提供者的高度注意義務(wù)，賦予相應(yīng)的責(zé)任義務(wù)。根據(jù)不同違法行為或損害后果，制定相應(yīng)的責(zé)任承擔(dān)方式和程度。

此外，建立健全數(shù)據(jù)保護(hù)與安全機(jī)制。規(guī)范人工智能收集數(shù)據(jù)的使用范圍，僅限授權(quán)范圍內(nèi)用于特定的研發(fā)、優(yōu)化和應(yīng)用場(chǎng)景。建立數(shù)據(jù)共享審批機(jī)制，明確條件和流程，確保接收方具備相應(yīng)的數(shù)據(jù)保護(hù)能力，并簽訂數(shù)據(jù)保護(hù)協(xié)議。對(duì)跨境數(shù)據(jù)傳輸進(jìn)行更嚴(yán)格的審查監(jiān)管，保障國(guó)家數(shù)據(jù)主權(quán)和公民隱私安全。建立審計(jì)制度，對(duì)數(shù)據(jù)的收集、使用、共享等全過程進(jìn)行審計(jì)記錄，出現(xiàn)問題可以追溯，確保安全管理的可問責(zé)性。