你有沒有想過，如今的人工智能技術(shù)，能不能用來解決人的情感需求呢？事實(shí)上，已經(jīng)有人瞄準(zhǔn)了這個(gè)商機(jī)——一些APP以提供虛擬數(shù)字人女友（男友）作為賣點(diǎn)，聲稱可以提供AI女友聊天、陪伴，AI女友自建等產(chǎn)品服務(wù)。

不過，法治網(wǎng)記者調(diào)查發(fā)現(xiàn)，部分APP提供的自動(dòng)生成內(nèi)容，存在涉嫌低俗、打色情擦邊球，含有性暗示內(nèi)容等現(xiàn)象，同時(shí)產(chǎn)品設(shè)計(jì)粗糙、平臺(tái)監(jiān)管不嚴(yán)、用戶實(shí)名制落實(shí)不力等問題也較為突出。

AI生成內(nèi)容涉嫌打色情擦邊球

法治網(wǎng)記者在某應(yīng)用小程序平臺(tái)進(jìn)行搜索發(fā)現(xiàn)，目前市場(chǎng)上存在多款以虛擬女友、虛擬戀愛、虛擬戀人、虛擬男友等為名稱的APP，其以與虛擬數(shù)字人女友（男友）在線聊天、戀愛等為賣點(diǎn)，以生成式人工智能大模型為底層技術(shù)邏輯，提供情侶日常情景對(duì)話內(nèi)容服務(wù)。

記者下載數(shù)款A(yù)PP，通過微信登錄后，便直接跳轉(zhuǎn)到會(huì)員付費(fèi)頁(yè)面。商家提供的付款方式，分為終身、年付和月付等幾種形式，費(fèi)用大都在十幾、幾十元不等。付完費(fèi)后，APP就會(huì)推薦十幾個(gè)AI女友形象，分為溫柔、腹黑、高冷等多種類型。記者隨意選擇幾款女友類型進(jìn)行測(cè)試，發(fā)現(xiàn)對(duì)方除了會(huì)主動(dòng)提供一些對(duì)話內(nèi)容外，還基本上可以按照使用者的要求，提供一些情侶間較為簡(jiǎn)單的日常聊天內(nèi)容，其中帶有涉嫌低俗、涉嫌打色情擦邊球和性暗示的內(nèi)容。用戶還可以根據(jù)各自喜好，自主創(chuàng)建設(shè)計(jì)女友形象。而創(chuàng)建的“AI女友”，沒有任何年齡、人群限制，審核流程也形同虛設(shè)，幾乎完全按照用戶自己的設(shè)想自動(dòng)生成相關(guān)AI形象，未成年人、老師、護(hù)士、空姐、御姐、高冷女性等，都成為“AI女友”的人物形象。

實(shí)名制和審核機(jī)制形同虛設(shè)

法治網(wǎng)記者調(diào)查發(fā)現(xiàn)，雖然部分APP明確標(biāo)注產(chǎn)品適用年齡階層為18+，但實(shí)際上用戶只需用手機(jī)和微信就可直接登錄，不需要任何審核流程，也不需要實(shí)名制，一些未成年人同樣可以登錄使用。

除了平臺(tái)注冊(cè)和內(nèi)容審核存在漏洞外，多款A(yù)PP還存在雷同、抄襲現(xiàn)象，從外觀到名字一模一樣的虛擬數(shù)字人形象，在兩款A(yù)PP中同時(shí)出現(xiàn)。在評(píng)論區(qū)，不少用戶表示，APP制作粗糙，提供內(nèi)容簡(jiǎn)單重復(fù)，并且頻繁誘導(dǎo)消費(fèi)者進(jìn)行購(gòu)買會(huì)員消費(fèi)，但充值后卻使用不暢。安插大量廣告，誘導(dǎo)消費(fèi)者進(jìn)行消費(fèi)。此外，由于對(duì)話內(nèi)容涉及個(gè)人隱私，存在個(gè)人信息泄露風(fēng)險(xiǎn)。

據(jù)統(tǒng)計(jì)，目前這幾款A(yù)PP下載安裝次數(shù)最多的達(dá)220萬人次左右。

對(duì)人工智能產(chǎn)品應(yīng)健全全生命周期監(jiān)管

《法治日?qǐng)?bào)》律師專家?guī)斐蓡T、北京觀韜中茂（上海）律師事務(wù)所合伙人、律師王渝偉表示，人工智能的發(fā)展應(yīng)當(dāng)遵循社會(huì)公序良俗，不能違反相關(guān)法律法規(guī)，同時(shí)應(yīng)進(jìn)一步提升平臺(tái)的合規(guī)意識(shí)和水平，堅(jiān)決抵制低俗、色情擦邊球、性暗示等內(nèi)容。

王渝偉表示，一些開發(fā)者或商家，通過低成本運(yùn)作開發(fā)相關(guān)產(chǎn)品，一旦出現(xiàn)問題或者面臨監(jiān)管風(fēng)險(xiǎn)，可能會(huì)通過金蟬脫殼的方式，將技術(shù)嫁接應(yīng)用于另外一個(gè)類似產(chǎn)品的研發(fā)推廣上，從而逃避監(jiān)管和法律制裁，繼續(xù)謀取利益。

而這需要相關(guān)部門繼續(xù)加大執(zhí)法監(jiān)管力度。他建議，應(yīng)進(jìn)一步細(xì)化法律法規(guī)的實(shí)施細(xì)則，加強(qiáng)執(zhí)法力度。同時(shí)，加強(qiáng)監(jiān)管側(cè)的監(jiān)管力度，加強(qiáng)對(duì)產(chǎn)品設(shè)計(jì)、開發(fā)、部署和應(yīng)用等產(chǎn)品全生命周期的監(jiān)管和合規(guī)建設(shè)。

北京師范大學(xué)法學(xué)院博士生導(dǎo)師、中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)研究中心副主任吳沈括認(rèn)為，應(yīng)進(jìn)一步提升網(wǎng)絡(luò)安全監(jiān)測(cè)和響應(yīng)機(jī)制?！皩?duì)人工智能的監(jiān)管，除了履行備案制度外，事前的倫理評(píng)估和安全評(píng)估，事中的風(fēng)險(xiǎn)監(jiān)測(cè)和事后的應(yīng)急響應(yīng)，以及投訴舉報(bào)機(jī)制也具有同樣重要的意義。”吳沈括說。