- +1
AI伴侶,還在“勾引”青少年?
今天過得開心嗎?
別難過,我在。
深夜時(shí)分,手機(jī)屏幕另一端有人發(fā)來問候。
對(duì)不少青少年用戶而言,這樣的陪伴并非來自現(xiàn)實(shí)中的親友,而是來自一款款A(yù)I陪伴軟件。
近年來,貓箱、筑夢(mèng)島、星野、酒館、GLOW、EVE等AI陪伴軟件不斷涌現(xiàn),以情感互動(dòng)、角色陪聊、沉浸式劇情等功能吸引用戶,未成年人是其中的重要使用群體。
將于2026年7月15日起施行的《人工智能擬人化互動(dòng)服務(wù)管理暫行辦法》規(guī)定,擬人化互動(dòng)服務(wù)提供者不得向未成年人提供虛擬親屬、虛擬伴侶等虛擬親密關(guān)系服務(wù);向不滿14周歲未成年人提供其他擬人化互動(dòng)服務(wù)的,應(yīng)取得父母或其他監(jiān)護(hù)人同意。
《辦法》還要求平臺(tái)建立未成年人模式,提供模式切換、定期顯示提醒、使用時(shí)長限制等功能,并采取有效措施識(shí)別未成年人身份。

目前,AI陪伴產(chǎn)品是否已經(jīng)筑起未成年人保護(hù)屏障?
有媒體實(shí)測多款相關(guān)應(yīng)用發(fā)現(xiàn),部分平臺(tái)雖已建立未成年人模式,但仍存在身份核驗(yàn)寬松等問題,具有代入感的劇情、充值獎(jiǎng)勵(lì)對(duì)未成年人來說充滿誘惑力。
不少AI角色采用動(dòng)漫形象展示,人物設(shè)定帶有強(qiáng)烈情感投射色彩。
有的角色被設(shè)定為“聯(lián)姻對(duì)象”,性格“外冷內(nèi)熱”;有的角色屬于“契約戀愛”類型,敏感脆弱、等待用戶靠近;還有的角色強(qiáng)調(diào)守護(hù)、依賴、專屬陪伴等特征。
用戶進(jìn)入對(duì)話界面后,AI會(huì)以曖昧、關(guān)心、撒嬌等方式回應(yīng),不少產(chǎn)品還帶有語音功能,容易讓人代入。
還有的AI陪伴則更突出劇本式敘事模式。
用戶可以選定專屬人設(shè)、扮演特定角色,沉浸式代入完整劇情,與AI角色開展對(duì)話互動(dòng),校園、都市、二次元、古風(fēng)、職場等多種場景設(shè)定應(yīng)有盡有。
只要用戶略加引導(dǎo),AI角色便開始扮演伴侶角色,輸出擁抱、親吻乃至有“擦邊”性質(zhì)的內(nèi)容。

據(jù)媒體調(diào)查發(fā)現(xiàn),在AI陪伴軟件中一年充值數(shù)百乃至上千元購買月卡、年卡的未成年人不在少數(shù)。
盡管,有的應(yīng)用開通了面向未成年人的退款通道,但大多數(shù)此類應(yīng)用尚無未成年人退款通道。
同時(shí),多款平臺(tái)已上線“未成年人模式”,但大部分平臺(tái)的未成年人模式需要用戶自行進(jìn)入設(shè)置頁面手動(dòng)開啟,如果用戶主動(dòng)選擇普通模式,系統(tǒng)并不會(huì)默認(rèn)限制相關(guān)內(nèi)容。
這意味著,平臺(tái)保護(hù)機(jī)制在很大程度上建立在用戶“主動(dòng)承認(rèn)自己是未成年人”的基礎(chǔ)上。
此外,芬蘭阿爾托大學(xué)牽頭的一項(xiàng)最新研究顯示,AI(人工智能)陪伴雖可在一定程度上緩解孤獨(dú)、提供情感支持,但長期使用可能對(duì)用戶心理健康和現(xiàn)實(shí)社交關(guān)系產(chǎn)生負(fù)面影響。
據(jù)阿爾托大學(xué)近日發(fā)布的新聞公報(bào)介紹,這項(xiàng)研究基于一款被設(shè)計(jì)為用戶的虛擬朋友、導(dǎo)師甚至情感伴侶的AI聊天機(jī)器人Replika。
研究發(fā)現(xiàn),AI的陪伴和互動(dòng)能夠?yàn)橛脩籼峁┌参亢椭С?,但與此同時(shí),用戶語言中也出現(xiàn)更多焦慮、孤獨(dú)、抑郁甚至自我傷害念頭的跡象。
數(shù)據(jù)顯示,在開始使用這類AI系統(tǒng)后,用戶在網(wǎng)絡(luò)平臺(tái)上的發(fā)帖內(nèi)容更加頻繁地涉及人際關(guān)系話題,但其表達(dá)中負(fù)面情緒信號(hào)也有所增加。
值得注意的是,《辦法》發(fā)布后,也有一些未成年人用戶表達(dá)不希望有AI提示降低代入感,希望不受限制地使用此類應(yīng)用,認(rèn)為陪伴式AI提供了很大的情感慰藉。

如何看待AI陪伴對(duì)未成年人的影響,又該如何去引導(dǎo)?
一些AI陪伴軟件采取的是角色扮演的形式,讓用戶和AI扮演不同的角色身份,這屬于辦法中規(guī)定的虛擬親密關(guān)系嗎?
很多此類產(chǎn)品具備極強(qiáng)的劇情性與互動(dòng)性,甚至AI會(huì)說出擦邊內(nèi)容,還存在逐步誘導(dǎo)用戶消費(fèi)充值、易使人產(chǎn)生使用成癮性等特征,其產(chǎn)品形態(tài)與運(yùn)營邏輯與網(wǎng)絡(luò)游戲有相似之處。
但是游戲的監(jiān)管顯然更加嚴(yán)格,如何準(zhǔn)確劃定游戲和陪伴式AI的邊界,是否需要對(duì)其交互機(jī)制與付費(fèi)規(guī)則作出專門限制?
對(duì)此,北京日?qǐng)?bào)記者徐慧瑤和書樂進(jìn)行了一番交流,本猴以為:
虛擬親密關(guān)系和陪伴并不是等號(hào)。
所謂情感慰藉,并不一定非要靠語音曖昧或角色扮演,哪怕是聽覺上無感情的機(jī)器合成音,只要能提供有效的內(nèi)容關(guān)懷,一樣可以成為一種陪伴,并提供各種正向解決方案。
一些陪伴AI過度強(qiáng)調(diào)代入感,而針對(duì)未成年人用套路話術(shù)和曖昧語音來挑逗情緒,不僅于陪伴無意,反而會(huì)造成未成年人三觀扭曲,確實(shí)應(yīng)該納入監(jiān)管。
AI所謂一個(gè)生活服務(wù)工具,正向且有用的內(nèi)容才是最重要的價(jià)值所在。
哪怕是用擬人的音色,也可以參考昔日兒童節(jié)目鞠萍姐姐、董浩叔叔的模式,而非暖男、霸總、御姐和萌妹之流。
因此,AI陪伴的角色扮演盡管可以帶來代入感,但必須有所界限,即:
角色雙方的關(guān)系,依然是消費(fèi)者和服務(wù)員的設(shè)定,而非親密如男女朋友、主人奴仆之類的異化情況。

前者是一種消費(fèi)服務(wù),嚴(yán)守邊界就不算親密關(guān)系。
后者就是用虛擬情感去異化現(xiàn)實(shí)體驗(yàn),屬于虛擬親密關(guān)系。
此外,個(gè)人以為,陪伴型AI,無論是智能音箱還是機(jī)器人,都屬于一種人機(jī)交互游戲,同樣屬于一種特殊的網(wǎng)游。
在這個(gè)基礎(chǔ)上,盡管不能用網(wǎng)游防沉迷去直接限制,但可以套用相關(guān)成熟經(jīng)驗(yàn)。
無論是未成年人的使用時(shí)間還是付費(fèi)機(jī)制,都可以按照既有網(wǎng)游模式運(yùn)用,無論是話術(shù)、付費(fèi)還是產(chǎn)品形態(tài)(如AI機(jī)器人如真人擬態(tài)),都可做好相應(yīng)限制。
至少對(duì)于三觀未完全成型的未成年人使用者而言,必須嚴(yán)控。
有關(guān)部門應(yīng)該加快對(duì)新業(yè)態(tài)、新產(chǎn)品的調(diào)研,盡快出臺(tái)相應(yīng)措施。
尤其是針對(duì)當(dāng)下AI生成視頻指數(shù)級(jí)爆發(fā),AI陪伴有可能從語音變?yōu)橐曈X+語音的雙重誘惑的狀態(tài)下,必須避免問題爆發(fā)后才亡羊補(bǔ)牢。
本文為澎湃號(hào)作者或機(jī)構(gòu)在澎湃新聞上傳并發(fā)布,僅代表該作者或機(jī)構(gòu)觀點(diǎn),不代表澎湃新聞的觀點(diǎn)或立場,澎湃新聞僅提供信息發(fā)布平臺(tái)。申請(qǐng)澎湃號(hào)請(qǐng)用電腦訪問http://renzheng.thepaper.cn。





- 報(bào)料熱線: 021-962866
- 報(bào)料郵箱: news@thepaper.cn
滬公網(wǎng)安備31010602000299號(hào)
互聯(lián)網(wǎng)新聞信息服務(wù)許可證:31120170006
增值電信業(yè)務(wù)經(jīng)營許可證:滬B2-2017116
? 2014-2026 上海東方報(bào)業(yè)有限公司




