- +1
ChatGPT推出年齡預(yù)測功能保護未成年用戶安全
為了保護年輕用戶,OpenAI在ChatGPT中引入了"年齡預(yù)測"功能,旨在幫助識別未成年人并對其對話內(nèi)容實施合理限制。
隨著人們對AI對年輕人影響的擔(dān)憂持續(xù)加劇,OpenAI近年來因ChatGPT對兒童的影響而受到嚴(yán)厲批評。多起青少年自殺事件被認(rèn)為與該聊天機器人有關(guān),與其他AI供應(yīng)商一樣,OpenAI也因允許ChatGPT與年輕用戶討論性話題而受到批評。去年4月,該公司被迫處理一個漏洞,該漏洞允許聊天機器人為18歲以下用戶生成色情內(nèi)容。
OpenAI一直在努力解決未成年用戶問題,新的"年齡預(yù)測"功能只是在現(xiàn)有保護措施基礎(chǔ)上的補充。該公司在周二的博客文章中表示,這項新功能利用AI算法評估用戶賬戶的特定"行為和賬戶級信號",以識別年輕用戶。
這些"信號"包括用戶聲明的年齡、賬戶存在時間長度以及賬戶通?;钴S的時段等。該公司已經(jīng)建立了內(nèi)容過濾器,旨在為18歲以下用戶過濾性、暴力和其他潛在問題話題的討論。如果年齡預(yù)測機制識別出某個賬戶為18歲以下,這些過濾器會自動應(yīng)用。
如果用戶被錯誤地標(biāo)記為未成年人,他們可以通過向OpenAI的身份驗證合作伙伴Persona提交自拍照來重新確立其"成人"賬戶狀態(tài)。
Q&A
Q1:ChatGPT的年齡預(yù)測功能是如何工作的?
A:年齡預(yù)測功能利用AI算法評估用戶賬戶的特定"行為和賬戶級信號"來識別年輕用戶。這些信號包括用戶聲明的年齡、賬戶存在時間長度以及賬戶通?;钴S的時段等。
Q2:為什么OpenAI要推出這個年齡預(yù)測功能?
A:因為ChatGPT對兒童的影響受到嚴(yán)厲批評,多起青少年自殺事件被認(rèn)為與該聊天機器人有關(guān),OpenAI也因允許ChatGPT與年輕用戶討論性話題而受到批評,甚至出現(xiàn)過為18歲以下用戶生成色情內(nèi)容的漏洞。
Q3:如果被錯誤識別為未成年用戶該怎么辦?
A:如果用戶被錯誤地標(biāo)記為未成年人,他們可以通過向OpenAI的身份驗證合作伙伴Persona提交自拍照來重新確立其"成人"賬戶狀態(tài),恢復(fù)正常的使用權(quán)限。
本文為澎湃號作者或機構(gòu)在澎湃新聞上傳并發(fā)布,僅代表該作者或機構(gòu)觀點,不代表澎湃新聞的觀點或立場,澎湃新聞僅提供信息發(fā)布平臺。申請澎湃號請用電腦訪問http://renzheng.thepaper.cn。





- 報料熱線: 021-962866
- 報料郵箱: news@thepaper.cn
互聯(lián)網(wǎng)新聞信息服務(wù)許可證:31120170006
增值電信業(yè)務(wù)經(jīng)營許可證:滬B2-2017116
? 2014-2026 上海東方報業(yè)有限公司




