近年來，隨著人工智能技術迅猛發(fā)展，一些不法分子為博取流量、吸引關注，利用AI工具編造虛假信息，嚴重破壞網(wǎng)絡生態(tài)，擾亂社會秩序，誤導公眾認知。為進一步提升全民識謠辨謠能力，6月3日，山西網(wǎng)安部門集中曝光5起近期查處的利用AI技術制造傳播網(wǎng)絡謠言的典型案例。

【案例一】為博流量虛構(gòu)“工廠爆炸”場景，企業(yè)員工被依法查處

近日，大同網(wǎng)安部門在工作中發(fā)現(xiàn)，有網(wǎng)民在某平臺發(fā)布視頻稱：“山西大同一車間內(nèi)發(fā)生爆炸，現(xiàn)場只有一名工人受傷，傷者面部燒傷面積100%”，引發(fā)網(wǎng)民關注。經(jīng)查，涉事企業(yè)并未發(fā)生任何安全事故，相關內(nèi)容系該企業(yè)員工趙某某通過AI工具生成的虛假文案和虛假視頻。在互聯(lián)網(wǎng)平臺發(fā)布后，引發(fā)網(wǎng)民關注，造成不良影響。目前，公安機關已依法對趙某某作出行政處罰。

【案例二】利用AI仿冒名人直播帶貨，擾亂秩序被依法查處

近日，大同網(wǎng)安部門在工作中發(fā)現(xiàn)，轄區(qū)居民邢某非法使用中國國民黨主席鄭麗文形象的AI數(shù)字人直播帶貨，引發(fā)網(wǎng)民質(zhì)疑，嚴重干擾正常網(wǎng)絡秩序。經(jīng)查，邢某從事直播帶貨，恰逢鄭麗文訪問大陸熱度很高，遂萌生利用名人熱度增加流量的想法。隨后在未經(jīng)授權的情況下，利用AI工具生成AI數(shù)字人形象及帶貨方案，之后在媒體平臺直播帶貨，引發(fā)社會關注，造成惡劣影響。目前，公安機關已依法對邢某作出行政處罰。

【案例三】AI生成“高速車禍”謠言，編造“2死6重傷”被依法查處

近日，長治網(wǎng)安部門在工作中發(fā)現(xiàn)，網(wǎng)民趙某在某網(wǎng)絡平臺發(fā)布題為“長治人速看！長晉高速大客車側(cè)翻致2死6重傷，道路結(jié)冰預警生效，這些行車規(guī)則必須記牢！”的貼文，配發(fā)多張所謂“事故現(xiàn)場圖”，引發(fā)網(wǎng)民轉(zhuǎn)發(fā)。經(jīng)查，長晉高速未發(fā)生此類交通事故，文中所述內(nèi)容純屬虛構(gòu)。趙某承認其為吸引粉絲關注，利用AI工具生成重大事故不實信息并發(fā)布。目前，公安機關已依法對趙某作出行政處罰。

【案例四】利用AI偽造“演唱會現(xiàn)場火災”，為博流量被依法查處

近日，晉城網(wǎng)安部門在工作中發(fā)現(xiàn)，某平臺網(wǎng)民發(fā)布一段視頻內(nèi)容，視頻顯示為某體育場內(nèi)疑似發(fā)生火災，并配文稱“太原紅燈籠體育場突發(fā)火情”。該視頻迅速引發(fā)網(wǎng)民關注與轉(zhuǎn)發(fā)，造成不良社會影響。經(jīng)查，網(wǎng)民張某某在未核實事件真實性、無任何事實依據(jù)的情況下，利用AI工具擅自編造“太原紅燈籠體育場突發(fā)火情”的虛假信息。目前，公安機關已依法對張某某作出行政處罰。

【案例五】AI生成虛假文章，發(fā)布“五臺縣車禍”謠言被依法查處

近日，忻州網(wǎng)安部門在工作中發(fā)現(xiàn)，某平臺網(wǎng)民發(fā)布文章《4月29日突發(fā)慘烈車禍：大貨車側(cè)翻致3死，現(xiàn)場畫面曝光》。文中明確提及“山西忻州五臺縣”，并附有AI生成的事故圖片，引發(fā)網(wǎng)民廣泛關注。經(jīng)查，五臺縣近期未發(fā)生此類交通事故。發(fā)布者田某某交代，其在某App看到類似標題后，復制鏈接至AI寫作平臺生成文章并直接發(fā)布。目前，公安機關已依法對田某某作出行政處罰。

公安機關提醒，當前，利用AI生成虛假圖文、音視頻已成為網(wǎng)絡謠言傳播的新趨勢。此類信息仿真度高、傳播速度快、誤導性強，極易引發(fā)社會恐慌。山西公安機關將持續(xù)加大對此類違法行為的打擊力度，依法查處造謠、傳謠、蹭流量、惡意引流等行為，堅決維護清朗網(wǎng)絡空間。