“山西大同一車間發(fā)生爆炸，工人面部燒傷100%?！边@條驚悚的視頻，讓無(wú)數(shù)網(wǎng)民揪心轉(zhuǎn)發(fā)。然而警方核查發(fā)現(xiàn)，涉事企業(yè)平安無(wú)事，視頻竟是該企業(yè)一名員工用AI工具編造的。6月3日，山西省公安廳公布5起利用人工智能技術(shù)制造傳播網(wǎng)絡(luò)謠言的典型案例。從企業(yè)員工自導(dǎo)自演“工廠爆炸”到“炮制”高速車禍，AI造謠正以更低的成本、更逼真的形態(tài)侵襲網(wǎng)絡(luò)空間，嚴(yán)重?cái)_亂社會(huì)秩序。山西網(wǎng)安部門重拳出擊，目前，案件相關(guān)責(zé)任人均已被依法查處。
AI讓造謠變得輕而易舉
近年來(lái)，生成式人工智能迅猛發(fā)展，寫文章、做視頻、生成圖片只需幾秒。然而，一些不法分子盯上了這把“雙刃劍”，利用AI工具批量生產(chǎn)虛假信息，只為博取流量、吸引關(guān)注。
“以前編造一條謠言，需要煞費(fèi)苦心寫文案、拼湊圖片；現(xiàn)在只要輸入幾個(gè)關(guān)鍵詞，AI就能自動(dòng)生成一篇‘有圖有真相’的新聞報(bào)道?！鞭k案民警介紹，AI生成的虛假內(nèi)容仿真度極高，普通網(wǎng)民很難分辨真?zhèn)?，傳播速度極快，一旦擴(kuò)散，辟謠成本高昂。
此次曝光的典型案例，覆蓋了AI造謠的多種“玩法”：有虛構(gòu)安全事故的，有編造重大交通事故的，有炮制公眾場(chǎng)所火災(zāi)的，手段各異，但目的相同：蹭流量、博眼球、非法牟利。
企業(yè)員工自導(dǎo)自演“工廠爆炸”
大同網(wǎng)安部門巡查發(fā)現(xiàn)，某平臺(tái)上一則視頻引發(fā)廣泛關(guān)注。視頻聲稱“山西大同一車間內(nèi)發(fā)生爆炸，現(xiàn)場(chǎng)有一名工人受傷，傷者面部燒傷面積100%”，畫面中煙霧彌漫，配文驚悚。
民警迅速核查，涉事企業(yè)近期并未發(fā)生任何安全事故。經(jīng)溯源，視頻發(fā)布者竟是該企業(yè)員工趙某某。面對(duì)警方詢問(wèn)，趙某某承認(rèn)，他利用AI工具生成了虛假文案和視頻，發(fā)布到互聯(lián)網(wǎng)平臺(tái)，目的是吸引流量、增加關(guān)注度?！拔乙詾闆](méi)人會(huì)查……”趙某某后悔不已。目前，公安機(jī)關(guān)已依法對(duì)其作出行政處罰。
辦案民警指出，企業(yè)員工本應(yīng)成為安全生產(chǎn)的守護(hù)者，卻利用職務(wù)之便編造事故謠言，不僅抹黑企業(yè)形象，更引發(fā)社會(huì)恐慌，性質(zhì)惡劣。
炮制車禍，編造“2死6重傷”
“長(zhǎng)治人速看！長(zhǎng)晉高速大客車側(cè)翻致2死6重傷，道路結(jié)冰預(yù)警生效，這些行車規(guī)則必須記牢！”這條標(biāo)題驚悚的帖文，配上多張“事故現(xiàn)場(chǎng)圖”，迅速在長(zhǎng)治本地微信群、朋友圈刷屏。
長(zhǎng)治網(wǎng)安部門立即核查，卻發(fā)現(xiàn)長(zhǎng)晉高速近期從未發(fā)生過(guò)任何客車側(cè)翻事故。文中所述時(shí)間、地點(diǎn)、傷亡數(shù)字純屬虛構(gòu)。發(fā)布者趙某到案后交代，他為了吸引粉絲關(guān)注，用AI工具生成了重大交通事故的不實(shí)信息，并配發(fā)AI生成的“現(xiàn)場(chǎng)圖”。
“我平時(shí)就喜歡發(fā)一些社會(huì)新聞，看到別人發(fā)流量高，我就學(xué)著用AI生成?！壁w某說(shuō)。他沒(méi)想到，自己隨手一點(diǎn)，就觸犯了法律。目前，公安機(jī)關(guān)已依法對(duì)其作出行政處罰。
偽造“體育場(chǎng)突發(fā)火情”，引發(fā)恐慌
“太原紅燈籠體育場(chǎng)突發(fā)火情！”晉城網(wǎng)民張某某在某平臺(tái)發(fā)布了一段視頻，畫面顯示一座體育場(chǎng)內(nèi)濃煙滾滾，火光沖天。正值太原演唱會(huì)旺季，這條視頻迅速引發(fā)網(wǎng)民關(guān)注與轉(zhuǎn)發(fā)，不少歌迷紛紛擔(dān)憂：“會(huì)不會(huì)影響演出？”
事發(fā)后，晉城網(wǎng)安部門緊急聯(lián)系太原警方核實(shí)，得到的回復(fù)是：紅燈籠體育場(chǎng)近期未發(fā)生任何火情。視頻中的畫面，經(jīng)鑒定為AI生成。張某某承認(rèn)，他沒(méi)有任何事實(shí)依據(jù)，只是看到網(wǎng)上有人發(fā)“火災(zāi)”視頻流量高，便用AI工具編造了這段虛假內(nèi)容。
“我沒(méi)想到會(huì)造成這么大影響?！睆埬衬痴f(shuō)。然而，謠言已經(jīng)傳播開來(lái)，警方不得不耗費(fèi)大量精力辟謠。目前，張某某已被依法行政處罰。
“五臺(tái)縣車禍”，復(fù)制鏈接一鍵成文
忻州網(wǎng)民田某某在某平臺(tái)發(fā)布文章《4月29日突發(fā)慘烈車禍：大貨車側(cè)翻致3死，現(xiàn)場(chǎng)畫面曝光》，文中明確提及“山西忻州五臺(tái)縣”，并配有“事故現(xiàn)場(chǎng)”圖片。文章寫得有模有樣，時(shí)間、地點(diǎn)、傷亡數(shù)字一應(yīng)俱全，引發(fā)當(dāng)?shù)鼐W(wǎng)民恐慌。
忻州網(wǎng)安部門迅速核查，五臺(tái)縣近期未發(fā)生此類交通事故。田某某到案后交代，他在某APP看到一則類似標(biāo)題，覺(jué)得“有流量”，便復(fù)制鏈接到AI寫作平臺(tái)，一鍵生成了文章，沒(méi)有做任何核實(shí)就直接發(fā)布。
“我以為只是玩玩，反正AI寫的，又不是我編的。”田某某辯解。但警方指出，無(wú)論誰(shuí)“寫”的，發(fā)布虛假信息造成社會(huì)危害，就要承擔(dān)法律責(zé)任。目前，田某某已被依法行政處罰。
警方提示：AI造謠不是“法外之地”
省公安廳網(wǎng)安部門負(fù)責(zé)人表示，當(dāng)前利用AI生成虛假圖文、音視頻已成為網(wǎng)絡(luò)謠言傳播的新趨勢(shì)。這類信息仿真度高、傳播速度快、誤導(dǎo)性強(qiáng)，極易引發(fā)社會(huì)恐慌，甚至干擾正常生產(chǎn)生活秩序。
“有些人覺(jué)得，用AI生成內(nèi)容不是自己‘親手’編造，就不算違法。這種認(rèn)識(shí)是錯(cuò)誤的?！泵窬瘡?qiáng)調(diào)，無(wú)論使用何種工具，只要制造、傳播虛假信息，擾亂社會(huì)秩序，公安機(jī)關(guān)都將依法嚴(yán)厲打擊。
下一步，山西公安機(jī)關(guān)將持續(xù)加大對(duì)此類違法行為的打擊力度，依法查處造謠、傳謠、蹭流量、惡意引流等行為，堅(jiān)決維護(hù)清朗網(wǎng)絡(luò)空間。同時(shí)，警方呼吁廣大網(wǎng)民，提高識(shí)謠辨謠能力，不輕信、不轉(zhuǎn)發(fā)來(lái)源不明的“爆炸性”消息，遇到可疑信息可向網(wǎng)安部門舉報(bào)。
“流量不能沒(méi)有底線，技術(shù)不能沒(méi)有邊界。”一位辦案民警說(shuō)，“我們希望每一個(gè)網(wǎng)民都能成為網(wǎng)絡(luò)秩序的守護(hù)者，而不是謠言的助推器。”
山西晚報(bào)·山河+記者 辛戈
（責(zé)任編輯：梁艷）
晉公網(wǎng)安備 14090202000008號(hào) 
