不久前，某公眾號(hào)運(yùn)營(yíng)者鐘某為蹭“海嘯預(yù)警”熱點(diǎn)，利用AI生成“30萬(wàn)居民撤離”等聳人聽(tīng)聞的言論，引發(fā)恐慌情緒。從編造“民警離職潮”到“爆炸事故”，從散布涉企謠言到“限制外賣配送”虛假信息，AI造謠已呈黑色產(chǎn)業(yè)鏈之勢(shì)，給社會(huì)治理帶來(lái)全新挑戰(zhàn)。

以謠生利，流量變現(xiàn)。不法者利用AI造謠，牟取互聯(lián)網(wǎng)內(nèi)容平臺(tái)獎(jiǎng)勵(lì)。以某大型內(nèi)容生產(chǎn)平臺(tái)為例，收益計(jì)算公式可簡(jiǎn)化為“有效播放量×互動(dòng)系數(shù)×千次播放單價(jià)”。平臺(tái)對(duì)點(diǎn)擊量高、互動(dòng)性強(qiáng)的原創(chuàng)性內(nèi)容給予更多收益分成。如果整體權(quán)重較高，一篇閱讀或播放100萬(wàn)次的稿件，收益超千元。此外，不正當(dāng)商業(yè)競(jìng)爭(zhēng)進(jìn)一步催生AI謠言黑色產(chǎn)業(yè)鏈，加劇謠言擴(kuò)散。

AI技術(shù)讓網(wǎng)絡(luò)謠言更為逼真，所謂“官方回應(yīng)”極具迷惑性。而且，AI通過(guò)過(guò)濾、推薦機(jī)制，將虛假信息聚合成“證據(jù)鏈”，“有圖有真相”，誤導(dǎo)普通用戶乃至專業(yè)人士。近日，安徽合肥公安網(wǎng)安部門查處一起利用網(wǎng)絡(luò)平臺(tái)故意散布涉企不實(shí)信息案。為獲取平臺(tái)流量傭金，陳某注冊(cè)多個(gè)平臺(tái)賬號(hào)，利用AI工具編造、生成虛假熱點(diǎn)文章并發(fā)布200余篇，且內(nèi)容高度雷同，惡意攻擊某品牌，導(dǎo)致大量消費(fèi)者誤解。

真?zhèn)坞y辨的AI謠言，何解？針對(duì)黑色產(chǎn)業(yè)鏈上的前端發(fā)布主體、中端技術(shù)手段和末端后果危害，逐一研判、全鏈條打擊。

清華大學(xué)相關(guān)研究指出，各類AI謠言中，經(jīng)濟(jì)與企業(yè)類謠言、公共安全類謠言占比最多、增速最快，其中，餐飲外賣、快遞配送等民生行業(yè)成為謠言重災(zāi)區(qū)。

今年7月，中央網(wǎng)信辦啟動(dòng)“清朗·整治‘自媒體’發(fā)布不實(shí)信息”專項(xiàng)行動(dòng)，重點(diǎn)整治“利用人工智能生成合成技術(shù)，仿冒他人，或編造社會(huì)民生等領(lǐng)域虛假信息，欺騙公眾”等問(wèn)題。9月15日，《人工智能安全治理框架》2.0版正式發(fā)布。中央網(wǎng)信辦要求強(qiáng)化規(guī)范引導(dǎo)，不斷完善人工智能安全監(jiān)管制度和標(biāo)準(zhǔn)規(guī)范體系。

新媒體平臺(tái)應(yīng)加強(qiáng)對(duì)AI造謠的智能識(shí)別機(jī)制研究，進(jìn)一步改革涉及AI內(nèi)容的流量分發(fā)和收益分成機(jī)制，最大限度壓縮AI造謠的牟利空間。還可通過(guò)逆向傳播，利用相同渠道傳播準(zhǔn)確信息，抵消謠言影響；鼓勵(lì)用戶積極舉報(bào)可疑內(nèi)容，設(shè)立獎(jiǎng)勵(lì)機(jī)制增加公眾參與度；持續(xù)研究謠言生成、傳播機(jī)制，開(kāi)發(fā)有效監(jiān)測(cè)和防治技術(shù)等。

近期，公安部組織全國(guó)公安機(jī)關(guān)持續(xù)開(kāi)展打擊整治網(wǎng)絡(luò)謠言工作。根據(jù)《刑法》規(guī)定，編造虛假的險(xiǎn)情、疫情、災(zāi)情、警情，在信息網(wǎng)絡(luò)或者其他媒體上傳播，或者明知是上述虛假信息，故意在信息網(wǎng)絡(luò)或者其他媒體上傳播，嚴(yán)重?cái)_亂社會(huì)秩序的，處三年以下有期徒刑、拘役或者管制；造成嚴(yán)重后果的，處三年以上七年以下有期徒刑。

AI造謠背后，是技術(shù)濫用與社會(huì)治理的賽跑。立法、司法、平臺(tái)、公眾與等多方協(xié)力，方能構(gòu)建全鏈條治理體系，共同營(yíng)造和諧清朗的網(wǎng)絡(luò)空間。