熱點(diǎn)事件發(fā)生后，有人利用AI生成的假“照片”引流吸睛；網(wǎng)絡(luò)直播間里，有人利用AI生成的假“名人”瘋狂帶貨；現(xiàn)實(shí)社會(huì)中，有人利用“AI換臉”實(shí)施詐騙……

　　不時(shí)曝出的此類(lèi)案例，讓不少人“破防”，更引發(fā)人們對(duì)AI濫用的擔(dān)憂(yōu)。近日，國(guó)家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部等多個(gè)部門(mén)聯(lián)合制定的《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》正式施行。辦法聚焦人工智能生成合成內(nèi)容標(biāo)識(shí)的關(guān)鍵點(diǎn)，從服務(wù)提供、內(nèi)容制作、產(chǎn)品傳播等各個(gè)環(huán)節(jié)，對(duì)AI參與內(nèi)容生產(chǎn)提出具體要求。

　　辦法的頒布實(shí)施，將對(duì)規(guī)范AI參與內(nèi)容生產(chǎn)、防范AI被濫用立規(guī)矩、畫(huà)方圓。

　　近年來(lái)，生成式人工智能取得長(zhǎng)足發(fā)展，廣泛應(yīng)用于人們?nèi)粘Ｉ畹脑S多場(chǎng)景。新技術(shù)的運(yùn)用，為經(jīng)濟(jì)社會(huì)發(fā)展注入強(qiáng)勁動(dòng)能，也帶來(lái)一系列濫用的新問(wèn)題。

　　此前，“廣州限制外賣(mài)配送”“河南信陽(yáng)市中心體育館驚險(xiǎn)崩塌”……諸如此類(lèi)“有圖有視有真相”的重磅“消息”，曾在網(wǎng)上廣泛傳播，引起大量網(wǎng)民關(guān)注。警方隨后調(diào)查發(fā)現(xiàn)，這些聳人聽(tīng)聞的“消息”，是不法分子使用AI制作的網(wǎng)絡(luò)謠言。

　　“名人效應(yīng)”也是不法分子利用AI造假的重要?jiǎng)訖C(jī)。比如，一些不法商家盯上多位奧運(yùn)冠軍，通過(guò)AI“盜聲”等方式，虛構(gòu)奧運(yùn)冠軍為自己帶貨。

　　人工智能就像一柄雙刃劍，利用得好，能夠?yàn)楣ぷ?、學(xué)習(xí)增添助力；AI被濫用，就會(huì)損害個(gè)人權(quán)益、搞亂網(wǎng)絡(luò)環(huán)境、帶偏社會(huì)風(fēng)氣。

　　利用AI生成的內(nèi)容常常生動(dòng)逼真，又沒(méi)有相關(guān)的標(biāo)識(shí)說(shuō)明，一些不法分子甚至專(zhuān)門(mén)針對(duì)網(wǎng)民“量身打造”行騙內(nèi)容，普通民眾很難辨別真假。

　　相關(guān)部門(mén)推出的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》明確提出，“任何組織和個(gè)人不得利用深度合成服務(wù)制作、復(fù)制、發(fā)布、傳播法律、行政法規(guī)禁止的信息，不得利用深度合成服務(wù)從事危害國(guó)家安全和利益、損害國(guó)家形象、侵害社會(huì)公共利益、擾亂經(jīng)濟(jì)和社會(huì)秩序、侵犯他人合法權(quán)益等法律、行政法規(guī)禁止的活動(dòng)?！边@為利用AI進(jìn)行內(nèi)容生產(chǎn)劃定了底線(xiàn)和紅線(xiàn)。

　　該規(guī)定第十七條提出，深度合成服務(wù)提供者提供服務(wù)，“可能導(dǎo)致公眾混淆或者誤認(rèn)的，應(yīng)當(dāng)在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進(jìn)行顯著標(biāo)識(shí)，向公眾提示深度合成情況”，從而給AI生成合成內(nèi)容需要標(biāo)注提出了法治化要求。

　　這次實(shí)施的《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》，是《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》的配套制度要求。辦法第四條明確規(guī)定，服務(wù)提供者提供的生成合成服務(wù)，屬于《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》第十七條相關(guān)情形的，“應(yīng)當(dāng)”按照相應(yīng)要求對(duì)合成內(nèi)容添加顯著的提示標(biāo)識(shí)。

　　辦法從AI生產(chǎn)內(nèi)容的制作源頭開(kāi)始全鏈條發(fā)力，對(duì)AI生成內(nèi)容服務(wù)的提供者、使用者、發(fā)布者、平臺(tái)等多角色開(kāi)展約束，全方位完善制度體系，為防止AI濫用樹(shù)起了制度圍欄。

　　徒善不足以為政，徒法不能以自行。

　　從今年3月印發(fā)到9月正式施行，《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》給相關(guān)單位留出了相對(duì)充分的準(zhǔn)備時(shí)間。全面開(kāi)展宣傳普及，讓辦法貫徹實(shí)施下去，為防范AI濫用發(fā)揮出應(yīng)有效用，需要全社會(huì)合力推進(jìn)。

　　生成合成內(nèi)容服務(wù)提供者，要為落實(shí)標(biāo)注要求提供堅(jiān)實(shí)的技術(shù)支持，讓使用者開(kāi)展標(biāo)注可用、好用、易用。

　　相關(guān)企業(yè)和個(gè)人需要仔細(xì)掂量自己利用AI生產(chǎn)的內(nèi)容，是否會(huì)損害國(guó)家形象、侵害社會(huì)公共利益、擾亂經(jīng)濟(jì)和社會(huì)秩序、侵犯他人合法權(quán)益，做到知法、守法。對(duì)于違法行為，應(yīng)當(dāng)嚴(yán)厲查處，以儆效尤。

　　傳播平臺(tái)同樣要承擔(dān)起把關(guān)責(zé)任，既要“技防”也要“人防”，多管齊下，嚴(yán)防應(yīng)該標(biāo)注卻沒(méi)有標(biāo)注的AI生產(chǎn)內(nèi)容違規(guī)發(fā)布。

　　治理AI濫用難題，還需要健全處置機(jī)制，強(qiáng)化執(zhí)法協(xié)同，用好群眾力量，提升違規(guī)問(wèn)題的發(fā)現(xiàn)能力和懲處效率。

　　為技術(shù)使用立好規(guī)矩，使用者、傳播者各司其職守好內(nèi)容真實(shí)的底線(xiàn)，AI這項(xiàng)未來(lái)可能越來(lái)越深入、越來(lái)越廣泛影響我們?nèi)粘Ｉ畹膹?qiáng)大技術(shù)，才能趨利避害，不斷催生新場(chǎng)景、新業(yè)態(tài)，賦能千行百業(yè)，服務(wù)千家萬(wàn)戶(hù)。

　　策劃：令偉家

　　統(tǒng)籌：朱斯哲、李代祥、劉雅萱

　　記者：尹思源

　　題圖漫畫(huà)：潘紅宇