好家伙，AI仿冒名人如今竟成了黑灰產(chǎn)的“財富密碼”？這歪門邪道的“生意”，可真夠刑的。
9月8日，抖音平臺封禁了1000多個利用AI假冒胖東來創(chuàng)始人于東來的賬號，另有一家福建企業(yè)因擅自使用其形象剪輯視頻帶貨，被處以沒收違法所得并罰款15萬元。
圖源：微博截圖
說實話，這樣的處罰力度，網(wǎng)友們根本不滿意，紛紛表示罰得太少了。
這類賬號利用AI合成于東來的聲音與形象，再打著他的名義賣貨，純純就是騙人的。不罰大力一點，他們根本就認識不到問題的嚴重性，要么就是利潤太高，以至于15萬都不看在眼里，風(fēng)頭一過照樣重來。
圖源：小雷截圖
早在去年11月，就曾被媒體曝光過的新聞：多個賬號未經(jīng)授權(quán)擅自利用AI技術(shù)生成于東來的聲音，視頻剪輯。但大半年過去了，這種現(xiàn)象不但沒有收斂，反而愈演愈烈，甚至已經(jīng)形成了一條完整的灰黑產(chǎn)業(yè)鏈。這不禁讓人疑惑：難道以現(xiàn)有的技術(shù)，對AI內(nèi)容的監(jiān)管仍然如此被動？
圖源：微博截圖
要知道，AI仿冒的受害者不止于東來。此前小米創(chuàng)始人雷軍也曾公開回應(yīng)被AI語音惡搞的事件，表示“聽了真的不舒服”，并呼吁網(wǎng)友適可而止。之后各大平臺雖然下架了相關(guān)二創(chuàng)視頻，但雷軍隨后仍提出應(yīng)推進人工智能領(lǐng)域的立法工作。這說明，AI生成內(nèi)容在帶來創(chuàng)意與娛樂性的同時，也伴隨著巨大的濫用風(fēng)險。
而如今，情況已從“玩梗”變質(zhì)為“黑產(chǎn)變現(xiàn)”。造假者不再是隨意調(diào)侃，而是有組織、有預(yù)謀地利用AI實施商業(yè)欺詐。
那為什么于東來成了被仿冒的重災(zāi)區(qū)？總的來說，小雷看來，他與胖東來長期以來，所積累的公眾信任度極高。而這種高信任度的IP，正好被他們利用了。只要AI偽造的形象、聲音和語氣像一點，就會有人信任并為其買單，快速實現(xiàn)流量變現(xiàn)。
其實胖東來也并非不重視。據(jù)悉，在9月1日，胖東來商貿(mào)集團有限公司曾發(fā)布關(guān)于舉報制、售假冒自有品牌商品獎勵聲明，對提供違法事實關(guān)鍵證據(jù)的有效線索，經(jīng)查證屬實且被舉報對象受到相關(guān)行政處罰、構(gòu)成刑事犯罪的，胖東來核實后，給予舉報者含稅1萬-500萬元的獎勵。
圖源：胖東來
可這些組織“春風(fēng)吹又生”，再怎么打，也打不完。這也看出，胖東來“樹大招風(fēng)”，好口碑、高熱度，怎樣的牛鬼蛇神都來蹭熱度。
但這背后可不只是“蹭熱度”那么簡單?，F(xiàn)在AI仿冒已經(jīng)成了一條產(chǎn)業(yè)鏈了：從AI起號、養(yǎng)號到賣號，甚至還有“賬號期貨”交易——只需付個定金，等3個月后就能拿到一個萬粉賬號，可直接用來帶貨。
這些賬號大多集中在顏值、情感、健康這些容易引流賣貨的領(lǐng)域，而且很多是“三無賬號”（無實名、無違規(guī)、無作品違規(guī)），賣價大概是粉絲數(shù)的10%。說白了，就是在靠AI低成本批量生產(chǎn)賬號，然后高價賣掉。
近年來，AI生成技術(shù)迅猛發(fā)展，偽造內(nèi)容的生產(chǎn)門檻很低，圖像、聲音、視頻跟真的一樣，幾條指令就能生成，簡單學(xué)習(xí)一下就能上手?，F(xiàn)在網(wǎng)上不少女生的臉被AI套用，比如之前的臺球選手和網(wǎng)紅等等。
圖源：微博
最關(guān)鍵的是，發(fā)現(xiàn)了問題，該如何治理？
自9月1日起，《人工智能生成內(nèi)容標(biāo)識管理辦法》正式施行，要求所有AI生成內(nèi)容必須明確標(biāo)識。也就是說，AI生成的視頻、音頻、圖文等內(nèi)容，都得標(biāo)明“由AI生成”，否則屬于違規(guī)。這無疑是一項關(guān)鍵舉措，至少為用戶提供了基本的知情和辨別依據(jù)。
但說實話，道高一尺魔高一丈，現(xiàn)在黑產(chǎn)就會想辦法繞過標(biāo)識，比如最簡單的辦法——降A(chǔ)I率。具體怎么做大家都懂，在AI的基礎(chǔ)上修修改改就好了。所以光靠規(guī)定可能不夠，還得平臺加大審核力度，加強復(fù)審機制。
總的來說，AI技術(shù)本身沒問題，但用來騙人就是另一回事了。就像于東來這件事，不能說封號、罰款就完事了，后面還得有更嚴的監(jiān)管。不然，這樣睜一只眼閉一只眼，也跟縱容沒什么區(qū)別了。