午夜激情影院国产_久久毛片免费播放_国产成人综合在线95精品_精品视频在线观自拍自拍_无码粉嫩小泬抽搐白浆免费_在线观看麻豆国产传媒61_黄色视频无码亚洲啊v在线_国产成人精品免费久亚洲高清不卡_先锋无码午夜资源网站_2021自拍视频亚洲国产第一区

小文秘也能搞垮大模型？服務(wù)器九成“裸奔”，被另一大模型的釣魚郵件“電詐”

發(fā)布時(shí)間：2025-09-19 來源：昂頭挺胸網(wǎng)作者：微笑與快樂無關(guān)

作為網(wǎng)絡(luò)安全領(lǐng)域的基礎(chǔ)性法律，網(wǎng)絡(luò)安全法修正草案9月8日首次提請(qǐng)全國(guó)人大常委會(huì)會(huì)議審議。傳統(tǒng)模式下，安全軟件為你上網(wǎng)的電腦保駕；那么AI時(shí)代，怎么為你使用的大模型護(hù)航呢？

同日在外灘舉行的第13屆互聯(lián)網(wǎng)安全大會(huì)（ISC）上海大模型安全論壇透露，監(jiān)測(cè)發(fā)現(xiàn)，在現(xiàn)有8971個(gè)采用開源大語言模型服務(wù)工具（Ollama）的大模型服務(wù)器中，有6449個(gè)活躍的服務(wù)器，其中88.9%都是“裸奔”在互聯(lián)網(wǎng)上，未采取任何安全措施。

“在傳統(tǒng)網(wǎng)絡(luò)攻擊手段的基礎(chǔ)上，人工智能的惡意應(yīng)用，放大了網(wǎng)絡(luò)攻擊效果，帶來新的網(wǎng)絡(luò)安全隱患，致使網(wǎng)絡(luò)威脅更具規(guī)模性、欺騙性、殺傷性?！敝袊?guó)信息通信研究云計(jì)算與大數(shù)據(jù)研究所開源和軟件安全部主任郭雪直言，在新型威脅下，傳統(tǒng)安全工具可能失效，用AI對(duì)抗AI已成為行業(yè)共識(shí)。

一幣兩面，“用AI對(duì)抗AI”的另一面，其實(shí)是“壞”AI被用來攻擊“好”AI。360集團(tuán)創(chuàng)始人周鴻祎曝出，國(guó)外某行業(yè)大佬遭遇的大模型攻擊事件。這家跨國(guó)公司應(yīng)用大模型來處理企業(yè)郵件，比如過濾垃圾郵件等。但當(dāng)這個(gè)大模型收到一封來自另一個(gè)大模型的“釣魚郵件”，它不僅認(rèn)為這是正常的業(yè)務(wù)郵件，而且未能分辨出其中的文本內(nèi)容內(nèi)嵌了大量可執(zhí)行的指令。結(jié)果，按照這些指令的“操弄”，一步步將搜集企業(yè)內(nèi)部的重要信息打包，直接回復(fù)給了大模型的發(fā)件人。

“如今，前臺(tái)小文秘也能欺詐后臺(tái)大模型。”周鴻祎表示，以往黑客是專業(yè)人員，至少掌握機(jī)器語言才能編寫程序；而在大模型全民普及的條件下，人與機(jī)器都理解了自然語言，可以“我說你編”實(shí)現(xiàn)“氛圍式編程”。也就是說，普通人就能利用大模型編出“話術(shù)”，實(shí)施“電詐”，攻擊它的大模型目標(biāo)。

“這樣的安全挑戰(zhàn)是人類前所未有的，”周鴻祎認(rèn)為，其實(shí)大模型系統(tǒng)的安全問題還有多個(gè)方面，尤其是AI智能體加持后，比如被惡意應(yīng)用造假造謠、語料不凈甚至“數(shù)據(jù)投毒”、AI幻覺難以徹底清除等。“大模型既是生產(chǎn)力工具，也可能成為新的攻擊載體和攻擊入口，政府和企業(yè)的數(shù)據(jù)資產(chǎn)、商業(yè)機(jī)密面臨著前所未有的暴露風(fēng)險(xiǎn)，保障AI安全是一項(xiàng)長(zhǎng)期而艱巨的任務(wù)，需要各方協(xié)同努力?！?/p>

“道高一尺、魔高一丈”，包含四大智能體在內(nèi)的大模型安全衛(wèi)士為此上線上新，以安全智能體“蜂群”來“以模制?！?，聚焦解決AI的“可靠、可信、可控、向善”核心問題。在某智慧政務(wù)內(nèi)容安全保障過程中，大模型安全衛(wèi)士日均檢測(cè)不良內(nèi)容1000余條，業(yè)務(wù)代答900余條，回復(fù)安全率超99%，風(fēng)險(xiǎn)識(shí)別準(zhǔn)確率達(dá)99%以上。目前，360深度參與大模型國(guó)家標(biāo)準(zhǔn)、大模型技術(shù)研發(fā)標(biāo)準(zhǔn)、大模型安全框架標(biāo)準(zhǔn)以及國(guó)家人工智能三大核心安全標(biāo)準(zhǔn)的制定。

同時(shí)，業(yè)界共同構(gòu)建人工智能安全靶場(chǎng)，形成“評(píng)測(cè)-防護(hù)-靶場(chǎng)”三位一體的大模型安全能力。北京郵電大學(xué)網(wǎng)絡(luò)空間安全學(xué)院執(zhí)行院長(zhǎng)李小勇透露，北郵研發(fā)的大模型安全系列平臺(tái)包含超過150個(gè)大模型攻防對(duì)抗算法、百萬級(jí)數(shù)量的行業(yè)高質(zhì)量問題集，以及2萬個(gè)以上的大模型安全組件漏洞補(bǔ)丁。

事實(shí)上，最近北郵、中國(guó)信息協(xié)會(huì)等在京聯(lián)合舉辦的首屆全國(guó)大學(xué)生人工智能安全競(jìng)賽，大模型攻防靶場(chǎng)就為1600余人參賽提供平臺(tái)支撐。不過，李小勇也援引數(shù)據(jù)表示，盡管國(guó)內(nèi)現(xiàn)有500多所高校開設(shè)人工智能專業(yè)，但AI安全人才的年培養(yǎng)量尚不足8000人，企業(yè)用人的80%需要靠?jī)?nèi)部轉(zhuǎn)崗培訓(xùn)，相關(guān)人才的巨大缺口亟待補(bǔ)上。

題圖來源：上觀題圖

來源：作者：解放日?qǐng)?bào) 徐瑞哲