【文/網(wǎng) 張菁娟】據(jù)香港英文媒體《南華早報(bào)》10日?qǐng)?bào)道，中國(guó)團(tuán)隊(duì)近日成功研發(fā)并發(fā)布了類(lèi)腦脈沖大模型，這是一款旨在降低能耗、提升性能且無(wú)需依賴(lài)英偉達(dá)芯片的人工智能系統(tǒng)。

該模型名為“瞬悉1.0”（SpikingBrain-1.0），是中國(guó)科學(xué)院自動(dòng)化研究所李國(guó)齊、徐波團(tuán)隊(duì)與沐曦MetaX合作打造的，其核心在于模仿人類(lèi)大腦僅激活所需神經(jīng)元的運(yùn)作模式。

報(bào)道稱(chēng)，與ChatGPT等主流人工智能工具不同，“瞬悉1.0”會(huì)有選擇性地對(duì)輸入信息做出響應(yīng)，進(jìn)而實(shí)現(xiàn)節(jié)能并加快響應(yīng)速度。

中國(guó)科學(xué)院自動(dòng)化研究所稱(chēng)，“瞬悉1.0”在多個(gè)核心性能上實(shí)現(xiàn)突破，得益于這種設(shè)計(jì)，該模型能依托高效轉(zhuǎn)換訓(xùn)練范式，以約為主流大模型2%的預(yù)訓(xùn)練數(shù)據(jù)量實(shí)現(xiàn)與眾多開(kāi)源Transformer模型在多任務(wù)語(yǔ)言理解（MMLU），中文多任務(wù)語(yǔ)言理解（CMMLU、Ceval），常識(shí)推理能力（ARC、HS）任務(wù)上相媲美的性能。在某些情況下，其運(yùn)行速度比傳統(tǒng)模型快出100倍。

這是中國(guó)首次提出大規(guī)模類(lèi)腦脈沖基礎(chǔ)模型架構(gòu)、并首次在國(guó)產(chǎn)圖形處理器(GPU)算力集群上構(gòu)建類(lèi)腦脈沖大模型的訓(xùn)練和推理框架。提出的模型解決了脈沖驅(qū)動(dòng)限制下的大規(guī)模類(lèi)腦模型性能退化問(wèn)題，其超長(zhǎng)序列處理能力在法律/醫(yī)學(xué)文檔分析、復(fù)雜多智能體模擬、高能粒子物理實(shí)驗(yàn)、DNA序列分析、分子動(dòng)力學(xué)軌跡等超長(zhǎng)序列任務(wù)建模場(chǎng)景中具有顯著的潛在效率優(yōu)勢(shì)。

中國(guó)科學(xué)院自動(dòng)化研究所強(qiáng)調(diào)，這次發(fā)布的大模型為新一代人工智能發(fā)展提供了非Transformer架構(gòu)的新技術(shù)路線，并將啟迪更低功耗的下一代神經(jīng)形態(tài)計(jì)算理論和芯片設(shè)計(jì)。

報(bào)道指出，在美國(guó)收緊對(duì)先進(jìn)人工智能芯片出口管制的背景下，這一模型具有重要的戰(zhàn)略意義。

目前，該研究團(tuán)隊(duì)開(kāi)源了SpikingBrain-1.0-7B模型并開(kāi)放SpikingBrain-1.0-76B測(cè)試網(wǎng)址。

該系統(tǒng)在試用網(wǎng)站上介紹道，其深度融合人腦信息處理機(jī)制與脈沖計(jì)算范式，致力于通過(guò)高效、節(jié)能、國(guó)產(chǎn)化的類(lèi)腦推理為使用者提供強(qiáng)大而可靠的智能服務(wù)。

網(wǎng)站截圖

據(jù)報(bào)道，當(dāng)前最受歡迎的人工智能模型均需巨大計(jì)算能力支撐。企業(yè)為訓(xùn)練這些模型，需依賴(lài)配備高端芯片的大型數(shù)據(jù)中心，而這類(lèi)芯片會(huì)消耗大量電力與冷卻水。

即便完成訓(xùn)練，這些系統(tǒng)對(duì)資源的需求依然很高。處理長(zhǎng)輸入或生成復(fù)雜響應(yīng)時(shí)，它們會(huì)因并行處理每個(gè)詞匯而非聚焦關(guān)鍵信息而變慢，同時(shí)給內(nèi)存帶來(lái)壓力，這不僅推高運(yùn)行成本，也加劇了對(duì)環(huán)境的影響。

相比之下，“瞬悉1.0”的研發(fā)團(tuán)隊(duì)從真實(shí)神經(jīng)元的工作原理中汲取靈感。該系統(tǒng)不會(huì)同時(shí)處理所有信息，而是有選擇性地做出反應(yīng)，以更低能耗完成復(fù)雜任務(wù)，與人類(lèi)大腦的工作方式高度相似。

其核心技術(shù)模仿了大腦僅在受到觸發(fā)時(shí)才快速發(fā)送信號(hào)脈沖的特性。這種由事件驅(qū)動(dòng)的方式使系統(tǒng)大部分時(shí)間處于“靜默”狀態(tài)，有助于保持高效節(jié)能。

研究人員稱(chēng)，盡管SpikingBrain所用數(shù)據(jù)僅為傳統(tǒng)模型的一小部分，但其性能卻與主流開(kāi)源替代模型相當(dāng)，并且它在處理長(zhǎng)序列數(shù)據(jù)方面也表現(xiàn)出色。

他們?cè)谡撐闹袑?xiě)道：“這一突破性實(shí)踐不僅為國(guó)產(chǎn)算力平臺(tái)上的高效大模型研發(fā)提供了寶貴經(jīng)驗(yàn)，更對(duì)未來(lái)大模型的規(guī)?；渴鹋c應(yīng)用開(kāi)辟了新路徑?！?/p>

本文系網(wǎng)獨(dú)家稿件，未經(jīng)授權(quán)，不得轉(zhuǎn)載。