機器人走貓步引爆行業(yè)、舞蹈功夫如人類般絲滑;AI手機一句話訂外賣做報告、懂你所想知你所言;AI PC本地部署模型,打造超級端側智能體給企業(yè)提效降本;AI眼鏡智能識物、隨拍隨聊,智能汽車毫秒級實時分析路況……
今天,從AI手機、AI PC、AI穿戴、智能汽車到具身智能,AI從云端加速走向端側。
端側AI的發(fā)展正進入加速演進的新紀元,大模型向多模態(tài)方向發(fā)展,海量優(yōu)秀端側模型涌現、快速迭代,模型小型化、垂類化發(fā)展趨勢明顯,Agentic AI成為重要趨勢方向。
一系列變化給AI算力側帶來新的挑戰(zhàn)。
端側AI任務從早期單一語音識別發(fā)展至復雜環(huán)境感知、多模態(tài)交互等方向,AI計算工作的規(guī)模和復雜性顯著提升,能效優(yōu)化、安全架構、軟硬件協同、標準化生態(tài)構建,諸多問題擺在面前。
端側AI需要的不是單純的算力堆疊,而是效率優(yōu)先,行業(yè)需要一個綜合性、系統性、全局優(yōu)化且更加靈活、生態(tài)兼容性出色的算力底座。
在這樣的趨勢下,異構計算模式成為主流方向,芯片設計正在從“通用計算”向“定制化異構計算”轉變,其中具有獨特優(yōu)勢的NPU日益成為關鍵支撐部分。

昨日,安謀科技Arm China正式發(fā)布了專為端側大模型而生的最新一代NPU IP——“周易”X3,與Arm架構CPU、GPU協同,組成異構算力“更優(yōu)解”,直指端側AI落地行業(yè)關鍵痛點。

在安謀科技看來,新一代NPU是引領端側AI進化的關鍵。從全面的模型支持、通用的硬件架構、成熟開放的軟件生態(tài)、出色的算力帶寬、優(yōu)化的能效面效到優(yōu)秀的擴展性和系統一致性,安謀科技給端側AI算力破局提供了“芯”路徑。
一、端側AI時代,NPU成異構算力重要組成,“周易”劍指行業(yè)痛點
今天,端側AI的發(fā)展勢不可擋,其在響應速度、數據安全、網絡依賴性、運行成本等方面均有明顯優(yōu)勢,但在端側AI的落地過程中所涌現出的問題和挑戰(zhàn)同樣不容忽視。
計算平臺基礎AI算力不足、存儲帶寬遇到瓶頸、終端設備的電池續(xù)航相對有限、散熱空間和散熱能力有限、模型適配同樣不夠完善。
在這樣的背景下,NPU(神經網絡處理器)作為專為AI計算和機器學習而設計的重要計算單元,幾乎已經成為今天各類端側AI設備實現優(yōu)秀AI體驗的“剛需”,在執(zhí)行當下主流的端側AI推理任務時,能實現更高計算效率和更好的能效比。
在安謀科技看來,“周易”NPU團隊是驅動創(chuàng)新的核心引擎,NPU也一直是安謀科技的戰(zhàn)略核心產品。
從2018年開始,安謀科技就組建了國內最早的NPU研發(fā)團隊之一,目前已經交付了5代NPU,并實現了在終端領域的商業(yè)落地,研發(fā)團隊在硬件、軟件、工具工具、方案等方面均有技術積累。據稱“周易”NPU的研發(fā)和支持100%來自中國本土團隊。
