作者｜雲鵬

編輯｜漠影

DeepSeek的火爆給全球AI產業發展帶來的核心價值之一，就是極大加快了AI應用的普及，尤其在國內市場，幾乎各類產品都在增加與AI能力的融合。

這意味着AI大語言模型將不再只是在天上飛（侷限於雲端），更是可以真正落地在我們身邊生活中的設備上，走向邊緣和端側，而IoT市場作爲邊緣智能的代表性領域，成爲這波邊緣AI的最大關注點之一。

今天，隨着AI技術的快速發展，IoT等邊緣AI領域也逐漸涉及更復雜的算法，且湧現出了更多的邊緣AI推理需求。這樣一來，應用對計算性能以及算效比的需求越來越高，與此同時，數據安全問題也愈發凸顯。

從智慧城市、智慧工業、智能家居、智能穿戴到新零售，AI技術的廣泛應用帶來了AI計算需求和安全性方面的新挑戰。面對這些新的需求，行業正呼喚新的解法。

就在昨天，Arm發佈了全球首個專爲物聯網優化，以全新的Cortex-A320 CPU和Arm Ethos-U85 NPU爲核心的Armv9邊緣AI計算平臺。它不是CPU和AI加速器的簡單堆疊，而是實現了CPU和NPU深度融合、相得益彰的解決方案。

這是Armv9架構諸多優勢特性首次在IoT市場落地，其在效率、性能和安全方面的升級直指當下邊緣AI新需求。與此同時，Arm還將軟件層的KleidiAI拓展到了IoT領域，使邊緣AI開發進一步簡化。

Cortex-A320如何解決以IoT爲代表的邊緣AI領域行業需求痛點、Armv9帶來了哪些關鍵技術升級？軟件層面的新進展又如何加速IoT領域的技術創新、應用落地？我們將嘗試找到答案。

一、邊緣AI風暴來襲，算力和安全成兩大IoT突出難題

近年來，隨着AI技術的發展和廣泛應用、計算需求快速增長，越來越多AI工作負載從數據中心和雲端轉向邊緣側進行處理，這給人們的生產和生活帶來了切實的益處，但同時也帶來計算性能瓶頸、安全挑戰等問題。

比如在工業質檢領域，AI視覺質檢系統每帶來1%的產線漏檢率降低，可能意味着千萬級的成本節約，但在複雜的工廠條件下實現這1% 的小目標，從技術上來講絕非易事；汽車行業，自動駕駛與駕駛員的生命安全息息相關，它的成功應用需要激光雷達、攝像頭等傳感器的數據需要在100ms內融合並被模型處理。

智慧醫療領域，邊緣AI系統通過實時分析監護儀數據，預警相關病症的早期症狀，這一過程的高效與精準，高度依賴於底層芯片的性能表現，算力不足導致的預警延遲以及預測準確率下降，都會極大影響到病人的健康。

未來隨着AI高清視頻實時分析、AI工業設備故障檢測等複雜任務需求越來越多，邊緣AI計算能力的重要性愈發凸顯。IoT領域正呼喚從芯片架構到算法層的全面革新，進而真正釋放AI帶來的革命性潛力。

在計算性能、效率之外，邊緣AI的發展同樣帶來了數據安全層面的風險。在邊緣計算中，隨着越來越多的邊緣AI設備接入網絡，數據在邊緣設備和雲端或者其他邊緣設備之間傳輸，容易受到網絡攻擊。

因此面對邊緣AI迅猛發展，邊緣設備必須具備更強的推理能力、更安全的計算架構。

從行業視角來看，傳統邊緣側設備所使用的芯片以無法滿足越來越多的實時AI處理、計算密集型推理任務。

在昨日的Arm新品發佈會上，Arm物聯網事業部業務拓展副總裁馬健提到，在她近期與許多合作伙伴針對邊緣AI的交流中，大家一致的反饋是，AI將使他們重新定義產品設計——把具有Transformer這種加速功能的 AI 加速器加進去，或者採用能夠更好支持AI的CPU。

▲Arm物聯網事業部業務拓展副總裁馬健

IoT產業對於在邊緣側也能擁有更高性能的Cortex-A級別的計算能力以及升級至Armv9架構的需求十分突出，Arm的邊緣AI平臺新品，可以說是直指痛點。

二、10倍AI計算性能，異構計算擴展場景適應力，支持Armv9 四大安全特性

基於這樣的行業背景，Arm此次推出了首款基於Armv9架構、專爲邊緣AI設計的 Cortex-A CPU——Cortex-A320，以及結合了Cortex-A320和Ethos-U85的邊緣AI計算平臺。

在AI計算性能和能效提升方面，Cortex-A320相比Cortex-A35最高有着10倍的AI計算性能提升，相比Cortex-A53也有6倍以上的提升，這對於增強邊緣設備的推理能力十分關鍵。

相較Cortex-A520，Cortex-A320的能效提升可以達到50%，在相同芯片面積下，Cortex-A320較Cortex-A53有着15%的性能提升，相較Cortex-A35有30%左右的性能提升。

這樣的性能和能效提升反應在產業落地端，究竟能夠帶來怎樣的改變？

以一個貼近日常的例子來說，相較於Cortex-M系列，Cortex-A320在內存尋址能力、整體性能以及安全防護上均實現了顯著提升，這使得它能夠遊刃有餘地支撐起多種人機交互場景，特別是對視頻流等視覺交互應用有着出色的支持。

設想一下，在某個重要的展覽會上，你偶遇了一位熟人，卻一時想不起他的名字，這時，你的智能眼鏡就能即刻爲你識別並提供對方的信息，甚至還能貼心地在你的視線中嵌入演講要點，助你實現“即興”發言。

隨着技術的不斷進步，智能眼鏡這類邊緣設備正逐步成爲我們生活中的得力助手，讓我們得以釋放雙手，去專注於更多想要完成的事情。

Arm Cortex-A320帶來的不僅是技術參數的變化，在部分領域甚至可以帶來商業模式升級重構。邊緣AI的算力躍遷，本質是在重構人、機器與物理世界的交互範式。

除了性能和能效的提升，異構計算的特性支持也同樣重要。

這次Arm的Cortex-A320與Ethos-U85 NPU一起組成了CPU+NPU協同計算架構，形成完整的異構計算平臺。要知道，Ethos-U85是Arm Ethos-U產品線中的第三代NPU，也是迄今爲止性能和能效最強的Ethos NPU，與上一代產品相比，其性能提升了4倍，能效提高了20%。

基於異構計算能力，任何開發者們不希望在Ethos-U85上運行的AI操作，都可以回退到Cortex-A320上，利用其Neon/SVE2引擎更靈活有效地在CPU上執行。

這樣一來，智能物聯網與消費類電子生態系統能夠在正確的時間、合適的地方運行最適合的工作負載。

CPU與NPU的深度融合之下，新的AI計算平臺可以覆蓋更多應用場景，實現包括視覺和自然語言在內的多模態的環境感知與理解，進而運行AI智能體、自主規劃、執行復雜任務。

8倍的機器學習計算性能提升，令其可以賦能邊緣AI設備本地運行超過10億參數的大模型，讓基於大模型的生成式AI更好地在物聯網領域落地。

值得一提的是，在當下AI大模型需求較高的內存訪問性能方面，Cortex-A320支持更大的可尋址內存空間，能更靈活地管理多層次內存訪問延遲。同時Cortex-A320還能運行功能更豐富的操作系統，讓設備管理更靈活。

最後在安全性方面，Armv9支持MTE（內存標記擴展）、PAC（指針認證）、BTI（分支目標識別）以及S-EL2虛擬化，可以給邊緣設備提供端到端的安全防護。

整體來看，在硬件層面，Arm的Cortex-A320與Ethos-U85異構計算平臺是實實在在地幫助企業解決了性能、能效和安全方面的邊緣AI新需求。Armv9架構層面的諸多優勢特性，開始給IoT領域企業帶來AI創新和應用落地的加速。

據悉，這次Arm發佈的邊緣AI計算平臺已經獲得亞馬遜雲科技、西門子、瑞薩電子、研華科技等廠商的支持。

三、Arm軟件大招落地IoT，邊緣AI規模化應用提速

當然，Arm的完整解決方案不止於此。硬件是基礎，軟件是加速器，軟硬件組合拳才能更高效地解決邊緣AI痛點，此次Arm還同步將KleidiAI引入IoT領域，加速AI應用在邊緣落地。

縱觀行業發展，完善的軟件生態可以降低開發者門檻，而軟件也一直是Arm計算平臺不可或缺的一部分。

正如前文所提到的，邊緣設備種類繁多，硬件性能和功能差異大，在這一場景中，出色軟件技術可以優化算法和模型，使AI模型能在各種邊緣設備上高效運行。

對於邊緣設備有限的計算資源，軟件技術可通過模型壓縮、量化、優化算法等手段，在保證AI性能的前提下，降低模型對計算資源的需求，進而提高計算效率。

KleidiAI是一套專爲AI框架開發者設計的計算內核，讓開發者可以無縫地在Arm CPU上獲取最佳性能，適用於各類設備。

從去年初次面向終端市場亮相、隨後擴展至基礎設施領域，KleidiAI如今進一步覆蓋IoT領域，給各個領域的開發者提供所需的性能、工具和軟件庫支持。

簡單來說，Arm Kleidi軟件庫最核心的作用就是幫助開發者讓AI應用得到Arm CPU加速，因爲目前全球大多數AI推理工作負載都在Arm CPU上運行。開發者不需要額外學習新工具和技能、無需複雜的集成工作，IoT應用開發門檻和成本大幅降低。

在出色的軟件生態和豐富開發工具的支持下，Arm AI計算平臺的靈活性得到了極大釋放。

這次Arm的Cortex-A320兼容Linux、Zephyr、RTOS等多種操作系統，依託Arm Kleidi，可以適配Llama.cpp、ExecuTorch、MediaPipe等主流AI框架，實現70%性能提升，這對於AI應用在邊緣落地是非常關鍵的。

馬健在發佈會上特別提到，這一優勢讓Cortex-A320在多個市場領域、應用場景和操作系統之間都具有更好的靈活性，對於合作伙伴來說，選擇空間極大擴展，規劃產品路線時也可以更好地適配不同場景需求。

此次Arm Kleidi擴展至物聯網領域，進一步加強了Arm在IoT AI領域的技術優勢，吸引更多開發者和企業基於Arm架構開發IoT應用，促進上下游產業的合作與創新。

展望未來，Arm的邊緣AI計算平臺必然將在IoT生態系統中扮演至關重要的角色，各個細分市場都將從Cortex-A320中受益，Arm無疑給IoT行業帶來了更多可能性，爲IoT市場的產品和應用創新打好了新的基礎。

結語：IoT邊緣AI提速，Arm軟硬兩手抓

近年來，Arm持續進行平臺化轉型，此次Arm發佈首個面向IoT的Armv9處理器Cortex-A320、以及以Cortex-A320和Ethos-U85爲核心的邊緣AI計算平臺，並擴展KleidiAI到物聯網領域，無疑是通過軟硬件協同，爲邊緣AI的加速發展、應用落地增添助力，也是Arm近年積極扮演賦能AI在各領域落地的有力展現。

放眼未來，AI計算正加速從雲端走向邊緣，未來邊緣AI計算需求必然將持續增長，就像會中馬健說道的，“AI的未來在邊緣，而邊緣AI的未來屬於Arm。”我們拭目以待。