今日,全球著名芯片IP設計公司ARM Holdings Ltd(ARM)股價盤中大漲6.48%,引發市場熱議。消息顯示,此番大漲與ARM不久前宣佈的一項重要技術整合計劃有關。

具體來看,ARM將自主研發的Kleidi技術整合到主流的人工智能框架PyTorch和ExecuTorch中。藉助這一整合,ARM芯片在雲端和邊緣設備上運行大語言模型等AI工作負載的性能將大幅提升。

首批效果顯著,在雲端場景,Kleidi技術有望使ARM芯片在AWS Graviton4處理器上運行LLM模型的首次回應時間加快2.5倍;同時PyTorch編譯功能也有望加速1.35至2倍。而在邊緣設備領域,Kleidi技術也將與PyTorch的ExecuTorch推理運行時相整合,為諸多產品帶去實實在在的性能提升。