2024年9月19日,全球IP大廠安謀(ARM Holdings Ltd)盤前股價大漲5%,引發了市場的熱烈關注。這一股價上漲,主要源於ARM昨日發佈的一項新技術整合公告。

ARM宣佈,將把其Kleidi技術整合到主流的AI框架PyTorch和ExecuTorch中,旨在顯著提升其ARM架構芯片在雲端和邊緣設備上運行大語言模型(LLM)等AI工作負載的性能。

在雲端方面,ARM已與AWS和Google等主要雲服務商達成合作,將Kleidi與PyTorch相整合。據測試,在AWS的Arm芯片Graviton4上,首次回應LLM模型的時間可加快2.5倍。同時,Kleidi還將優化PyTorch的torch.compile編譯功能,進一步提升1.35至2倍的效能。在邊緣設備端,Kleidi也將整合到PyTorch的ExecuTorch運行時。ARM表示,這些整合措施有望立即爲衆多開發者帶來顯著效能提升,加速Arm芯片在AI領域的部署。