2024年9月19日,全球IP大厂安谋(ARM Holdings Ltd)盘前股价大涨5%,引发了市场的热烈关注。这一股价上涨,主要源于ARM昨日发布的一项新技术整合公告。

ARM宣布,将把其Kleidi技术整合到主流的AI框架PyTorch和ExecuTorch中,旨在显著提升其ARM架构芯片在云端和边缘设备上运行大语言模型(LLM)等AI工作负载的性能。

在云端方面,ARM已与AWS和Google等主要云服务商达成合作,将Kleidi与PyTorch相整合。据测试,在AWS的Arm芯片Graviton4上,首次回应LLM模型的时间可加快2.5倍。同时,Kleidi还将优化PyTorch的torch.compile编译功能,进一步提升1.35至2倍的效能。在边缘设备端,Kleidi也将整合到PyTorch的ExecuTorch运行时。ARM表示,这些整合措施有望立即为众多开发者带来显著效能提升,加速Arm芯片在AI领域的部署。