2024年9月19日,全球IP大厂安谋(ARM Holdings Ltd)盘前股价大涨5%,引发了市场的热烈关注。这一股价上涨,主要源于ARM昨日发布的一项新技术整合公告。
ARM宣布,将把其Kleidi技术整合到主流的AI框架PyTorch和ExecuTorch中,旨在显著提升其ARM架构芯片在云端和边缘设备上运行大语言模型(LLM)等AI工作负载的性能。
在云端方面,ARM已与AWS和Google等主要云服务商达成合作,将Kleidi与PyTorch相整合。据测试,在AWS的Arm芯片Graviton4上,首次回应LLM模型的时间可加快2.5倍。同时,Kleidi还将优化PyTorch的torch.compile编译功能,进一步提升1.35至2倍的效能。在边缘设备端,Kleidi也将整合到PyTorch的ExecuTorch运行时。ARM表示,这些整合措施有望立即为众多开发者带来显著效能提升,加速Arm芯片在AI领域的部署。
免责声明:投资有风险,本文并非投资建议,以上内容不应被视为任何金融产品的购买或出售要约、建议或邀请,作者或其他用户的任何相关讨论、评论或帖子也不应被视为此类内容。本文仅供一般参考,不考虑您的个人投资目标、财务状况或需求。TTM对信息的准确性和完整性不承担任何责任或保证,投资者应自行研究并在投资前寻求专业建议。