今日,全球著名芯片IP设计公司ARM Holdings Ltd(ARM)股价盘中大涨6.48%,引发市场热议。消息显示,此番大涨与ARM不久前宣布的一项重要技术整合计划有关。
具体来看,ARM将自主研发的Kleidi技术整合到主流的人工智能框架PyTorch和ExecuTorch中。借助这一整合,ARM芯片在云端和边缘设备上运行大语言模型等AI工作负载的性能将大幅提升。
首批效果显著,在云端场景,Kleidi技术有望使ARM芯片在AWS Graviton4处理器上运行LLM模型的首次回应时间加快2.5倍;同时PyTorch编译功能也有望加速1.35至2倍。而在边缘设备领域,Kleidi技术也将与PyTorch的ExecuTorch推理运行时相整合,为诸多产品带去实实在在的性能提升。
免责声明：投资有风险，本文并非投资建议，以上内容不应被视为任何金融产品的购买或出售要约、建议或邀请，作者或其他用户的任何相关讨论、评论或帖子也不应被视为此类内容。本文仅供一般参考，不考虑您的个人投资目标、财务状况或需求。TTM对信息的准确性和完整性不承担任何责任或保证，投资者应自行研究并在投资前寻求专业建议。