今日,全球著名芯片IP設計公司ARM Holdings Ltd(ARM)股價盤中大漲6.48%,引發市場熱議。消息顯示,此番大漲與ARM不久前宣佈的一項重要技術整合計劃有關。
具體來看,ARM將自主研發的Kleidi技術整合到主流的人工智能框架PyTorch和ExecuTorch中。藉助這一整合,ARM芯片在雲端和邊緣設備上運行大語言模型等AI工作負載的性能將大幅提升。
首批效果顯著,在雲端場景,Kleidi技術有望使ARM芯片在AWS Graviton4處理器上運行LLM模型的首次回應時間加快2.5倍;同時PyTorch編譯功能也有望加速1.35至2倍。而在邊緣設備領域,Kleidi技術也將與PyTorch的ExecuTorch推理運行時相整合,爲諸多產品帶去實實在在的性能提升。
免責聲明：投資有風險，本文並非投資建議，以上內容不應被視為任何金融產品的購買或出售要約、建議或邀請，作者或其他用戶的任何相關討論、評論或帖子也不應被視為此類內容。本文僅供一般參考，不考慮您的個人投資目標、財務狀況或需求。TTM對信息的準確性和完整性不承擔任何責任或保證，投資者應自行研究並在投資前尋求專業建議。