蔚來汽車申請大語言模型的加速推理方法專利,加速推理大語言模型

金融界
04-10

金融界2025年4月10日消息,國家知識產權局信息顯示,蔚來汽車科技(安徽)有限公司申請一項名爲“大語言模型的加速推理方法和計算設備”的專利,公開號CN 119783729 A,申請日期爲2024年12月。

專利摘要顯示,本申請涉及數據處理技術,特別涉及大語言模型的加速推理方法、實施該方法的計算設備、非瞬時計算機可讀存儲介質和計算機程序產品。按照本申請的一個方面,提供一種大語言模型的加速推理方法,其中,所述大語言模型包含多個以級聯方式連接的子層,所述子層爲多頭注意力層或前饋神經網絡層,所述方法包括:A、利用動態稀疏優化器,爲每個子層確定相應的稀疏度;B、利用稀疏化的子層來處理推理請求,其中,稀疏化的方式爲:對於每個子層,利用與該子層相關聯的動態稀疏預測器,基於該子層的稀疏度和與輸入該子層的前一子層的上下文來確定需要激活的注意力頭或神經元並且激活所確定的注意力頭或神經元。

天眼查資料顯示,蔚來汽車科技(安徽)有限公司,成立於2020年,位於合肥市,是一家以從事研究和試驗發展爲主的企業。企業註冊資本1800000萬人民幣,實繳資本600000萬人民幣。通過天眼查大數據分析,蔚來汽車科技(安徽)有限公司共對外投資了4家企業,參與招投標項目18次,財產線索方面有商標信息2219條,專利信息2924條,此外企業還擁有行政許可26個。

免責聲明:投資有風險,本文並非投資建議,以上內容不應被視為任何金融產品的購買或出售要約、建議或邀請,作者或其他用戶的任何相關討論、評論或帖子也不應被視為此類內容。本文僅供一般參考,不考慮您的個人投資目標、財務狀況或需求。TTM對信息的準確性和完整性不承擔任何責任或保證,投資者應自行研究並在投資前尋求專業建議。

熱議股票

  1. 1
     
     
     
     
  2. 2
     
     
     
     
  3. 3
     
     
     
     
  4. 4
     
     
     
     
  5. 5
     
     
     
     
  6. 6
     
     
     
     
  7. 7
     
     
     
     
  8. 8
     
     
     
     
  9. 9
     
     
     
     
  10. 10