DeepSeek宣佈推出NSA:用於超快速長上下文訓練和推理

環球市場播報
02-18

  DeepSeek宣佈推出NSA,用於超快速的長上下文訓練和推理。

  據其介紹,NSA是一種與硬件一致且本機可訓練的稀疏注意力機制,用於超快速的長上下文訓練和推理。

  通過針對現代硬件的優化設計,NSA加快了推理速度,同時降低了預訓練成本,而不會影響性能。

  在一般基準測試、長上下文任務和基於指令的推理上,它與完全注意力模型相匹配或優於完全注意力模型。

海量資訊、精準解讀,盡在新浪財經APP

責任編輯:劉明亮

免責聲明:投資有風險,本文並非投資建議,以上內容不應被視為任何金融產品的購買或出售要約、建議或邀請,作者或其他用戶的任何相關討論、評論或帖子也不應被視為此類內容。本文僅供一般參考,不考慮您的個人投資目標、財務狀況或需求。TTM對信息的準確性和完整性不承擔任何責任或保證,投資者應自行研究並在投資前尋求專業建議。

熱議股票

  1. 1
     
     
     
     
  2. 2
     
     
     
     
  3. 3
     
     
     
     
  4. 4
     
     
     
     
  5. 5
     
     
     
     
  6. 6
     
     
     
     
  7. 7
     
     
     
     
  8. 8
     
     
     
     
  9. 9
     
     
     
     
  10. 10