聯想AI服務器首次實現本地部署DeepSeek滿血大模型低於1TB,支持100併發

美港電訊
03-03

【聯想AI服務器首次實現本地部署DeepSeek滿血大模型低於1TB,支持100併發】金十數據3月3日訊,近日,聯想集團宣佈基於聯想問天WA7780 G3服務器,在行業內首次實現單機部署DeepSeek-R1/V3 671B大模型,以低於行業公認1TGB顯存(實際768GB)承載100併發用戶流暢體驗。據聯想實測數據顯示,在512 token標準測試環境下,該系統可支持100個併發用戶持續獲得每秒10 token的穩定輸出,首token響應時間壓縮至30秒內。

免責聲明:投資有風險,本文並非投資建議,以上內容不應被視為任何金融產品的購買或出售要約、建議或邀請,作者或其他用戶的任何相關討論、評論或帖子也不應被視為此類內容。本文僅供一般參考,不考慮您的個人投資目標、財務狀況或需求。TTM對信息的準確性和完整性不承擔任何責任或保證,投資者應自行研究並在投資前尋求專業建議。

熱議股票

  1. 1
     
     
     
     
  2. 2
     
     
     
     
  3. 3
     
     
     
     
  4. 4
     
     
     
     
  5. 5
     
     
     
     
  6. 6
     
     
     
     
  7. 7
     
     
     
     
  8. 8
     
     
     
     
  9. 9
     
     
     
     
  10. 10