智通財經APP獲悉,3月19日,NVIDIA英偉達(NVDA.US)今日宣佈推出NVIDIA Blackwell AI工廠平臺的新一代產品 —— NVIDIA Blackwell Ultra,開啓了AI推理新時代。
NVIDIA Blackwell Ultra 提升了訓練和測試時擴展推理能力(test-time scaling inference), 即通過在推理過程中增加計算量來提升準確率的技術,以幫助全球各地的企業加速AI推理、代理式AI及物理AI等應用的開發與部署。
基於一年前推出的突破性的Blackwell架構,Blackwell Ultra包括 NVIDIA GB300 NVL72機架級解決方案和NVIDIA HGX B300 NVL16系統。GB300 NVL72的AI性能是NVIDIA GB200 NVL72的1.5倍,這使得建造AI 工廠的收入機會與基於 NVIDIA Hopper構建的系統相比增加了50倍。
“人工智能實現了巨大的飛躍 —— 推理和代理式AI對計算性能的需求呈數量級增長,”NVIDIA創始人兼首席執行官黃仁勳表示。“我們爲這一時刻設計了Blackwell Ultra——它是一款單一且多功能的平臺,能夠輕鬆高效地完成預訓練、後訓練以及推理型AI推理任務。”
NVIDIA GB300 NVL72在一個機架設計中連接了72個Blackwell Ultra GPU和36個基於Arm Neoverse架構的 NVIDIA Grace CPU,整體表現如同一個巨型GPU,專爲測試時擴展而打造。通過GB300 NVL72,AI模型能夠利用平臺增強的計算能力探索多種解決方案,將複雜請求分解爲多個步驟,從而生成更高質量的響應。
GB300 NVL72預計還將通過NVIDIA DGX Cloud 提供,該平臺是一個端到端的全託管 AI 平臺,部署於領先的雲服務上,通過軟件、服務和 AI 專業知識爲不斷發展的工作負載優化性能。配備DGX GB300系統的NVIDIA DGX SuperPOD採用 GB300 NVL72 機架設計,爲客戶提供了一個交鑰匙式 AI 工廠。
NVIDIA HGX B300 NVL16相比Hopper代產品,LLM 推理速度提速了11倍,計算性能提升了7倍,內存容量擴大了4倍,可爲最複雜的工作負載(如 AI 推理)提供突破性性能。
此外,Blackwell Ultra平臺特別適用於以下應用:
代理式AI, 利用複雜推理和迭代規劃自主解決複雜的多步驟問題。 AI智能體系統超越了簡單的指令執行。他們能夠推理、規劃並採取行動以實現特定目標。
物理 AI,使企業能夠實時生成合成的、具有高度真實感的視頻,用於大規模訓練機器人和自動駕駛汽車等應用。
NVIDIA表示,聯想(00992)、戴爾和超微等合作伙伴預計將從2025年下半年開始推出基於Blackwell Ultra的各類服務器。
免責聲明:投資有風險,本文並非投資建議,以上內容不應被視為任何金融產品的購買或出售要約、建議或邀請,作者或其他用戶的任何相關討論、評論或帖子也不應被視為此類內容。本文僅供一般參考,不考慮您的個人投資目標、財務狀況或需求。TTM對信息的準確性和完整性不承擔任何責任或保證,投資者應自行研究並在投資前尋求專業建議。