京東雲發佈八大智算產品,破局AI落地“最後一公里

讀創
02-26

  在2月26日舉行的京東雲城市大會上,京東雲發佈八大極致性價比的智算產品,五種全場景大模型部署模式,同時推出“開發訓練+場景應用”雙引擎一站式平臺,助力企業實現DeepSeek等大模型開箱即用、智能體深度開發與應用,全面打通從模型落地到產業智能升級的最後一公里。

  京東集團技術委員會主席、京東雲事業部總裁曹鵬表示,當下,全國大量企業都在加速部署DeepSeek,讓員工零時差用上大模型。京東雲認爲,企業應用大模型應該根據場景找到性能與價值的黃金平衡點。京東雲領先的異構算力調度引擎,可以幫助企業盤活存量算力,超智算一體集羣將助力大中型企業構建智算底座,重塑企業AI生產力。

  助力企業火速上線DeepSeek

  隨着DeepSeek火爆全球,相關數據顯示,中國已有2.5億人用過大模型,AI普惠全面來臨。面向衆多企業用戶多樣化DeepSeek部署需求,京東雲提供多場景、多形態、多規格的五大解決方案。

  對於希望低成本搭建AI應用的初創公司和開發者,提供裸金屬智算服務和公有云Token調用兩種模式;

  對於金融、政府、企業等需要“數據不出域”的用戶,提供大模型私有化部署,包括一體機、純軟件部署和算力運營三種模式,實現“數據本地化、模型私有化”。

  京東雲DeepSeek大模型一體機,通過自研的算力池化能力、智能推理加速引擎,充分融合軟硬件,實現了性能的全面提升,推理速度提升50%,企業可以根據自己的需求靈活選擇不同版本,開箱即用。

  目前,在河南鶴壁、江蘇宿遷、山東濱州,京東雲已經助力多地政府基於現有基礎設施本地化部署DeepSeek,既滿足本地政務業務需求,又讓當地企業不用投入資源,即可通過政務雲調用DeepSeek。

  智算產品託舉大模型落地

  基於京東集團複雜場景實踐,京東雲構建了一站式大模型產品矩陣,從底層的智算基礎設施,到中間層的模型服務和工具,再到上層的Agent應用開發,支持企業快速部署大模型及應用。

  言犀AI開發計算平臺,全面支持言犀大模型及20餘種開源模型,整合超百種行業算法、工具鏈及高質量數據集,幫助企業基於業務需求高效開發專屬大模型。此外,京東雲自研推理引擎,通過P-D分離技術釋放異構GPU算力,針對DeepSeek模型的單Token推理成本降低80%。

  計算、存儲、網絡的“黃金三角”,對破解大模型成本至關重要。

  京東雲超智算一體化算力集羣,單集羣萬卡、全局10萬卡級集羣調度能力,依託軟硬件協同優化,驅動大模型算力利用率(MFU)躍升至75%。

  雲海AI存儲,千億級大模型全棧支持,4K隨機寫IOPS突破1000萬級極速響應,存算分離架構實現性能提升的同時成本降低30%,構建超大規模AI訓練的普惠存儲底座。

  京東雲高性能雲網絡,RDMA帶寬提升至3.2T級,端到端通信時延壓降至2微秒,支撐千億參數模型無損訓練,釋放AI算力極限。

  京東雲vGPU AI算力平臺,針對DeepSeek大模型技術特點,通過推理加速與內核驅動級優化,提升單臺服務器推理性能50%。通過集羣算力池化調度提升集羣利用率70%。全面適配十餘家國產化算力資源。同時藉助AI全密態機密容器能力,確保模型參數與訓練數據雙域零泄露,爲用戶提供金融級安全防護。

  智算中心功率密度是傳統數據中心的5倍,對供電、散熱的要求嚴苛。京東雲自研的阿爾法智能算力模塊,支持液冷系統一體化交付,PUE控制在1.15以內,同等規模成本直降15%;新一代液冷服務器,散熱效能提升 50%,單機櫃20KW年度省電8500度。

  大模型安全是智能時代的終極防火牆。京東雲大模型安全可信平臺,超200種自研紅藍對抗攻擊手法,覆蓋全部31類合規風險,全流程AI檢測精準狙擊,風險識別率95%+,硬核護航千億參數模型業務零漏洞。

  在行業實踐中,京東雲成功支持某新能源汽車頭部廠商、某全球新能源科技領導企業,打造覆蓋全集團的智能計算底座,實現千卡級AI算力集羣的精細化管理。技術上一方面創新多元算力調度,顯著提升GPU利用率,另一方面創建全生命週期AI開發環境,實現開箱即用,大幅提升研發效率。目前,該平臺已支撐起企業智能駕駛研發、人形機器人等20餘個核心場景,成爲集團的"數智發動機"。預計一年內,兩家企業大模型訓練週期將縮短40%,每年節省的算力成本相當於新建兩座數據中心

  智能體重構企業效能

  隨着DeepSeek全面接入,企業爭相探索輕量化落地,智能體成爲大模型產業落地的核心載體,應用形態正從"工具助手"向"生產力引擎"進化。

  言犀智能體平臺實現三大能力突破:一是開放集成DeepSeek等數十款主流大模型;二是依託超萬個智能體落地實戰經驗,預置協同辦公、專業助手、客戶服務、營銷推廣、數據應用等五大高價值場景模板;三是沉澱1000+智能插件與100+行業解決方案,支持零代碼敏捷構建智能體。

  智能體應用帶來生產力持續躍遷。智能編碼助手JoyCoder2.0實現需求理解、代碼生成、單元測試全流程自動化,推動京東研發效率倍增;AI開發平臺JoyBuilder深度融合低代碼與智能體技術,提供30餘個行業專屬開發模板;言犀ChatBI則通過自然語言交互實現數據秒級分析,在供應鏈優化等場景構建決策新範式。

  更多企業正在通過言犀智能體平臺加速業務升級。味全食品、中國飛機租賃、融谷信息等企業,在智能體平臺上實現智能會議管理、搭建航空知識庫、AI實訓平臺,由點到面實現業務場景智能化升級。

  全面智能場景加速滲透

  京東科技人工智能業務總裁、京東探索研究院院長何曉冬表示,通用大模型的突破性進展正在加速全場景智能滲透,未來大模型小型化會成爲規模化產業應用的關鍵。我們認爲,通向全面智能需要雙軌並行,一是推動智能體向“超級智能體”演進,二是對傳統數字化場景進行系統性升級。

  隨着應用深入,通過企業自有數據進行模型蒸餾勢在必行。京東言犀大模型通過高質量模型蒸餾,服務了零售、健康、物流、金融等數百個場景,推理效率優化1.5倍,顯存節約70%。當前,AI已經跑在京東內部100多個場景,服務超60萬員工和20萬商家。未來,模型蒸餾能力也將向企業開放。

  除了內部應用,京東大模型已經深入到多個產業核心場景的智能化改造中。

  在數據要素服務領域,大模型快速識別複雜文本數據,準確率從50%提升到99%,讓企業數據得到最大化利用。

  在智能運維場景,雲艦AI NOC智能運維指揮中心,讓複雜跨應用、跨場景的重大故障排查處理從數小時縮短至幾十秒。

  在城市治理場景,ICOS城市能力開放服務平臺通過“一表通”“智慧巡河”等智能體,實現基層工作效率提升70%,還打造了“對話即開發”的政務應用工廠,分鐘級完成搭建。

  在智能營銷場景,言犀數字人在超過9000家品牌直播間開播,言犀AIGC生成超30億字文案、50餘萬條採銷短視頻,京東雲金融增長雲幫助多家國有行、股份行客戶,在MAU和AUM上實現了超30%的增長。

(文章來源:讀創)

免責聲明:投資有風險,本文並非投資建議,以上內容不應被視為任何金融產品的購買或出售要約、建議或邀請,作者或其他用戶的任何相關討論、評論或帖子也不應被視為此類內容。本文僅供一般參考,不考慮您的個人投資目標、財務狀況或需求。TTM對信息的準確性和完整性不承擔任何責任或保證,投資者應自行研究並在投資前尋求專業建議。

熱議股票

  1. 1
     
     
     
     
  2. 2
     
     
     
     
  3. 3
     
     
     
     
  4. 4
     
     
     
     
  5. 5
     
     
     
     
  6. 6
     
     
     
     
  7. 7
     
     
     
     
  8. 8
     
     
     
     
  9. 9
     
     
     
     
  10. 10