在2月26日举行的京东云城市大会上,京东云发布八大极致性价比的智算产品,五种全场景大模型部署模式,同时推出“开发训练+场景应用”双引擎一站式平台,助力企业实现DeepSeek等大模型开箱即用、智能体深度开发与应用,全面打通从模型落地到产业智能升级的最后一公里。
京东集团技术委员会主席、京东云事业部总裁曹鹏表示,当下,全国大量企业都在加速部署DeepSeek,让员工零时差用上大模型。京东云认为,企业应用大模型应该根据场景找到性能与价值的黄金平衡点。京东云领先的异构算力调度引擎,可以帮助企业盘活存量算力,超智算一体集群将助力大中型企业构建智算底座,重塑企业AI生产力。
助力企业火速上线DeepSeek
随着DeepSeek火爆全球,相关数据显示,中国已有2.5亿人用过大模型,AI普惠全面来临。面向众多企业用户多样化DeepSeek部署需求,京东云提供多场景、多形态、多规格的五大解决方案。
对于希望低成本搭建AI应用的初创公司和开发者,提供裸金属智算服务和公有云Token调用两种模式;
对于金融、政府、企业等需要“数据不出域”的用户,提供大模型私有化部署,包括一体机、纯软件部署和算力运营三种模式,实现“数据本地化、模型私有化”。
京东云DeepSeek大模型一体机,通过自研的算力池化能力、智能推理加速引擎,充分融合软硬件,实现了性能的全面提升,推理速度提升50%,企业可以根据自己的需求灵活选择不同版本,开箱即用。
目前,在河南鹤壁、江苏宿迁、山东滨州,京东云已经助力多地政府基于现有基础设施本地化部署DeepSeek,既满足本地政务业务需求,又让当地企业不用投入资源,即可通过政务云调用DeepSeek。
智算产品托举大模型落地
基于京东集团复杂场景实践,京东云构建了一站式大模型产品矩阵,从底层的智算基础设施,到中间层的模型服务和工具,再到上层的Agent应用开发,支持企业快速部署大模型及应用。
言犀AI开发计算平台,全面支持言犀大模型及20余种开源模型,整合超百种行业算法、工具链及高质量数据集,帮助企业基于业务需求高效开发专属大模型。此外,京东云自研推理引擎,通过P-D分离技术释放异构GPU算力,针对DeepSeek模型的单Token推理成本降低80%。
计算、存储、网络的“黄金三角”,对破解大模型成本至关重要。
京东云超智算一体化算力集群,单集群万卡、全局10万卡级集群调度能力,依托软硬件协同优化,驱动大模型算力利用率(MFU)跃升至75%。
云海AI存储,千亿级大模型全栈支持,4K随机写IOPS突破1000万级极速响应,存算分离架构实现性能提升的同时成本降低30%,构建超大规模AI训练的普惠存储底座。
京东云高性能云网络,RDMA带宽提升至3.2T级,端到端通信时延压降至2微秒,支撑千亿参数模型无损训练,释放AI算力极限。
京东云vGPU AI算力平台,针对DeepSeek大模型技术特点,通过推理加速与内核驱动级优化,提升单台服务器推理性能50%。通过集群算力池化调度提升集群利用率70%。全面适配十余家国产化算力资源。同时借助AI全密态机密容器能力,确保模型参数与训练数据双域零泄露,为用户提供金融级安全防护。
智算中心功率密度是传统数据中心的5倍,对供电、散热的要求严苛。京东云自研的阿尔法智能算力模块,支持液冷系统一体化交付,PUE控制在1.15以内,同等规模成本直降15%;新一代液冷服务器,散热效能提升 50%,单机柜20KW年度省电8500度。
大模型安全是智能时代的终极防火墙。京东云大模型安全可信平台,超200种自研红蓝对抗攻击手法,覆盖全部31类合规风险,全流程AI检测精准狙击,风险识别率95%+,硬核护航千亿参数模型业务零漏洞。
在行业实践中,京东云成功支持某新能源汽车头部厂商、某全球新能源科技领导企业,打造覆盖全集团的智能计算底座,实现千卡级AI算力集群的精细化管理。技术上一方面创新多元算力调度,显著提升GPU利用率,另一方面创建全生命周期AI开发环境,实现开箱即用,大幅提升研发效率。目前,该平台已支撑起企业智能驾驶研发、人形机器人等20余个核心场景,成为集团的"数智发动机"。预计一年内,两家企业大模型训练周期将缩短40%,每年节省的算力成本相当于新建两座数据中心!
智能体重构企业效能
随着DeepSeek全面接入,企业争相探索轻量化落地,智能体成为大模型产业落地的核心载体,应用形态正从"工具助手"向"生产力引擎"进化。
言犀智能体平台实现三大能力突破:一是开放集成DeepSeek等数十款主流大模型;二是依托超万个智能体落地实战经验,预置协同办公、专业助手、客户服务、营销推广、数据应用等五大高价值场景模板;三是沉淀1000+智能插件与100+行业解决方案,支持零代码敏捷构建智能体。
智能体应用带来生产力持续跃迁。智能编码助手JoyCoder2.0实现需求理解、代码生成、单元测试全流程自动化,推动京东研发效率倍增;AI开发平台JoyBuilder深度融合低代码与智能体技术,提供30余个行业专属开发模板;言犀ChatBI则通过自然语言交互实现数据秒级分析,在供应链优化等场景构建决策新范式。
更多企业正在通过言犀智能体平台加速业务升级。味全食品、中国飞机租赁、融谷信息等企业,在智能体平台上实现智能会议管理、搭建航空知识库、AI实训平台,由点到面实现业务场景智能化升级。
全面智能场景加速渗透
京东科技人工智能业务总裁、京东探索研究院院长何晓冬表示,通用大模型的突破性进展正在加速全场景智能渗透,未来大模型小型化会成为规模化产业应用的关键。我们认为,通向全面智能需要双轨并行,一是推动智能体向“超级智能体”演进,二是对传统数字化场景进行系统性升级。
随着应用深入,通过企业自有数据进行模型蒸馏势在必行。京东言犀大模型通过高质量模型蒸馏,服务了零售、健康、物流、金融等数百个场景,推理效率优化1.5倍,显存节约70%。当前,AI已经跑在京东内部100多个场景,服务超60万员工和20万商家。未来,模型蒸馏能力也将向企业开放。
除了内部应用,京东大模型已经深入到多个产业核心场景的智能化改造中。
在数据要素服务领域,大模型快速识别复杂文本数据,准确率从50%提升到99%,让企业数据得到最大化利用。
在智能运维场景,云舰AI NOC智能运维指挥中心,让复杂跨应用、跨场景的重大故障排查处理从数小时缩短至几十秒。
在城市治理场景,ICOS城市能力开放服务平台通过“一表通”“智慧巡河”等智能体,实现基层工作效率提升70%,还打造了“对话即开发”的政务应用工厂,分钟级完成搭建。
在智能营销场景,言犀数字人在超过9000家品牌直播间开播,言犀AIGC生成超30亿字文案、50余万条采销短视频,京东云金融增长云帮助多家国有行、股份行客户,在MAU和AUM上实现了超30%的增长。
(文章来源:读创)
Disclaimer: Investing carries risk. This is not financial advice. The above content should not be regarded as an offer, recommendation, or solicitation on acquiring or disposing of any financial products, any associated discussions, comments, or posts by author or other users should not be considered as such either. It is solely for general information purpose only, which does not consider your own investment objectives, financial situations or needs. TTM assumes no responsibility or warranty for the accuracy and completeness of the information, investors should do their own research and may seek professional advice before investing.