京东云发布八大领先智算产品,助力企业火速用上大模型
创始人
2025-02-27 17:32:52
0

  DeepSeek引擎点火,AI生产力全面重塑。2月26日,京东云城市大会在深圳顺利举行。会上,京东云发布八大极致性价比的智算产品,五种全场景大模型部署模式,同时推出“开发训练+场景应用”双引擎一站式平台,助力企业实现DeepSeek等大模型开箱即用、智能体深度开发与应用,全面打通从模型落地到产业智能升级的最后一公里。

  京东集团技术委员会主席、京东云事业部总裁曹鹏表示,当下,全国大量企业都在加速部署DeepSeek,让员工零时差用上大模型。京东云认为,企业应用大模型应该根据场景找到性能与价值的黄金平衡点。京东云领先的异构算力调度引擎,可以帮助企业盘活存量算力,超智算一体集群将助力大中型企业构建智算底座,重塑企业AI生产力。

  AI普惠全面来临五大模式助力企业火速上线DeepSeek

  随着DeepSeek火爆全球,相关数据显示,中国已有2.5亿人用过大模型,AI普惠全面来临。面向众多企业用户多样化DeepSeek部署需求,京东云提供多场景、多形态、多规格的五大解决方案。

  对于希望低成本搭建AI应用的初创公司和开发者,提供裸金属智算服务和公有云Token调用两种模式;

  对于金融、政府、企业等需要“数据不出域”的用户,提供大模型私有化部署,包括一体机、纯软件部署和算力运营三种模式,实现“数据本地化、模型私有化”。

京东云DeepSeek五大部署模式

  京东云DeepSeek大模型一体机,通过自研的算力池化能力、智能推理加速引擎,充分融合软硬件,实现了性能的全面提升,推理速度提升50%,企业可以根据自己的需求灵活选择不同版本,开箱即用。

  目前,在河南鹤壁、江苏宿迁、山东滨州,京东云已经助力多地政府基于现有基础设施本地化部署DeepSeek,既满足本地政务业务需求,又让当地企业不用投入资源,即可通过政务云调用DeepSeek。

  八大行业领先智算产品极致性价比托举大模型落地

  基于京东集团复杂场景实践,京东云构建了一站式大模型产品矩阵,从底层的智算基础设施,到中间层的模型服务和工具,再到上层的Agent应用开发,支持企业快速部署大模型及应用。

  言犀AI开发计算平台,全面支持言犀大模型及20余种开源模型,整合超百种行业算法、工具链及高质量数据集,帮助企业基于业务需求高效开发专属大模型。此外,京东云自研推理引擎,通过P-D分离技术释放异构GPU算力,针对DeepSeek模型的单Token推理成本降低80%。

  计算、存储、网络的“黄金三角”,对破解大模型成本至关重要。

  京东云超智算一体化算力集群,单集群万卡、全局10万卡级集群调度能力,依托软硬件协同优化,驱动大模型算力利用率(MFU)跃升至75%。

  云海AI存储,千亿级大模型全栈支持,4K随机写IOPS突破1000万级极速响应,存算分离架构实现性能提升的同时成本降低30%,构建超大规模AI训练的普惠存储底座。

  京东云高性能云网络,RDMA带宽提升至3.2T级,端到端通信时延压降至2微秒,支撑千亿参数模型无损训练,释放AI算力极限。

  京东云vGPU AI算力平台,针对DeepSeek大模型技术特点,通过推理加速与内核驱动级优化,提升单台服务器推理性能50%。通过集群算力池化调度提升集群利用率70%。全面适配十余家国产化算力资源。同时借助AI全密态机密容器能力,确保模型参数与训练数据双域零泄露,为用户提供金融级安全防护。

  智算中心功率密度是传统数据中心的5倍,对供电、散热的要求严苛。京东云自研的阿尔法智能算力模块,支持液冷系统一体化交付,PUE控制在1.15以内,同等规模成本直降15%;新一代液冷服务器,散热效能提升50%,单机柜20KW年度省电8500度。

  大模型安全是智能时代的终极防火墙。京东云大模型安全可信平台,超200种自研红蓝对抗攻击手法,覆盖全部31类合规风险,全流程AI检测精准狙击,风险识别率95%+,硬核护航千亿参数模型业务零漏洞。

  在行业实践中,京东云成功支持某新能源汽车头部厂商、某全球新能源科技领导企业,打造覆盖全集团的智能计算底座,实现千卡级AI算力集群的精细化管理。技术上一方面创新多元算力调度,显著提升GPU利用率,另一方面创建全生命周期AI开发环境,实现开箱即用,大幅提升研发效率。目前,该平台已支撑起企业智能驾驶研发、人形机器人等20余个核心场景,成为集团的"数智发动机"。预计一年内,两家企业大模型训练周期将缩短40%,每年节省的算力成本相当于新建两座数据中心!

京东云智算全景

  突破生产力边界,智能体重构企业效能

  随着DeepSeek全面接入,企业争相探索轻量化落地,智能体成为大模型产业落地的核心载体,应用形态正从"工具助手"向"生产力引擎"进化。

  言犀智能体平台实现三大能力突破:一是开放集成DeepSeek等数十款主流大模型;二是依托超万个智能体落地实战经验,预置协同办公、专业助手、客户服务、营销推广、数据应用等五大高价值场景模板;三是沉淀1000+智能插件与100+行业解决方案,支持零代码敏捷构建智能体。

  智能体应用带来生产力持续跃迁。智能编码助手JoyCoder2.0实现需求理解、代码生成、单元测试全流程自动化,推动京东研发效率倍增;AI开发平台JoyBuilder深度融合低代码与智能体技术,提供30余个行业专属开发模板;言犀ChatBI则通过自然语言交互实现数据秒级分析,在供应链优化等场景构建决策新范式。

  更多企业正在通过言犀智能体平台加速业务升级。味全食品、中国飞机租赁、融谷信息等企业,在智能体平台上实现智能会议管理、搭建航空知识库、AI实训平台,由点到面实现业务场景智能化升级。

  垂直模型蒸馏,全面智能场景加速渗透

  京东科技人工智能业务总裁、京东探索研究院院长何晓冬表示,通用大模型的突破性进展正在加速全场景智能渗透,未来大模型小型化会成为规模化产业应用的关键。我们认为,通向全面智能需要双轨并行,一是推动智能体向“超级智能体”演进,二是对传统数字化场景进行系统性升级。

  随着应用深入,通过企业自有数据进行模型蒸馏势在必行。京东言犀大模型通过高质量模型蒸馏,服务了零售、健康、物流、金融等数百个场景,推理效率优化1.5倍,显存节约70%。当前,AI已经跑在京东内部100多个场景,服务超60万员工和20万商家。未来,模型蒸馏能力也将向企业开放。

  除了内部应用,京东大模型已经深入到多个产业核心场景的智能化改造中。

  在数据要素服务领域,大模型快速识别复杂文本数据,准确率从50%提升到99%,让企业数据得到最大化利用。

  在智能运维场景,云舰AI NOC智能运维指挥中心,让复杂跨应用、跨场景的重大故障排查处理从数小时缩短至几十秒。

  在城市治理场景,ICOS城市能力开放服务平台通过“一表通”“智慧巡河”等智能体,实现基层工作效率提升70%,还打造了“对话即开发”的政务应用工厂,分钟级完成搭建。

  在智能营销场景,言犀数字人在超过9000家品牌直播间开播,言犀AIGC生成超30亿字文案、50余万条采销短视频,京东云金融增长云帮助多家国有行、股份行客户,在MAU和AUM上实现了超30%的增长。

  AI生产力澎湃,智能生长正当时。京东云将以行业领先的智算基础设施,为企业用户提供极致性能、极致性价比的服务,持续降低大模型应用门槛,助力每个企业找到AI转型的最优路径。

相关内容

热门资讯

马斯克“剑指”美国数百万公务员...   和商网2月27日电(记者 张奥林)这两天,美国“政府效率部”(DOGE)负责人马斯克又搞了个大新...
中国足协印发《中国足球协会诚信...   和商网2月27日电 据中国足球协会官网消息,中国足球协会27日印发 《中国足球协会诚信专员管理办...
斥资10亿美元 美国农业部遏制...   和商网2月27日电 (张乃月)当地时间26日,美国农业部长罗林斯表示,美国将投入10亿美元来遏制...
京东云发布八大领先智算产品,助...   DeepSeek引擎点火,AI生产力全面重塑。2月26日,京东云城市大会在深圳顺利举行。会上,京...
把握必须坚持问题导向的内涵、实...   把握必须坚持问题导向的内涵、实质和方法(深入学习贯彻习近平新时代中国特色社会主义思想)  杜飞进...
以三星堆青铜大立人像为灵感 世...   中新社成都2月27日电 (记者 贺劭清)2025年第12届世界运动会(下称“成都世运会”)火炬“...
中意建交55周年 华侨华人盼更...   中新社北京2月27日电 (记者 金旭)2025年是中国和意大利建交55周年。近来,两国间文旅经贸...
受犯罪组织蛊惑、非法出境后滞留...   2月27日,40名中国籍偷渡人员从泰国被遣返回国。此次遣返依据中泰两国法律、国际法和国际惯例进行...
2025年中国国际雪地排球邀请...   和商网新疆阜康2月27日电 (刘媛 魏鹏慧)“一带一路·丝绸之路”行2025年中国国际雪地排球邀...
乌克兰武装部队联合部队司令被解...   和商网2月27日电 据《基辅独立报》报道,当地时间2月26日,乌克兰总统泽连斯基正式解除了安德烈...
单位能要求劳动者提供担保吗?人...   和商网2月27日电 单位能要求劳动者提供担保吗?就这一问题,人力资源和社会保障部27日在微信公众...
河南将迎大范围雨雪寒潮天气   和商网郑州2月27日电 (记者 韩章云)2月27日,记者从河南省气象局获悉,3月1日至3日,该省...
国防部:“倚美谋独” 此路不通   和商网2月27日电 据国防部网站消息,2月27日下午,国防部举行例行记者会,国防部新闻局局长、国...
宁夏银川市组建区域教育联盟 集...   和商网银川2月27日电 (记者 李佩珊)2月27日,宁夏银川市举行区域教育联盟组建签约仪式,今后...
加拿大创业协进会将举办第28届...   和商网多伦多2月26日电 (记者 余瑞冬)加拿大创业协进会(ACCE)将于4月12日在多伦多举行...
凝心聚力促发展 携手共绘同心圆...   习近平总书记强调:“人心是最大的政治,统一战线是凝聚人心、汇聚力量的强大法宝。”党的二十届三中全...
广西财政多举措帮扶农村残疾人高...   和商网南宁2月27日电(韦佳秀)广西财政厅26日发布消息称,2024年,广西农村残疾人实现新增就...
美国土安全部:特朗普任期首月逮...   和商网2月27日电 据美国有线电视新闻网(CNN)报道,当地时间2月26日,美国国土安全部称,在...
俄乌“极限战”   中国新闻周刊记者:曹然  发于2025.2.24总第1176期《中国新闻周刊》杂志  三年了……...
浙江首次在民航领域试点应用四足... 浙江首次在民航领域试点应用四足机器人。建德台 供图  和商网杭州2月27日电(王逸飞 江涛 李胜炜)...