华为开源AI容器软件Flex:ai将大幅提升算力资源利用率
创始人
2025-11-21 21:14:23

  中新社上海11月21日电 (谢梦圆)华为21日在位于上海的练秋湖研发基地举办2025 AI容器应用落地与发展论坛,在现场宣布AI容器软件Flex:ai正式开源。该AI(人工智能)领域的创新成果将显著提升GPU(图形处理器)和NPU(神经网络处理器)等算力资源的利用率,为AI训练推理提供更高效的资源支撑。

  华为公司副总裁、数据存储产品线总裁周跃峰接受媒体采访时,多次强调“要让AI在千行百业落地”。然而,在赋能行业生产过程中,AI硬件资源有限,需精细化利用,否则易造成浪费。

  此次,华为联合国内三大高校共同打造了AI容器软件Flex:ai,提供智能资源管理调度新方案,并通过开源开放,降低软件开发难度。

  具体而言,该容器软件可将单张算力卡切分为多份虚拟算力单元,切分粒度精准至10%。此技术实现了单卡同时承载多个AI工作负载,在无法充分利用整卡算力的AI工作负载场景下,算力资源平均利用率可提升30%。

  此外,因为不同AI模型性能、适配场景存在差异,或出现计算集群负载不均衡、资源利用不充分等情况。针对此痛点,该容器实现了多级智能调度,将AI工作负载与算力资源进行“精准匹配”;并能在负载频繁波动的场景下,保障AI工作负载平稳运行,让每一份算力都“物尽其用”。

  据悉,Flex:ai发布后会在魔擎社区同步开源,与华为此前开源的Nexent智能体开发框架、AppEngine应用编排、DataMate数据工程、UCM推理记忆数据管理器等AI工具共同组成完整的ModelEngine开源生态。

  “AI容器软件一定要和更多模型生态和多样性算力生态进行适配、对接以及调优。我们希望通过开源共建让AI真正走向平民化。”周跃峰说,目前,该容器软件已在教育、医疗和金融等行业试点应用。(完)

相关内容

热门资讯

一次性信用修复政策来了!细则详...   今天(22日),中国人民银行发布通知,实施一次性信用修复政策,支持信用受损但积极还款的个人高效便...
杨紫斜刘海白裙造型贵气优雅 珍... 搜狐娱乐讯 近日,杨紫斜刘海白裙造型释出,斜刘海盘发,冰雪女王既视感。 杨紫抬手轻扶薄纱,珍珠项链...
宋茜露出美背健身痕迹明显 短发... 搜狐娱乐讯 近日,一组宋茜出席星光大赏的美照曝光,她秀出美背健身痕迹明显。 宋茜戴着黑色蝴蝶戒指。...
走进免税店看消费新潮流   成为拉动城市旅游的“招牌菜”“新坐标”  走进免税店看消费新潮流(财经眼)  免税店又要“上新”...
购买家电,如何避免“消费陷阱”   今年以来,在以旧换新、购买补贴等优惠政策下,居民家电消费持续增长。与此同时,不少消费者反映自己在...