华为开源AI容器软件Flex:ai将大幅提升算力资源利用率
创始人
2025-11-21 21:14:23

  中新社上海11月21日电 (谢梦圆)华为21日在位于上海的练秋湖研发基地举办2025 AI容器应用落地与发展论坛,在现场宣布AI容器软件Flex:ai正式开源。该AI(人工智能)领域的创新成果将显著提升GPU(图形处理器)和NPU(神经网络处理器)等算力资源的利用率,为AI训练推理提供更高效的资源支撑。

  华为公司副总裁、数据存储产品线总裁周跃峰接受媒体采访时,多次强调“要让AI在千行百业落地”。然而,在赋能行业生产过程中,AI硬件资源有限,需精细化利用,否则易造成浪费。

  此次,华为联合国内三大高校共同打造了AI容器软件Flex:ai,提供智能资源管理调度新方案,并通过开源开放,降低软件开发难度。

  具体而言,该容器软件可将单张算力卡切分为多份虚拟算力单元,切分粒度精准至10%。此技术实现了单卡同时承载多个AI工作负载,在无法充分利用整卡算力的AI工作负载场景下,算力资源平均利用率可提升30%。

  此外,因为不同AI模型性能、适配场景存在差异,或出现计算集群负载不均衡、资源利用不充分等情况。针对此痛点,该容器实现了多级智能调度,将AI工作负载与算力资源进行“精准匹配”;并能在负载频繁波动的场景下,保障AI工作负载平稳运行,让每一份算力都“物尽其用”。

  据悉,Flex:ai发布后会在魔擎社区同步开源,与华为此前开源的Nexent智能体开发框架、AppEngine应用编排、DataMate数据工程、UCM推理记忆数据管理器等AI工具共同组成完整的ModelEngine开源生态。

  “AI容器软件一定要和更多模型生态和多样性算力生态进行适配、对接以及调优。我们希望通过开源共建让AI真正走向平民化。”周跃峰说,目前,该容器软件已在教育、医疗和金融等行业试点应用。(完)

相关内容

热门资讯

桂浙往来提速 南宁至嘉兴直飞航...   和商网南宁3月30日电 (杨璇 陈雯 秦志)中国南方航空股份有限公司广西分公司29日介绍,当天,...
时政微视频丨把绿色的种子种进心... 视频:时政微视频丨把绿色的种子种进心里来源:央视新闻客户端  党的十八大以来,习近平总书记每年都会同...
原创 《... 张凌赫、田曦薇主演的《逐玉》迎来大结局,《逐玉》结局没有烂尾,是圆满收场,不过也有不少剧迷认为,相比...
原创 金... 江湖中的传闻,总是真假难辨。 就比如《倚天屠龙记》中那句“武林至尊,宝刀屠龙,号令天下,莫干不从,倚...
陈好一家和挚友聚会 一路笑容灿... 搜狐娱乐讯(洪水工作室/图文)近日某晚,陈好和老公带着女儿和朋友聚会。饭后,大家都松弛感拉满,应该是...