← 返回信息流
AI 资讯量子位·3 小时前

CNCF发布招行AI调度平台案例 范式HAMi技术获生产级验证

原标题:CNCF发布招商银行AI调度平台案例 源于范式的HAMi技术获生产级验证

速览

CNCF发布了招商银行基于范式HAMi技术的AI调度平台案例。该技术已通过生产级验证,证明其成熟度和稳定性。这一案例为云原生环境下AI工作负载调度提供了可参考的实践,也标志着范式技术在金融场景的落地。

AI 深度解读

背景

随着人工智能技术的快速普及,企业对GPU等异构算力的需求急剧增长。然而,在实际生产环境中,算力孤岛、资源闲置、运维成本高以及异构设备碎片化等问题普遍存在,成为制约AI基础设施效率的关键瓶颈。传统的资源调度方案难以在金融、自动驾驶等对稳定性与性能要求极高的场景中实现弹性共享与高效利用。在此背景下,由范式智能(Paradigm)发起并主导的开源项目HAMi应运而生,旨在通过云原生技术实现异构AI算力的统一调度与池化管理。

核心内容

云原生计算基金会(CNCF)近日正式发布招商银行基于HAMi构建AI计算调度平台的案例研究。该案例是HAMi从Sandbox级别晋升至Incubation级别后,首个获得CNCF官方认证的标杆项目,标志着由中国团队发起并主导的开源技术已在金融级生产环境中获得国际权威认可。

招商银行借助HAMi,在Kubernetes基础上搭建了“一池多芯、弹性共享、拓扑优化”的统一异构AI计算调度平台。实际运行数据显示,该平台将硬件池利用率提升至100%,分布式训练跨机调度概率降低30%,有效解决了算力孤岛、资源闲置和运维成本高等普遍性难题。行业分析人士指出,该案例为金融行业AI基础设施建设提供了可复用的参考范式。

HAMi项目起源于范式智能内部的vGPU技术实践。面对异构GPU设备碎片化、资源调度效率低下等挑战,范式选择将内部能力开源,推动AI算力管理基础设施的标准化。截至目前,HAMi已吸引来自17个国家和地区的500余名开发者参与贡献,最终用户覆盖云服务商、互联网、金融、汽车、物流、教育等领域的超过300家企业,并已拓展至东南亚、欧洲等海外市场。

在生产环境落地方面,HAMi已在招商银行、蔚来汽车、贝壳找房、顺丰科技、SNOW Corp.、DaoCloud、PREP EDU等多家头部企业部署,应用于GPU利用率提升、异构算力池化、大模型推理流量调度、自动驾驶训练与仿真等核心场景。根据实际运营数据,通过异构加速器共享与隔离调度,企业可节省最高80%的硬件采购成本,GPU综合利用率提升5至10倍。

今年,HAMi项目登上KubeCon+CloudNativeCon Europe阿姆斯特丹主论坛Keynote环节,成为近年来唯一获此演讲席位的中国开源项目,显示出全球云原生生态对中国AI算力调度技术的关注度正在上升。

作为HAMi项目的核心发起方和主要贡献者,范式近期对HAMi的投入动作频频。技术层面,范式率先将Kubernetes DRA(动态资源分配)标准推向生产级,完成了libvgpu.so动态注入、环境变量配置、临时目录管理等关键工程突破,并已实现对NVIDIA、昇腾、昆仑芯等主流芯片的适配落地。

自2024年8月加入CNCF以来,HAMi在不到两年时间内从Sandbox快速晋升至Incubating,并持续有生产级案例入选官方标杆研究。

关键要点

  • CNCF官方认证标杆案例:招商银行基于HAMi搭建的统一异构AI计算调度平台,成为HAMi晋升Incubation级别后首个获得CNCF官方认证的标杆项目,证明其在金融级生产环境中的可靠性与成熟度。
  • 核心性能提升:硬件池利用率提升至100%,分布式训练跨机调度概率降低30%,显著缓解算力孤岛和资源闲置问题。
  • 开源生态与社区规模:吸引来自17个国家和地区超过500名开发者,最终用户覆盖300余家企业,拓展至东南亚、欧洲等海外市场。
  • 多行业落地场景:已在招商银行、蔚来汽车、贝壳找房、顺丰科技、SNOW Corp.、DaoCloud、PREP EDU等头部企业部署,应用于GPU利用率提升、异构算力池化、大模型推理调度、自动驾驶训练与仿真等核心场景。
  • 显著成本效益:通过异构加速器共享与隔离调度,企业可节省最高80%的硬件采购成本,GPU综合利用率提升5至10倍。
  • 国际舞台认可:登上KubeCon+CloudNativeCon Europe阿姆斯特丹主论坛Keynote,成为近年来唯一获此演讲席位的中国开源项目。
  • 技术突破与芯片适配:范式率先将Kubernetes DRA标准推向生产级,完成libvgpu.so动态注入等关键工程突破,已适配NVIDIA、昇腾、昆仑芯等主流芯片。
  • 快速晋升路径:自2024年8月加入CNCF,不到两年时间从Sandbox晋升至Incubating,持续有生产级案例入选官方标杆研究。

意义与影响

该案例的发布标志着源自中国工程实践的开源技术正加速迈向全球AI算力调度领域的事实标准。具体而言:

  • 对金融行业的示范效应:招商银行的成功实践证明了云原生AI调度平台在金融级高要求环境下的可行性,为其他金融机构乃至整个行业提供了可复用的参考范式,有望推动更多企业采用类似技术路线。
  • 对开源生态的推动:HAMi项目在CNCF框架下的快速晋升,以及其社区规模的持续扩大,体现了中国开源项目在全球治理、安全性、采用广度和成熟度方面已达到国际顶级标准,增强了中国技术社区的全球影响力。
  • 对AI基础设施效率的变革:通过实现一池多芯、弹性共享和拓扑优化,HAMi显著降低了硬件采购成本与运维复杂度,使企业能够以更低的资源投入获得更高的计算效率,从而加速AI应用的落地与迭代。
  • 对技术标准的引领:范式率先将Kubernetes DRA标准推向生产级,并完成多芯片适配,有助于推动异构算力调度领域的标准化进程,降低生态碎片化程度,为未来更大范围的AI基础设施开放与高效发展奠定基础。
查看原文 →qbitai.com