← 返回信息流
AI 资讯VentureBeat AI·51 分钟前

AI算力鸿沟:企业基础设施投入增速超成本掌控

原标题:The AI compute gap: Enterprises are buying infrastructure faster than they can measure what it costs

速览

VentureBeat Pulse Research调查发现,企业的AI基础设施投资增速远超其对成本的掌控能力:仅21%实现规模化生产,GPU利用率半数以下,超六成计划一年内更换供应商。选购决策更看重集成度和总拥有成本,而非单纯token价格。同时,从GPU算力向内存带宽的转变尚未引起足够重视,反映出一个“计算鸿沟”——投资先行,但经济可见性和控制力严重滞后。

AI 深度解读

背景

VentureBeat 通过其 Pulse Research 系列发布了一项针对企业 AI 基础设施与计算支出的调查,旨在揭示当前企业在部署 AI 时的实际状况、投资意愿以及成本可见性。调查于 2026 年第二季度(6 月)进行,样本覆盖 107 家员工超过 100 人的企业,集中在中间市场(101–250 人占 36%,251–1,000 人占 27%),角色涵盖管理者(38%)、个人贡献者(28%)、副总裁/总监(19%)和 C 级别(13%),其中 45% 是 AI 解决方案的最终决策者。行业分布以技术/软件(26%)、医疗/生命科学(15%)、金融服务(13%)和零售/电商(12%)为主。由于样本属于单波次自选调查,结果应视为方向性信号而非精确测量,尤其偏向早期采用者和中间市场,不代表最大规模超大规模运营商的视角。

核心内容

调查的核心发现是存在一个“计算鸿沟”(compute gap)——企业在 AI 基础设施上的投资速度远超其衡量和控制这些成本的能力。具体而言,只有约五分之一(21%)的企业在规模化生产环境中运行 AI,但投资意愿却远超这一成熟度:未来一年企业计划评估的最大单一领域是 AI 专用云(45%),而目前几乎没有任何企业使用这类基础设施。与此同时,已部署的计算资源处于低效运行状态——83% 的企业报告 GPU 利用率仅为 50% 或更低,且不到一半(44%)的企业能够严格追踪 AI 计算的实际成本。企业正在以比他们能够核算已有资产更快的速度购买更多基础设施。

部署成熟度与投资意愿的错位
调查显示,企业 AI 部署的成熟度曲线仍处于早期:38% 处于实验阶段(运行概念验证,尚未进入生产),37% 已有部分工作负载进入生产但未覆盖全组织,仅 21% 在规模化生产环境中运行 AI,另有 4% 尚未开始任何 AI 工作负载。这意味着后续的决策主要由仍处于部署早期的组织做出,其计算足迹和成本即将大幅增长。

当前使用的基础设施:超大规模云与模型 API 主导,专用 GPU 云几乎缺席
目前企业运行 AI 最常用的平台是 Google Cloud(48%),其次是 Microsoft Azure(29%)、AWS(22%)和 Oracle Cloud(22%)。模型方面,Google 的 Gemini 模型使用率最高(41%),紧随其后的是 OpenAI(40%),Anthropic 为 12%。仅有 6% 的企业运行自有本地或托管 GPU 集群,4% 使用自定义开源自管理栈。而专用 AI 云(如 CoreWeave、Lambda、Crusoe、Nebius、Together、Fireworks 等)的使用率均低于 2%。当前基础设施仍以超大规模云和 API 调用为主。

计划切换或新增供应商的高意愿
明确多数(64%)的企业计划在未来十二个月内切换或新增基础设施供应商,其中 38% 计划在未来一个季度内行动——这一流失意图对于如此基础性的类别来说异常高。当选择供应商时,企业最看重的是与现有栈的集成能力(41%)和总拥有成本(TCO,35%),而广告价格(每百万 token 成本)仅占 8% 的决定因素。此外,随着推理规模扩大,从 GPU 计算向内存带宽的转变这一前沿约束几乎未被纳入视野:约五分之一的企业要么对此不了解,要么尚未着手应对。

GPU 利用率与成本可见性
调查显示,83% 的企业 GPU 利用率低于 50%,其中 44% 低于 25%。仅有 44% 的企业能够严格追踪 AI 计算成本,这意味着大多数企业对其单位计算成本缺乏清晰认识。这种低可见性正与快速增长的支出形成矛盾,加剧了计算鸿沟。

额外发现:企业评估的重点领域
未来一年,企业计划评估的 AI 基础设施重点包括:AI 专用云(45%)、GPU 云(41%)、边缘 AI 基础设施(35%)、AI 推理平台(33%)、AI 训练平台(28%)、AI 数据平台(26%)、AI 安全平台(22%)等。尽管目前专用 AI 云几乎未被使用,但评估意愿最高,表明企业正积极寻找下一代计算资源。

关键要点

  • 计算鸿沟定义:企业 AI 基础设施投资速度远超其衡量和控制成本的能力,导致投入与可见性严重脱节。
  • 部署成熟度低:仅 21% 的企业在规模化生产环境中运行 AI,76% 仍处于实验或部分生产阶段。
  • GPU 利用率极低:83% 的企业 GPU 利用率不到 50%,大量计算资源闲置。
  • 成本追踪薄弱:不到一半(44%)的企业能严格追踪 AI 计算成本,多数企业无法看清单位成本。
  • 供应商流失风险高:64% 企业计划在 12 个月内切换或新增供应商,38% 计划在下一季度内行动,表明市场远未稳定。
  • 选择标准偏向集成与 TCO:41% 看重与现有栈的集成,35% 看总拥有成本,仅 8% 以每百万 token 价格为决定因素。
  • 专用 AI 云需求初现:尽管当前使用率极低(<2%),但 45% 企业计划在未来一年评估 AI 专用云,预示着基础设施迁移浪潮。
  • 前沿瓶颈不被重视:推理规模扩大带来的内存带宽限制,约五分之一企业尚未意识到或未着手解决。
  • 当前基础设施格局:超大规模云(Google Cloud 领先 48%)和模型 API(Gemini 41%、OpenAI 40%)仍是主流,自有 GPU 集群占 6%。

意义与影响

这项调查揭示了 AI 基础设施市场的一个关键矛盾:企业正在以近乎盲目的速度投入资金,却缺乏有效管理成本的能力。这种“计算鸿沟”可能导致资源浪费、投资回报率低下,并促使企业加速寻求可观测性更强的工具或服务。对于云服务商和 AI 基础设施提供商而言,高切换意愿意味着市场格局可能

查看原文 →venturebeat.com