← 返回信息流
AI 资讯量子位·2 小时前

词元盗用成AI商业化新风险

原标题:“词元盗用”正在成为AI商业化面临的新风险

速览

随着AI商业化进程加速,一种名为“词元盗用”的新型安全威胁日益凸显。与传统针对资金的攻击不同,这种风险旨在窃取或滥用Token资源。该现象揭示了AI基础设施在商业落地过程中面临的全新安全挑战。

AI 深度解读

背景

过去一年,AI 智能体(AI Agent)技术已从单纯的技术演示阶段迅速迈入真实商业场景。随着各类具备自主完成任务能力的 AI 产品爆发,智能体不再仅仅是生成内容的工具,而是演变为能够搜索信息、调用工具、连接服务,甚至代表用户完成复杂工作流的新型经济参与者。

正如 Stripe 全球数据与 AI 负责人 Emily Glassberg Sands 所观察到的,AI 正在从工具演变为互联网中的一种新型经济参与者。智能体开始承担买家甚至主导交易的角色,这种模式的转变虽然提升了效率,但也滋生了新的安全与商业风险,其中“词元(Token)盗用”正成为 AI 商业化进程中最为被低估的问题之一。

核心内容

传统互联网黑灰产的终极目标通常是窃取用户信用卡信息进行非法套现,但在 AI 时代,攻击者的目标发生了根本性转移。对于许多 AI 企业而言,攻击者垂涎的不再是账户内的资金余额,而是底层昂贵的推理资源、模型能力以及 Token 额度。

欺诈模式的演变 当前的 Token 盗用欺诈主要体现为两种形式:

  1. 滥用免费试用额度:攻击者反复领取新用户权益。
  2. 账户滥用:批量注册虚假账号以放大收益。

Stripe 的官方数据显示,在 Stripe 上运行的 AI 服务中,滥用免费试用的情况在六个月内激增了一倍多,且每 6 次注册尝试中就有 1 次来自恶意行为。与传统 SaaS 企业不同,提供自助注册并开放 API 的 AI 初创企业面临的滥用情况高出整整 10 倍。

风险放大的核心原因 智能体的计算资源消耗速度远超真实用户。一个恶意脚本在几小时内即可消耗掉过去数周才会产生的 Token 成本。如果攻击者利用自动化工具不断创建新账户,在真实账单生成前“消失”,AI 企业损失的不仅是闲置的服务器资源,更是实打实的现金流和利润空间。

风控体系的升级:Stripe Radar 为应对这一挑战,Stripe 对其反欺诈产品 Radar 进行了史上最大规模的升级,旨在建立适用于智能体经济的新型风控体系:

  • 防线前置:在账户创建阶段即识别多账户滥用行为。系统实时结合全球网络中的设备指纹、IP 地址、邮箱域名等历史风险信号,对新注册账户进行评估。例如,知名语音 AI 企业 ElevenLabs 利用此能力,每天精准拦截约 2000 个试图滥用免费套餐的虚假账户。
  • 恶意欠费预测:针对“按量计费”场景,新增对恶意欠费风险的预测能力。系统能在资源消耗过程中预判用户拒付风险,一旦异常,自动触发预充值要求、动态下调并发请求限额或直接暂停服务接口。
  • 精细化风险标尺:区分获得客户授权的智能体与恶意“薅羊毛”机器人,为机器交易行为生成风险评分,识别利用自动化能力抢购资源或绕过规则的行为。

仅一个月内,Stripe Radar 就为八家高增长 AI 公司成功拦截了超过 330 万次高风险注册尝试。

关键要点

  • 攻击目标转移:AI 时代的欺诈目标从“资金”转向“资源”,即昂贵的推理资源、模型能力和 Token 额度。
  • AI 初创企业风险最高:相比传统 SaaS 企业,提供自助注册和开放 API 的 AI 初创公司面临的免费试用滥用情况高出 10 倍。
  • 资源消耗速度极快:恶意脚本利用智能体自主执行任务的能力,可在几小时内耗尽数周的 Token 成本,导致企业现金流直接受损。
  • 风控需前置与智能化
    • 传统事后账单逾期发现模式已失效,需转向事前注册拦截和事中资源消耗监控。
    • Stripe Radar 通过整合设备指纹、IP 等多维信号,实现毫秒级风险识别。
  • 全球化企业的特定挑战:对于出海的中国 AI 企业,攻击往往表现为跨地区、跨身份、跨支付方式的自动化网络,复杂度远高于传统信用卡盗刷。若不在产品设计之初防范,极易陷入“增长等同于流血”的困境。
  • 智能体商务(Agentic Commerce)的新维度:随着智能体直接参与交易,风控需进一步区分合法授权智能体与恶意机器人,建立更精细化的风险评分机制。

意义与影响

重构底层商业规则 从盗取资金到盗窃资源,从传统支付欺诈到隐蔽的 Token 盗用,AI 时代正在重构底层的商业规则。智能体带来的最大变化在于机器本身开始自主消耗资源、创造商业价值,甚至直接参与并主导交易。这意味着风险也随之迁移,传统的基于资金流动的风控逻辑已不足以应对基于资源消耗的新型欺诈。

风控基建成为核心竞争力 对于身处全球化竞争风暴眼的 AI 企业而言,懂得如何利用新一代风控基建去捍卫商业规则,已然变得与探索 AI 技术边界同等重要。风控不再仅仅是后台支持功能,而是保障商业化落地、防止“增长等同于流血”的关键防线。

行业示范效应 Stripe Radar 的升级及其在 ElevenLabs 等头部 AI 企业中的成功应用,为行业提供了可参考的风控范式。通过前置防线、实时评估和动态干预,AI 企业可以在享受智能体带来效率红利的同时,有效遏制资源滥用,确保长期健康的商业增长。这也标志着 AI 行业的竞争维度从单纯的技术竞赛,扩展到了技术、商业化与安全风控的综合较量。

查看原文 →qbitai.com