← 返回信息流
AI 资讯TechCrunch AI·2 小时前

美国多州总检察长对OpenAI展开调查

原标题:OpenAI faces investigation from state attorneys general

速览

美国多个州的总检察长正在对OpenAI展开调查。调查内容涵盖OpenAI的广告政策以及其对健康数据的处理方式。目前尚不清楚具体涉及哪些州,但监管机构正全面审视其合规情况。

AI 深度解读

OpenAI 面临多州总检察长联合调查:合规压力与上市前的多重挑战

背景

近期,由多个州总检察长组成的联盟已正式对 OpenAI 展开调查。据《华尔街日报》报道,纽约州总检察长办公室于周五向 OpenAI 送达了传票(subpoena)。与此同时,OpenAI 近期在舆论和法律层面均处于风口浪尖:一方面,其联合创始人埃隆·马斯克(Elon Musk)关于公司违反成立协议的诉讼案刚刚败诉,但他表示将提起上诉;另一方面,公司面临着包括版权侵权指控以及 ChatGPT 与自杀事件关联在内的多项诉讼。

此外,OpenAI 首席执行官 Sam Altman 此前因一起加拿大枪击案向当地社区道歉,承认公司在标记并封禁疑似枪手账号后,未及时向执法部门发出警报。就在本周,OpenAI 宣布已秘密提交上市申请。在此背景下,此次多州总检察长的联合调查显得尤为敏感和关键。

核心内容

本次调查的核心源于纽约州总检察长办公室发出的传票,其要求 OpenAI 提供涉及广泛主题的文件。根据报道,调查范围主要包括以下几个方面:

  1. 广告与用户数据:涉及公司的广告策略、用户参与度(engagement)以及用户留存率(retention)的相关数据。
  2. 模型行为与安全性:重点审查模型的“阿谀奉承”(sycophancy,即模型倾向于迎合用户观点而非提供客观事实的行为)现象。
  3. 敏感数据处理:包括公司对消费者数据(consumer data)和医疗健康数据(health data)的处理方式。
  4. 弱势群体保护:针对未成年人(minors)和老年人(seniors)的保护措施及对待方式。

针对此事,OpenAI 向《华尔街日报》发表声明表示,公司正在积极配合调查。发言人称:“人工智能是一项新兴且强大的技术,我们每天都在致力于以负责任的方式安全地将其益处带给人们。”发言人强调,公司高度重视州总检察长们提出的关切,并打算与其办公室进行建设性的互动。

据彭博社(Bloomberg)引述,OpenAI 发言人还补充称,ChatGPT 现已“为未成年人和处于困境中的人提供更保护性的体验”,并增加了安全措施,引导他们寻求现实世界的资源和值得信赖的人类联系人。然而,公司拒绝透露具体涉及哪些州的总检察长办公室,也未分享更多关于被要求提供信息的细节。

关键要点

  • 调查主体与形式:由多个州总检察长组成的联盟发起,纽约州总检察长办公室率先送达传票,要求提供大量内部文件。
  • 调查焦点:不仅限于传统的合规问题,还深入到了 AI 模型的技术特性(如 sycophancy 现象)以及特定人群(未成年人、老年人)和敏感数据(健康、消费者数据)的保护机制。
  • 公司回应:OpenAI 表态积极配合,强调对安全问题的重视,并指出已加强对弱势群体的保护措施(如引导至现实资源)。
  • 法律背景复杂:此次调查发生在 OpenAI 刚赢得与马斯克的高调诉讼、但面临其他多项诉讼(版权、自杀关联等)的背景下,且公司正处于秘密申请上市的关键阶段。
  • 近期争议事件:包括加拿大 Tumbler Ridge 枪击案中 OpenAI 未能及时预警执法部门,导致 CEO Sam Altman 公开道歉。

意义与影响

此次多州总检察长的联合调查标志着监管机构对生成式 AI 企业的关注从宏观伦理讨论转向了具体的运营合规与用户保护细节。

首先,监管范围的具体化是一个重要信号。传票中提到的“模型阿谀奉承”和“健康数据处理”表明,监管机构开始深入技术黑箱,关注 AI 模型在特定场景下的行为偏差及其对敏感数据的影响。这预示着未来 AI 公司的合规成本将显著增加,特别是在数据隐私和算法透明度方面。

其次,对弱势群体的保护成为监管重点。针对未成年人和老年人的专项调查,反映了社会对 AI 技术可能带来的社会风险(如诱导性内容、心理健康影响)的高度警惕。OpenAI 强调的“更保护性的体验”可能是为了应对此类监管压力而采取的防御性措施,但也可能成为未来行业标准的一部分。

最后,时机敏感性。OpenAI 在秘密提交上市申请之际面临此类调查,可能会对其估值和投资者信心产生影响。尽管公司此前在法律诉讼中取得了一些胜利(如对抗马斯克),但来自各州监管机构的联合施压表明,OpenAI 面临的法律与合规风险并未减少,反而更加多元和复杂。如何在技术创新、商业扩张与严格的监管合规之间找到平衡,将是 OpenAI 未来一段时间面临的最大挑战。

查看原文 →techcrunch.com