AI “内容创作者”正变得难以辨认

背景

随着生成式人工智能技术的飞速迭代，社交媒体平台正面临一场前所未有的身份危机。早期，AI 虚拟网红（Virtual Influencers）如 Lil Miquela、Imma 和 Shudu Gram 等，因其明显的数字制作痕迹和需要昂贵工作室支持的制作流程，容易被识别并被视为一种亚文化现象。然而，随着 Google、OpenAI 等主流科技公司以及 Higgsfield、HeyGen、ElevenLabs 等垂直领域初创公司推出日益普及且低成本的 AI 工具，制作逼真虚拟人物的门槛已大幅降低。

如今，AI 生成的内容（常被贬称为“AI 垃圾”或 AI slop）已泛滥成灾，从低质量的文本复制、粗糙的图像视频，到引发争议的《指环王》迪斯科歌曲，无所不包。在这种背景下，AI 创作者不再仅仅是少数几个引人注目的虚拟偶像，而是演变成了一种隐蔽且规模庞大的网络生态。社交媒体平台虽然制定了针对合成媒体的标签政策，但在执行层面却陷入困境，导致 AI 创作者在灰色地带中野蛮生长。

核心内容

这篇文章深入剖析了 AI 虚拟网红从“新奇事物”演变为“难以察觉的网络噪音”的过程，并探讨了平台、创作者与监管方之间的复杂博弈。

从显眼到隐形：AI 创作者的进化 早期的 AI 虚拟网红具有鲜明的非人特征，且往往伴随着高调的商业合作宣传。但随着时间的推移，像 Emily Pellegrini 和 Aitana Lopez 这样的角色变得更加“接地气”。它们模仿的是现实生活中那些富裕、爱旅行、常出现在科切拉音乐节或温布尔登网球赛等高端场景的“精英朋友”形象。这种转变使得 AI 人物在视觉上与人类博主难以区分，尤其是当它们使用与人类博主相同的滤镜、摆拍和编辑技巧时。

技术民主化与内容泛滥 制作 AI 创作者的技术壁垒已几乎消失。过去需要专业团队和资金的项目，现在几乎任何人都可以通过主流工具完成。这导致了内容的两极分化：

1. 低质泛滥：大量 AI 生成的内容充斥着社交媒体，包括从聊天机器人复制的低劣文本、粗糙的图像和视频，以及用于诈骗、传播虚假信息或迎合小众（往往带有性暗示）需求的虚拟人。
2. 规模难以衡量：由于缺乏官方数据，且大多数 AI 账号并未达到引发媒体关注的知名度，真正的 AI 创作者数量是一个“水下冰山”。数据库如 Virtual Humans 仅能追踪少数知名账号，而海量的小账号则完全在雷达之外。

平台的困境与矛盾立场 社交媒体平台（如 YouTube、TikTok、Instagram）目前对 AI 创作者采取了一种“暧昧”的态度：

• 政策滞后：现有的规则主要围绕诈骗、垃圾邮件、冒充他人和露骨内容展开。然而，许多 AI 创作者并不冒充特定真人，也不一定涉及诈骗或违规内容，因此难以被现有规则归类。
• 利益冲突：平台一方面推广自己的 AI 工具（包括用户克隆功能），另一方面又试图遏制 AI 垃圾内容的泛滥。目前的标签政策多针对单条帖子，而非背后的账号主体，导致 AI 创作者处于监管灰色地带。
• 数据驱动：只要 AI 创作者能带来互动（Engagement），平台缺乏主动打击的动力，因为互动即流量。

繁荣背后的泡沫与危机 尽管存在争议，AI 虚拟人市场仍在扩张。市场研究公司预测，到 2030 年该市场规模可能从今年的约 120 亿美元增长至 600 亿美元以上。围绕这一生态，出现了虚拟人奖项、选美比赛、专门代理合成创作者的经纪公司，以及大量售卖“如何制作 AI 网红”课程和工具的“卖铲人”生意。这种模式带有明显的“淘金热”特征，依赖少数成功故事和大量试图分一杯羹的参与者。

关键要点

• 识别难度激增：随着图像、视频和音频生成技术的提升，AI 虚拟人不仅在视觉上逼真，还能拥有逼真的声音和动作，足以欺骗大多数快速滑动的用户。
• 工具普及化：Google、OpenAI、Higgsfield、HeyGen 和 ElevenLabs 等提供的工具降低了制作门槛，使得个人或小团队无需专业设备即可批量生产 AI 创作者。
• 监管分类失效：现有的社交媒体内容政策难以涵盖“拟人化 AI 账号”。它们既不属于传统的冒充（因为不冒充特定真人），也不必然涉及诈骗或违规内容，导致平台执法困难。
• 平台的双重标准：平台在推广 AI 创作工具的同时，试图通过标签政策限制 AI 垃圾内容，但重点往往在于单条内容而非账号本身，留下了巨大的监管漏洞。
• 市场泡沫迹象：AI 虚拟人市场估值预计将在未来几年大幅增长，但其中充斥着大量售卖课程和工具的“卖铲人”，具有类似金字塔骗局或淘金热的特征。
• 可持续性存疑：如果 AI 创作者的主要目的是从人类用户身上获利（如售卖课程、诱导消费），当人类用户池枯竭或用户因反感而流失时，这一生态系统可能面临崩溃。社交媒体的本质需要人类参与，若 AI 内容过度挤占空间，可能导致网络效应瓦解。
• 监管压力正在积聚：公众对深度伪造（Deepfakes）、冒充和合成垃圾邮件的反感正在推动立法者关注。例如，欧盟的《人工智能法案》（AI Act）要求生成式 AI 部署者明确披露 AI 生成或 manipulated 的内容，违规者可能面临巨额罚款。

意义与影响

AI 虚拟创作者的兴起不仅是技术进步的体现，更是对社交媒体信任机制的根本性挑战。

首先，“真实性”的定义正在被重构。当虚拟人与真人难以区分，且两者都在使用类似的滤镜和摆拍技巧时，社交媒体上的“真实体验”将变得毫无意义。这将加剧用户的认知疲劳和不信任感，可能导致用户进一步退缩到封闭的社群或完全脱离公共社交平台。

其次，平台治理模式面临失效风险。目前依赖“事后标签”和“现有规则套用”的治理方式，无法应对大规模、自动化、拟人化的 AI 内容生产。如果平台继续以“互动率”为唯一导向，而不解决内容源头的问题，社交媒体平台可能沦为 AI 内容农场，失去其作为人类交流场所的核心价值。

最后，监管与法律的滞后性将凸显。随着欧盟《AI Act》等法规的推进，透明度要求将成为关键变量。然而，如何定义“AI 生成”的边界，以及如何在不扼杀创新的前提下遏制恶意滥用，将是未来几年科技公司与监管机构博弈的焦点。如果公众愤怒持续升级，可能会迫使平台采取更激进的措施，如强制账号层面的身份验证或算法降权，从而彻底改变社交媒体的内容生态。