我曾对 Midjourney 的“超声波扫描仪”功能判了死刑：一场关于 AI 幻觉与人类感知的反思

背景

在 AI 图像生成领域，Midjourney 一直是争议与赞誉并存的焦点。长期以来，社区中存在着一种普遍的观点：Midjourney 生成的图像虽然美学上令人惊叹，但在结构准确性、解剖学合理性以及逻辑一致性上往往存在严重缺陷。这种观点认为，Midjourney 本质上是一个“风格化”工具，而非“写实”工具，它擅长创造梦幻般的艺术，却拙于描绘符合物理现实的对象。

近期，一位科技博主（原文作者）分享了一次颠覆性的个人经历：他尝试让 Midjourney 生成一张类似“超声波扫描仪”（ultrasound scanner）的图像，结果得到的图像在结构细节上惊人地准确，甚至让身为医学影像专家的朋友都难以分辨真假。这一案例直接挑战了“Midjourney 无法处理复杂结构”的刻板印象，引发了关于 AI 生成内容真实性、幻觉机制以及人类视觉判断力的深度讨论。

核心内容

原文作者详细记录了他对 Midjourney 能力认知的转变过程，主要包含以下几个阶段：

1. 先入为主的偏见 作者承认，在此之前，他持有典型的“Midjourney 不靠谱”观点。他认为 Midjourney 生成的医学影像、X 光片或内部结构图往往充满了伪影、解剖错误和逻辑混乱。这种偏见源于早期版本中常见的错误，例如手指数量不对、骨骼结构扭曲或器官位置错乱。因此，当有人展示 Midjourney 生成的看似真实的超声波图像时，作者的第一反应是怀疑其真实性，认为那只是“看起来很真”的幻觉，而非真正的结构准确。

2. 意外的验证实验 为了验证自己的怀疑，作者进行了一次简单的测试。他使用提示词（prompt）要求 Midjourney 生成一张标准的产科超声波图像。出乎意料的是，生成的图像不仅具有逼真的噪点纹理和灰度分布，其内部结构——如胎儿的轮廓、脊柱的曲线、头骨的形状——都呈现出高度的解剖学合理性。

更令人震惊的是，作者将这张图片发送给了几位在放射科工作的朋友。这些专业人士在未经提示的情况下，无法确定该图像是真实拍摄的医学影像还是 AI 生成的。其中一位朋友甚至指出图像中的某些细微特征（如特定的伪影模式）与真实设备产生的噪声高度一致。

3. “幻觉”的重新定义 作者反思指出，问题不在于 Midjourney 能否生成准确的结构，而在于我们如何定义“准确”。Midjourney 并非在“理解”解剖学，而是在学习海量医学影像数据中的统计规律。它通过数百万张真实超声图像的训练，掌握了“超声波长什么样”的视觉特征分布。因此，它生成的图像在视觉上符合人类对“超声波”的预期，甚至在某些统计特征上比人类医生见过的更多样化。

4. 人类感知的局限性 文章进一步探讨了为什么人类容易被欺骗。我们的大脑擅长模式识别，但同时也容易受到“风格”的干扰。当图像具备逼真的纹理、光照和噪声分布时，我们的视觉系统会自动补全逻辑细节。如果 AI 生成的图像在宏观结构和微观纹理上都符合训练数据的分布，人类很难仅凭肉眼发现其中的逻辑漏洞。作者强调，这并非 Midjourney 独有的问题，而是所有基于扩散模型（Diffusion Models）的 AI 图像生成器的共同特征。

5. 对“真实性”的质疑 作者最后提出，我们不应再问“这张图是真的吗？”，而应问“这张图在统计上是否合理？”。Midjourney 生成的超声波图像之所以逼真，是因为它在高维特征空间中找到了与真实图像相近的点。这种“逼真”并不等同于“事实”，但它足以在视觉层面混淆专业和非专业人士的判断。

关键要点

• 认知偏差的打破：作者从坚信 Midjourney 无法生成结构准确的医学图像，转变为承认其在特定条件下可以生成高度逼真的解剖学结构。
• 统计相似性 vs. 语义理解：Midjourney 并不“理解”人体解剖学，而是通过海量数据学习视觉特征的统计分布。它生成的图像是概率上的“合理”，而非逻辑上的“正确”。
• 专业人员的误判：即使是放射科专家，在仅凭视觉判断且无上下文信息的情况下，也难以区分高质量的 AI 生成超声图像与真实医学影像。
• 视觉欺骗的机制：AI 通过模拟真实设备的噪声模式、灰度梯度和纹理细节，触发了人类视觉系统的模式补全机制，从而产生“真实感”。
• 对 AI 生成内容的信任危机：这一案例表明，随着 AI 图像生成质量的提升，视觉证据的可信度正在下降。仅凭肉眼观察已不足以验证图像的真实性，尤其是在医学、新闻和司法领域。
• 提示词工程的重要性：虽然 Midjourney 能生成逼真图像，但这通常需要精心设计的提示词。随机生成的结果仍可能包含大量错误，但“可控的幻觉”正在变得越来越难以察觉。

意义与影响

1. 对 AI 图像生成能力的重新评估 这一案例标志着公众和专业人士对 AI 图像生成能力的认知转折点。Midjourney 不再仅仅被视为“艺术创作工具”，而是开始展现出在科学可视化、医学模拟和数据增强方面的潜力。然而，这也意味着我们需要更谨慎地对待 AI 生成的“证据性”图像。

2. 医学影像领域的双刃剑 在医学领域，AI 生成的高质量超声图像可用于医生培训、教学演示和数据隐私保护（用合成数据替代真实患者数据）。但另一方面，这也为伪造医疗记录、制造虚假诊断提供了技术可能。医疗机构必须建立更严格的图像来源验证机制，如嵌入数字水印或使用区块链溯源技术。

3. 视觉信息验证的新挑战 随着 AI 生成图像越来越逼真，“眼见为实”的原则正在失效。新闻机构、司法部门和社交媒体平台需要开发更先进的检测工具，结合元数据分析、频域分析和 AI 检测算法，来识别深度伪造内容。同时，公众媒介素养教育亟需加强，以提高人们对 AI 生成内容的辨别能力。

4. 对“真实性”概念的哲学反思 作者的观点促使我们思考：在 AI 时代，“真实”是否还意味着“物理存在”？如果一张图像在视觉和统计上与真实图像无异，它在功能上是否可以被视为“真实”？这一讨论不仅关乎技术，更关乎社会信任体系的构建。我们需要重新定义证据、信任和真实性的标准，以适应一个由 AI 生成内容主导的新现实。

5. 推动 AI 透明度和可解释性研究 这一案例凸显了当前 AI 模型的“黑箱”特性。我们不知道 Midjourney 为何能生成如此准确的解剖结构，也不知道它在哪些情况下会失败。这推动了学术界和工业界对 AI 可解释性、幻觉机制和边界条件的深入研究，以期开发出更可控、更透明的生成式 AI 系统。