英格兰和威尔士警方被要求停止在法庭陈述中使用 AI

背景

随着生成式人工智能（Generative AI）技术的迅速普及，其应用边界正从创意写作、代码生成等领域向法律、司法等高风险领域延伸。在英国，警方在调查过程中需要撰写大量的法庭陈述（Court Statements）和证据摘要，这些文件是司法程序中的核心材料，直接关系到案件的公正审理和被告人的权利。

近期，随着大语言模型（LLM）等 AI 工具在警务工作中的渗透，一种新的风险浮现出来：AI 可能在生成文本时产生“幻觉”（Hallucinations），即编造不存在的事实、歪曲证据或引入偏见。鉴于司法程序对准确性和真实性的极高要求，监管机构开始介入，试图在技术效率与司法公正之间划定红线。

核心内容

根据《金融时报》（Financial Times）及相关报道揭示的信息，英格兰和威尔士地区的警方高层已收到明确指令，要求立即停止在正式的法庭陈述中使用人工智能工具。这一禁令的核心原因在于对 AI 生成内容可靠性的严重担忧。

具体而言，警方在准备提交给法庭的文件时，必须确保所有陈述均基于确凿的证据和真实的调查过程。然而，现有的 AI 模型，特别是基于概率预测的大语言模型，并不具备对事实的“理解”能力，而是基于统计规律生成文本。这意味着 AI 可能会：

1. 编造细节：在缺乏具体证据支持的情况下，生成看似合理但完全虚构的嫌疑人行为描述或事件经过。
2. 扭曲证据：在总结大量调查材料时，可能遗漏关键细微差别，或错误地关联不相关的信息。
3. 引入偏见：如果训练数据中存在社会或种族偏见，AI 生成的陈述可能会无意中强化这些偏见，影响司法公正。

此前，已有部分警方部门尝试利用 AI 来加速文书工作，例如自动整理时间线或起草初稿。然而，监管机构（如独立警察投诉委员会 IPCC 以及内部合规部门）指出，一旦 AI 生成的内容被纳入法庭证据，且未被人工严格核实，将构成严重的程序违规。在近期的几起案例中，已发现 AI 生成的陈述存在事实错误，这可能导致案件被驳回、证据被排除，甚至引发对警方执法能力的信任危机。

因此，新的指导方针强调，任何涉及法庭陈述的文件，必须由受过训练的人类警官进行逐字审核和确认，确保每一句话都有原始证据支持，且未受到 AI 算法的“污染”。这一举措并非全面禁止 AI 在警务中的应用，而是将其严格限制在非正式、非证据性的行政辅助领域，严禁其直接产出具有法律效力的陈述材料。

关键要点

• 禁令范围：英格兰和威尔士地区的警方被明确禁止在提交给法庭的正式陈述（Court Statements）中使用 AI 生成内容。
• 核心风险：AI 模型（尤其是 LLM）存在产生“幻觉”的风险，可能编造事实、歪曲证据或引入偏见，这与司法程序对真实性和准确性的严格要求相悖。
• 责任归属：法庭陈述必须由人类警官完全负责。AI 可以作为辅助工具进行初步整理，但所有输出内容必须经过人工严格核实，确保每一处细节都有据可查。
• 合规压力：此前已有因 AI 生成内容错误而导致司法程序受阻的案例，促使监管机构采取更严厉的预防措施，以维护司法系统的完整性和公信力。
• 技术局限：当前 AI 技术尚不具备对法律事实的“理解”和“验证”能力，无法替代人类在证据链构建中的判断作用。

意义与影响

这一禁令不仅是英格兰和威尔士警方内部的一次操作规范调整，更是对全球司法系统如何应对 AI 挑战的一个标志性信号。

首先，它确立了**“人类最终决定权”**（Human-in-the-Loop）在高风险司法场景中的不可动摇地位。尽管 AI 能提高效率，但在涉及自由、生命和正义的领域，技术的辅助性必须让位于人类的判断力和责任感。这为其他国家的司法机构提供了参考模板：在 AI 技术达到可解释性和绝对可靠性之前，必须设置严格的“防火墙”。

其次，这一事件加剧了公众和法律界对算法透明度和问责制的关注。如果 AI 被用于辅助决策或生成证据，其背后的算法逻辑、训练数据偏见以及错误来源都难以追溯。禁止 AI 直接生成法庭陈述，实际上是在规避潜在的“黑箱司法”风险，防止技术不透明性侵蚀司法公正。

最后，这也反映了法律滞后于技术的现实困境。现有的法律框架和证据规则大多基于传统的人工调查模式制定，尚未完全涵盖 AI 生成内容的法律地位。警方的这一禁令是一种防御性策略，旨在在立法完善之前，通过行政命令填补监管空白，避免系统性法律风险。

对于科技公司和警务部门而言，这意味着未来在开发司法 AI 工具时，必须将“可验证性”和“防幻觉”作为核心指标，而非仅仅追求生成速度和文本流畅度。同时，这也提醒所有行业，在将 AI 引入高合规要求的领域时，必须建立严格的审核流程和伦理边界。