我们拥有所需的知识吗？重新思考企业中的人机决策

来源：arXiv cs.AI 提交日期：2026年4月2日 作者：Anne Sofia Robin Marx

背景

随着人工智能（AI）系统在商业环境中的部署日益广泛，其角色正从单纯的工具辅助向承担实质性决策任务转变。然而，企业内部的“组织知识”（Organizational Knowledge）长期以来是分散且非结构化的。这些知识碎片化地存在于各种软件系统中，隐藏在员工的隐性经验（Tacit Expertise）中，以及大量传统上仅为人类阅读而设计的文档里。

当 AI 系统被赋予决策权时，它们必须能够访问并理解这些知识。这就引出了两个核心挑战：

1. 知识存储与可访问性：组织应如何存储和维护知识，以确保其既能被人类有效使用，也能被未来的 AI 系统无障碍地读取和理解？
2. 代理权分配（Agency Allocation）：在面对不同风险等级和不确定性水平的任务时，人类与 AI 之间的决策权和控制权应如何合理分配？

本文是一篇立场论文（Position Paper），旨在探讨组织知识的演变过程，并提出一个框架，用于将任务属性和知识可用性映射到推荐的代理权分配及控制机制上。

核心内容

1. 组织知识的演变与现状

文章首先指出，传统的企业知识管理主要服务于人类员工。知识往往以非结构化文档、数据库记录或个人记忆的形式存在。随着 AI 的介入，这种“人类中心”的知识架构成为了瓶颈。AI 需要的是结构化、可解析且上下文丰富的数据，而现有的知识形态往往缺乏这种特性。因此，组织需要重新思考知识的存储方式，使其具备“机器可读性”（Machine-readability），同时保持对人类的可用性。

2. 提出决策代理权分配框架

为了解决人机协作中的权责分配问题，作者构建了一个概念框架。该框架基于两个关键维度：

• 任务属性（Task Attributes）：包括任务的常规性、复杂性、风险程度以及不确定性水平。
• 知识可用性（Knowledge Availability）：指完成任务所需的知识是否已数字化、结构化，以及 AI 获取这些知识的难易程度。

通过这两个维度的交叉分析，框架推荐了不同的代理权分配策略和控制机制。其核心逻辑是：当任务风险低、不确定性小且知识高度结构化时，AI 应拥有更高的决策自主权；反之，当任务具有战略性、高风险或涉及大量隐性知识时，人类应保留最终控制权或深度介入。

3. 案例应用：制造业的两种典型场景

为了验证框架的适用性，文章选取了制造业中的两个截然不同的任务进行演示：

• 常规操作任务：视觉质检（Visual Quality Inspection）

  • 特征：高重复性、低风险、知识高度结构化（如缺陷标准明确、图像数据丰富）。
  • 框架建议：AI 应拥有主要决策权。AI 可以实时处理视觉数据并判断产品是否合格，人类仅负责监控异常情况和处理边缘案例。控制机制侧重于实时反馈和异常报警。

• 一次性战略决策：工厂选址（Factory Location）

  • 特征：低重复性、高风险、高不确定性、涉及大量隐性知识和非结构化数据（如当地政策文化、长期市场趋势、供应链地缘政治等）。
  • 框架建议：人类应拥有主要决策权。AI 在此过程中主要扮演“信息聚合器”和“情景模拟者”的角色，提供数据支持和预测模型，但最终的权衡和决策必须由人类做出。控制机制侧重于人机协同的迭代讨论和人类对 AI 建议的否决权。

4. 未来研究方向

文章最后指出，当前的框架仍是一个概念性的起点。未来的研究需要深入探讨如何自动化地将隐性知识转化为 AI 可理解的格式，以及如何动态调整人机代理权以适应不断变化的业务环境。

关键要点

• 知识碎片化是主要障碍：企业知识分散在软件系统、隐性经验和非结构化文档中，这种“人类中心”的知识形态阻碍了 AI 的有效接入。
• 双重核心问题：
  1. 如何重构知识存储，使其同时服务于人类和 AI？
  2. 如何根据任务风险和不确定的程度，科学地分配人机决策权？
• 框架核心逻辑：代理权分配不应是一刀切的，而应基于“任务属性”与“知识可用性”的匹配度。
• 差异化决策策略：
  • 常规/低风险/结构化知识（如视觉质检）：AI 主导，人类监督。
  • 战略/高风险/非结构化知识（如工厂选址）：人类主导，AI 辅助。
• 隐性知识的挑战：对于涉及隐性知识（Tacit Expertise）的任务，AI 目前难以完全替代人类的判断，人类必须保留控制权。

意义与影响

这篇论文对企业数字化转型和 AI 治理具有重要的指导意义：

1. 从“工具”到“伙伴”的范式转变：它提醒企业，引入 AI 不仅仅是技术升级，更是组织知识管理和决策流程的重构。企业必须解决“机器可读性”这一基础问题，否则 AI 将无法发挥其决策潜力。
2. 提供可操作的人机协作指南：通过提供具体的框架和案例，企业可以避免在 AI 部署中出现的“过度自动化”或“自动化不足”的问题，从而在效率与安全之间找到平衡。
3. 强调隐性知识的重要性：在追求数据驱动决策的同时，文章重申了人类隐性经验和战略判断在高风险场景中的不可替代性，为 AI 伦理和治理提供了理论依据。
4. 推动知识管理的现代化：促使企业重新审视其文档系统和数据库设计，推动知识管理从“服务于人”向“人机共生”演进，为未来更高级的自主智能系统奠定基础。