← 返回信息流
技术博客arXiv cs.AI·3 小时前

提出临床AI技能与运行时治理架构Clinical Harness

原标题:Clinical Harness for Governable Medical AI Skill Ecosystems

速览

针对医疗AI模型孤立的问题,研究提出“临床AI技能”及Clinical Harness运行时治理架构。该架构旨在对AI临床能力进行注册、编排、防护和监控,确保持续的责任能力。以骨质疏松症为例,展示了知识驱动、数据驱动及物理增强技能如何在运行时治理下支持全生命周期护理。

AI 深度解读

Clinical Harness for Governable Medical AI Skill Ecosystems:构建可治理的医疗 AI 技能生态

背景

当前,医疗人工智能(Medical AI)领域的发展主要围绕孤立的模型(isolated models)展开。这种以单一模型为核心的架构在实验室环境或特定任务中表现优异,但在真实的临床护理场景中却面临巨大挑战。临床护理并非静态的任务执行,而是一个需要跨时间维度持续存在、具备问责能力(accountable capabilities)的复杂过程。

现有的 AI 应用往往缺乏对生命周期护理(lifecycle care)的支持能力,难以在动态变化的临床环境中保持连续性、安全性和可解释性。因此,业界亟需一种新的架构,能够将分散的 AI 能力整合为可注册、可编排、可监护且可监控的“技能”,从而满足临床对责任归属和长期稳定性的严苛要求。

核心内容

本文提出了一种名为 Clinical Harness 的运行时治理架构(runtime governance architecture),旨在构建可治理的医疗 AI 技能生态系统(Governable Medical AI Skill Ecosystems)。该架构的核心概念是“临床 AI 技能”(Clinical AI Skills),即把 AI 能力封装为标准化的、可复用的单元。

1. Clinical Harness 架构功能

Clinical Harness 作为一个运行时治理层,主要承担以下四项核心职能:

  • 注册(Registering):将不同的 AI 模型或算法封装为标准化的“技能”,并在系统中进行登记和管理。
  • 编排(Orchestrating):根据临床需求,动态组合和调度多个 AI 技能,以支持复杂的医疗流程。
  • 监护(Guarding):在运行时提供安全护栏,确保 AI 决策符合医疗规范和安全标准。
  • 监控(Monitoring):持续跟踪 AI 技能的表现和状态,确保其在长期运行中的可靠性和问责性。

2. 以骨质疏松症(Osteoporosis)为例的实证

为了验证该架构的有效性,文章以骨质疏松症的护理为例,展示了 Clinical Harness 如何支持全生命周期的护理。在这一场景中,系统整合了三种不同范式的 AI 技能:

  • 知识驱动的技能(Knowledge-driven skills):基于医学指南、专家规则和结构化知识库,提供符合临床标准的诊断建议。
  • 数据驱动的技能(Data-driven skills):利用机器学习模型分析患者的电子健康记录(EHR)、影像数据等,发现潜在的风险模式和个性化治疗建议。
  • 物理增强技能(Physics-enhanced skills):结合生物力学原理和物理模型,评估骨骼强度、骨折风险等与物理特性相关的指标。

通过 Clinical Harness 的运行时治理,这三种技能被有机地编排在一起,不仅实现了从筛查、诊断到治疗和随访的全流程覆盖,还确保了每个环节的可追溯性和责任明确性。

关键要点

  • 范式转变:从“孤立模型”转向“可治理的技能生态系统”,强调 AI 能力在临床场景中的持续性和问责性。
  • 运行时治理:引入 Clinical Harness 作为中间件/平台层,解决 AI 模型在部署后的管理、调度和监控问题。
  • 多范式融合:支持知识驱动、数据驱动和物理增强等多种 AI 范式的技能共存与协作,适应医疗场景的复杂性。
  • 全生命周期支持:通过技能的编排,实现从预防、诊断到治疗、康复的长期护理支持,而非仅关注单次诊断。
  • 安全与合规:通过“监护”和“监控”机制,确保 AI 决策符合医疗伦理、法规和安全标准,降低临床风险。

意义与影响

Clinical Harness 的提出标志着医疗 AI 从“模型中心”向“系统中心”的重要演进。其意义在于:

  1. 提升临床可用性:通过标准化和编排,使 AI 能力能够无缝嵌入现有的临床工作流,解决 AI 落地难的问题。
  2. 增强问责与安全:运行时治理机制为 AI 决策提供了透明度和可追溯性,有助于满足医疗行业对安全性和合规性的严格要求。
  3. 促进生态协作:开放的技能注册和编排架构鼓励多方开发者贡献不同的 AI 技能,形成丰富的医疗 AI 生态系统。
  4. 推动个性化与精准医疗:通过整合多种数据源和知识体系,Clinical Harness 能够支持更复杂、更个性化的患者护理方案,特别是在慢性病管理和长期护理领域。

总之,该研究为构建可持续、可信赖且高效的医疗 AI 基础设施提供了新的理论框架和实践路径。

查看原文 →arxiv.org