aisuite：面向多生成式AI提供商的统一轻量级接口

这是什么

aisuite 是一个轻量级的 Python 库，旨在简化大语言模型（LLM）应用的开发。它通过两层核心架构，为开发者提供统一的接口来构建 AI 应用：

1. Chat Completions API：跨多个 LLM 提供商的统一聊天补全接口。
2. Agents API：基于工具（Tools）和工具包（Toolkits）的高级智能体构建接口。

该项目由 Andrew Ng（吴恩达）主导，其 GitHub 仓库 andrewyng/aisuite 目前拥有近 14k 星。除了作为底层库供开发者集成外，该仓库还包含了一个名为 OpenCoworker 的桌面端 AI 智能体应用，展示了 aisuite 在实际场景中的应用能力。OpenCoworker 是一个本地运行的桌面助手，能够执行深度研究、读写文件、管理消息（Slack、邮件等）以及生成 PDF 报告等交付物，且支持本地模型运行（通过 Ollama），确保数据隐私。

解决的问题

在当前的 AI 开发生态中，开发者面临的主要痛点是提供商碎片化和工具调用复杂性：

• 多提供商适配成本高：不同 LLM 提供商（如 OpenAI、Anthropic、Google、Mistral 等）拥有各自独立的 SDK 和 API 格式。切换模型或提供商往往需要重写大量代码，处理不同的参数结构和响应格式。
• 工具调用（Tool Calling）繁琐：实现模型与 Python 函数的交互通常需要手动生成 JSON Schema、解析模型返回的工具调用请求、执行函数并将结果格式化回传给模型。这一过程代码量大且容易出错。
• 智能体状态管理困难：构建生产级智能体需要处理复杂的对话状态持久化、工具执行策略（如审批机制）、追踪（Tracing）以及多轮工具调用的循环控制，从零实现这些功能极其耗时。
• MCP 协议集成门槛：虽然 Model Context Protocol (MCP) 正在成为标准，但直接集成 MCP 服务器通常需要大量的样板代码（Boilerplate）。

aisuite 通过抽象层屏蔽了底层差异，让开发者可以专注于业务逻辑而非 SDK 细节。

核心功能

1. 统一的 Chat Completions API

提供与 OpenAI 风格一致的接口，支持所有核心参数（temperature, max_tokens, tools 等）。

• 提供商无关：通过简单的字符串切换模型提供商，例如 openai:gpt-4o 或 anthropic:claude-3-5-sonnet-20240620。
• 标准化结构：统一请求和响应结构，屏蔽各提供商 SDK 的差异。
• 支持模型：OpenAI, Anthropic, Google, Mistral, Hugging Face, AWS, Cohere, Ollama, OpenRouter 等。

2. 简化的工具调用（Tool Calling）

将复杂的工具调用简化为一行代码。

• 自动 Schema 生成：开发者只需传入普通的 Python 函数，aisuite 会自动生成 JSON Schema。
• 自动执行与反馈：库自动执行模型请求的工具调用，并将结果反馈给模型。
• 多轮循环控制：通过 max_turns 参数，aisuite 自动处理“模型请求工具 -> 执行工具 -> 返回结果 -> 模型继续生成”的闭环。
• 手动控制模式：若需完全控制，可省略 max_turns 并传入 OpenAI 格式的 JSON 工具规范，自行实现循环逻辑。

3. 生产级 Agents API

为长期运行、结构化的智能体任务提供一等公民支持。

• Agent 定义：声明式定义智能体名称、模型、指令和工具。
• Runner 执行：使用 Runner 执行智能体任务，支持多轮交互。
• 预置工具包（Toolkits）：内置沙盒化的工具包，如文件操作（files）、Git 操作（git）和 Shell 执行（shell）。
• 生产特性：
  • Tool Policies（工具策略）：支持 RequireApprovalPolicy（需审批）、允许/拒绝列表或自定义 callable 来决定哪些工具调用可以执行。
  • State Stores（状态存储）：支持内存、文件或 Postgres 数据库，实现运行状态的持久化和跨进程恢复。
  • Artifacts & Tracing：捕获智能体产生的中间产物和每一步的执行轨迹。

4. 原生 MCP 支持

原生支持 Model Context Protocol (MCP)，无需样板代码即可将任何 MCP 服务器的工具赋予模型。

• 通过 pip install 'aisuite[mcp]' 安装支持。
• 支持通过 MCPClient 进行复用连接、安全过滤和工具前缀处理。

亮点 / 与同类相比

• 极简的抽象层：与 LangChain 或 LlamaIndex 等重型框架不同，aisuite 专注于“统一接口”这一单一职责。它不试图解决所有 RAG 或编排问题，而是让开发者在需要统一多模型支持时，只需修改一行配置字符串。
• Pythonic 的工具集成：直接将 Python 函数作为工具传入，利用 Python 的类型提示和文档字符串自动生成工具定义，比手动编写 JSON Schema 更符合 Python 开发习惯。
• 本地优先与隐私保护：通过 OpenCoworker 示例和 Ollama 支持，强调数据留在本地。开发者可以选择完全本地运行模型（使用 Ollama），无需将数据发送到云端。
• 灵活的执行模式：同时支持“全自动多轮工具调用”（适合快速原型）和“手动控制模式”（适合需要精细控制执行流程的生产场景）。
• 扩展性：通过实现 BaseProvider 并遵循命名约定，可以轻松添加新的 LLM 提供商支持。

适合谁用 / 上手

适合人群

• LLM 应用开发者：需要在多个模型提供商之间灵活切换，或希望避免被单一厂商锁定的团队。
• 构建 AI Agent 的团队：需要快速实现工具调用、状态管理和执行策略，但又不想引入重型框架复杂度的开发者。
• 注重数据隐私的企业：希望利用本地模型（如通过 Ollama）运行 AI 助手，确保敏感数据不出本地环境的场景。
• MCP 早期采用者：希望快速集成 MCP 服务器工具到现有 LLM 应用中的开发者。

上手指南

1. 安装 安装基础包或包含特定提供商 SDK：

   pip install aisuite  # 基础包
   pip install 'aisuite[anthropic]'  # 包含 Anthropic SDK
   pip install 'aisuite[all]'  # 包含所有提供商 SDK
   

2. 配置 API Keys 确保环境变量中设置了相应提供商的 API Key（如 OPENAI_API_KEY, ANTHROPIC_API_KEY 等）。若使用本地模型，需安装并运行 Ollama。

3. 快速开始示例

   import aisuite as ai
   
   client = ai.Client()
   models = ["openai:gpt-4o", "anthropic:claude-3-5-sonnet-20240620"]
   messages = [
       {"role": "system", "content": "Respond in Pirate English."},
       {"role": "user", "content": "Tell me a joke."},
   ]
   
   for model in models:
       response = client.chat.completions.create(
           model=model,
           messages=messages,
           temperature=0.75
       )
       print(response.choices[0].message.content)
   

4. 探索 OpenCoworker 对于希望直接体验桌面端 AI 助手的用户，可下载 macOS (Apple Silicon) 或 Windows (x64) 的安装包，连接模型后即可使用文件读写、消息管理等功能。