解放你的 OpenClaw：从闭源依赖转向开源模型的实战指南

背景

近期，部分用户可能面临 OpenClaw、Pi 或 Open Code 等 AI 代理因服务中断或访问受限而“宕机”的困境。对于依赖这些代理进行开发或日常工作的用户而言，恢复代理能力成为当务之急。

Hugging Face 发布了一篇技术博客，旨在指导用户如何将 OpenClaw 代理从闭源或受限的服务提供商迁移至开源模型。这一举措不仅提供了技术上的“急救”方案，更代表了 AI 应用架构从中心化闭源服务向去中心化、开源生态转移的趋势。通过两种主要路径——使用 Hugging Face Inference Providers 托管服务或本地部署开源模型，用户可以快速恢复代理功能，同时获得更高的隐私性、成本控制能力和技术自主权。

核心内容

本文详细阐述了将 OpenClaw 代理迁移至开源模型的两种具体实施路径，并提供了相应的配置指南。

1. 使用 Hugging Face Inference Providers（托管方案）

这是恢复具备能力的 OpenClaw 代理最快的方式，适合希望使用顶级模型但缺乏必要硬件资源的用户。

• 平台介绍：Hugging Face Inference Providers 是一个开放平台，它将请求路由至各种开源模型提供商。
• 实施步骤：
  1. 获取 Token：用户需先在 Hugging Face 创建 API Token。
  2. 配置 OpenClaw：在终端运行以下命令，选择 Hugging Face API Key 作为认证方式：

     openclaw onboard --auth-choice huggingface-api-key
     

  3. 选择模型：系统会提示粘贴 Token 并选择模型。推荐选择 GLM-5，因其在 Terminal Bench 测试中表现优异，当然用户也可以从数千个可用模型中选择。
  4. 更新配置：用户随时可以通过修改 OpenClaw 配置文件中的 repo_id 来切换模型。示例配置如下：

     {
       "agents": {
         "defaults": {
           "model": {
             "primary": "huggingface/zai-org/GLM-5:fastest"
           }
         }
       }
     }
     

• 费用说明：Hugging Face PRO 订阅者每月可获得 2 美元的免费额度，可用于 Inference Providers 的使用。

2. 本地部署开源模型（本地方案）

此方案适合重视隐私、希望零 API 成本并拥有完全控制权的用户。

• 优势：提供完全隐私、零 API 费用，且不受速率限制，便于实验。
• 实施步骤：
  1. 安装 Llama.cpp：这是一个完全开源的低资源推理库。
     • macOS 或 Linux: brew install llama.cpp
     • Windows: winget install llama.cpp
  2. 启动本地服务器：使用内置 Web UI 启动服务器。示例中使用了 Qwen3.5-35B-A3B 模型（GGUF 格式，量化为 UD-Q4_K_XL），该模型在 32GB 内存环境下运行良好。

     llama-server -hf unsloth/Qwen3.5-35B-A3B-GGUF:UD-Q4_K_XL
     

     注：用户可根据自身硬件需求选择其他兼容模型。
  3. 配置 OpenClaw：如果加载的是 GGUF 格式模型，需使用如下非交互式配置命令连接本地服务器：

     openclaw onboard --non-interactive \
     --auth-choice custom-api-key \
     --custom-base-url "http://127.0.0.1:8080/v1" \
     --custom-model-id "unsloth-qwen3.5-35b-a3b-gguf" \
     --custom-api-key "llama.cpp" \
     --secret-input-mode plaintext \
     --custom-compatibility openai
     

  4. 验证服务：通过 curl 命令检查服务器是否运行及模型是否加载成功：

     curl http://127.0.0.1:8080/v1/models
     

3. 路径选择建议

• 选择 Hugging Face Inference Providers：如果你希望以最快的速度恢复一个功能强大的 OpenClaw 代理，且不想处理本地硬件配置。
• 选择 Llama.cpp 本地部署：如果你重视隐私、希望拥有完全的本地控制权，且不愿支付任何 API 费用。

无论选择哪种路径，用户都不再需要依赖闭源托管模型即可让 OpenClaw 恢复运作。

关键要点

• 双重迁移路径：OpenClaw 用户可通过 Hugging Face Inference Providers（云端托管）或 Llama.cpp（本地部署）两种途径迁移至开源模型，以应对服务中断或追求自主可控。
• 推荐模型：云端方案推荐 GLM-5（基于 Terminal Bench 优异表现）；本地方案示例使用 Qwen3.5-35B-A3B（适合 32GB 内存环境）。
• 配置灵活性：用户可通过修改 JSON 配置文件中的 primary 字段轻松切换云端模型；本地部署需配置 custom-base-url 和 custom-compatibility openai 以兼容 OpenClaw。
• 成本与隐私权衡：
  • 云端：速度快，但可能涉及 API 费用（PRO 用户每月有 2 美元免费额度）。
  • 本地：零 API 费用，完全隐私，无速率限制，但对硬件有要求。
• 去闭源化：文章强调，恢复 OpenClaw 功能不再依赖闭源模型，开源生态已具备足够的替代能力。

意义与影响

这篇博客不仅是一份技术操作指南，更反映了当前 AI 应用层的重要趋势：对闭源大模型依赖的降低与开源生态的崛起。

1. 增强用户主权与韧性：通过提供本地部署选项，用户摆脱了对单一云服务提供商的依赖，降低了因服务中断、价格波动或政策变化带来的业务风险。
2. 开源模型的实用性验证：文章推荐 GLM-5 和 Qwen3.5 等开源模型替代闭源模型，表明在特定任务（如代码代理、终端交互）上，开源模型的性能已足以胜任生产环境需求，打破了“只有闭源模型才强大”的刻板印象。
3. Hugging Face 生态的枢纽作用：Hugging Face 通过 Inference Providers 和本地工具链（如 Llama.cpp 集成），正在成为连接开源模型与终端应用的关键基础设施，降低了开发者使用开源模型的门槛。
4. 隐私与成本的双重红利：对于企业和个人开发者而言，本地部署不仅解决了数据隐私顾虑，还通过消除 API 调用费实现了长期成本的优化，尤其适合高频调用场景。

总之，这一转变标志着 AI 代理应用正从“黑盒服务”走向“白盒可控”，为构建更可持续、更自主的 AI 应用生态奠定了基础。