AI模型委托服务

通过Model Context Protocol(MCP)将繁重的AI计算任务委托给外部模型(如Gemini 3.x和GLM-5),降低Claude Pro的使用成本并提高效率。

  • by Arkya-AI
  • JavaScript
  • 本地部署
  • 45 星标
  • 更新于
在 GitHub 查看 Arkya-AI/glm5-mcp

使用说明

克劳德附加模型mcp

打破克劳德亲墙。在克劳德的协调下,通过MCP将重物转移到双子座3.x和GLM-5。将消耗量减少10倍。


问题:“克劳德亲墙”

Claude Pro用户每月支付20美元,甚至那些每月支付100美元的用户也经常遇到令人沮丧的现实:

28%可用性数学

大多数高级用户在大约一周内用完了他们的每周消息限制 2天这使得它们在一周的剩余5天内被封锁。您实际上是在为不可用的服务付费 71%的时间 --每月100美元,28%的可用性无法完成繁重的工作。这造成了一种稀缺心态,用户在使用Claude完成复杂任务时犹豫不决,担心在本周重置之前会用完限制。

Sonnet 4.5降级

自从Claude 4.6发布以来,多个用户报告称 Sonnet 4.5的性能下降当Sonnet 4.5被迫处理编排、文件I/O时, 和 同时生成大量代码,推理质量下降。它开始失去对项目结构的跟踪,产生文件路径的幻觉,或者在会话中忘记前面的指令。

这种MCP方法通过以下方式专门帮助Sonnet 4.5用户 卸载繁重的分析和代码生成 让Sonnet专注于它最擅长的事情:编排和文件I/O。结果是 卓越的工作产出 与十四行诗4.5相比,让它自己做所有事情。

Opus 4.6成本壁垒

作品4.6 仍然是智力的黄金标准,但其消耗率正在惩罚-- 高出3至5倍 比Sonnet。在Pro计划中,使用Opus进行文档阅读、样板生成或常规分析会以惊人的速度消耗您的每周分配。

通过将繁重的工作委托给外部模型,你可以 Opus质量编排 和 并行代理 随着 消费减少80%至90%+.


解决方案

claude-additional-models-mcp 是一个生产就绪的模型上下文协议(MCP)服务器,它将外部AI模型直接集成到Claude Desktop中。它没有让Claude自己做所有事情,而是将繁重的计算工作委托给专门的外部模型,并专注于它最擅长的事情:编排、文件管理和最终合成。

结果:

用户类型 优势 改进
十四行诗4.5 通过卸载实现卓越的输出质量 10倍 减少消耗
作品4.6 全方位的成本控制 80%+ 减少消耗
所有用户 扩展专业版订阅价值 18-30x 投资回报率

v2.0中的新功能:Gemini集成

而原来 GLM-5(Z.ai) 我们观察到,集成提供了一个具有强大推理能力的744B参数模型 频繁的中断和超时 在长时间运行的委托任务期间。会话将中断中期生成,迫使用户重试,浪费时间和令牌。

v2.0引入了Google Gemini 3.x作为推荐集成:

功能 GLM-5(Z.ai) Gemini 3.x(谷歌)
稳定性 偶尔中断 稳定的正常运行时间
上下文窗口 标准 1M代币
最大输出功率 4000个代币 65000个代币
免费套餐 否 是(慷慨的限制)
搜索接地 通过单独的API 本土的 (google_search)
状态 原版(v1.0) 推荐(v2.0)

这两种集成仍然得到完全支持。根据您的需求进行选择。


运作原理

MCP协议

这 模型上下文协议 允许Claude Desktop发现并执行本地服务器提供的工具。此MCP服务器充当桥梁:Claude调用工具(例如。, ask_gemini_pro),服务器将请求转发到外部模型的API,并将结果返回给Claude。

克劳德从不需要“思考”沉重的内容。它发送任务,接收输出,并将其写入磁盘。

混合API架构(Gemini)

Gemini集成使用双路径通信策略以实现最大能力:

  1. OpenAI兼容路径 (generativelanguage.googleapis.com/v1beta/openai/):用于标准聊天完成-- ask_gemini 和 ask_gemini_pro 工具调用。
  2. 原生Google API路径 (generativelanguage.googleapis.com/v1beta):用于高级功能,如 搜索搁浅 (web_search)以及 URL上下文 (web_reader).这些功能无法通过OpenAI兼容接口获得。

工具发现

当Claude Desktop启动时,它会显示 claude_desktop_config.json,将MCP服务器作为子进程启动,并向其查询可用工具。然后,这些工具与内置功能一起出现在Claude的界面中。


快速入门:Gemini(推荐)

1.获取Google API密钥

  1. 访问 谷歌AI工作室
  2. 单击“创建API密钥”
  3. 复制您的密钥——免费套餐提供慷慨的费率限制

2.克隆和安装

git clone https://github.com/Arkya-AI/claude-additional-models-mcp.git
cd claude-additional-models-mcp/gemini
npm install

3.配置克劳德桌面

打开您的Claude Desktop配置文件:

  • macOS: ~/Library/Application Support/Claude/claude_desktop_config.json
  • 窗户: %APPDATA%\Claude\claude_desktop_config.json

添加Gemini MCP服务器:

{
  "mcpServers": {
    "gemini": {
      "command": "node",
      "args": ["/absolute/path/to/claude-additional-models-mcp/gemini/index.js"],
      "env": {
        "GOOGLE_API_KEY": "your-api-key-here"
      }
    }
  }
}

重要提示: 替换 /absolute/path/to/ 使用克隆仓库的实际路径。

4.重新启动克劳德桌面

完全退出Claude Desktop(从菜单栏,而不仅仅是关闭窗口)并重新启动它。

5.验证其是否有效

  1. 查找Claude输入框右下角的工具图标
  2. 问克劳德: “你有什么工具可以使用?” --它应该列出 ask_gemini, ask_gemini_pro, web_search, web_reader,以及 parse_document
  3. 测试: “使用Gemini解释TCP和UDP之间的区别” --您应该看到一个工具调用动画,后面是响应

快速入门:GLM-5(Z.ai)

1.获取Z.ai API密钥

  1. 访问 Z.ai 并创建一个帐户
  2. 导航到 API密钥
  3. 创建并复制API密钥

2.安装

git clone https://github.com/Arkya-AI/claude-additional-models-mcp.git
cd claude-additional-models-mcp
npm install

3.配置克劳德桌面

{
  "mcpServers": {
    "glm5": {
      "command": "node",
      "args": ["/absolute/path/to/claude-additional-models-mcp/index.js"],
      "env": {
        "ZAI_API_KEY": "your-api-key-here"
      }
    }
  }
}

4.重新启动并验证

与上面的Gemini相同。工具将被命名 ask_glm5, ask_glm5_pro等等。


可用工具

这两个集成都公开了相同的5工具界面。工具名称因前缀而异(ask_gemini 对比 ask_glm5).

核心AI工具

工具 描述 关键参数 默认最大令牌
ask_gemini / ask_glm5 一般分析、综合、总结 prompt (必填), system_prompt, temperature, max_tokens 8192 / 4000
ask_gemini_pro / ask_glm5_pro 代码生成、复杂推理、架构 prompt (必填), system_prompt, temperature, max_tokens 16384 / 4000

研究和情报工具

工具 说明 关键参数
web_search 实时网络搜索与接地 search_query (必填), count (1-50), search_recency_filter, search_domain_filter
web_reader 获取并解析完整网页内容 url (必填), return_format (标记/文本), with_images_summary, with_links_summary
parse_document 通过OCR从PDF和图像中提取文本 file_url (必填), return_format (标记/文本), parse_mode (自动/ocr/布局)

使用策略:三层执行优先级

为了最大限度地提高效率,克劳德被指示(通过 CLAUDE.md)为每个任务遵循此执行层次结构:

优先级1:生成并行子代理(最快路径)

当面对具有多个独立部分的任务时,Claude会生成子代理,每个子代理独立地调用外部模型。这是 最快执行路径 并且必须优先于顺序呼叫。

例子: 编写全栈功能——子代理a通过以下方式生成后端 ask_gemini_pro,子代理B生成前端,子代理C生成测试。所有这些都是并行运行的。

优先级2:直接委托(单个单元任务)

对于无法并行化的任务,Claude将整个提示直接发送到外部模型。

例子: “分析此代码库并解释身份验证流程”——单个 ask_gemini_pro 电话。

优先级3:克劳德自己做(最后手段)

Claude只应在以下情况下在内部执行工作:

  • 协调工具调用和子代理
  • 执行文件I/O(读取/写入磁盘)
  • 提供100字以下的回复
  • 对委托内容进行最终的面向客户的润色

编排模型

Claude (Parent)
    |-- Planning & coordination (stays in Claude)
    |-- File operations & disk I/O (stays in Claude)
    |-- Quick responses <100 words (stays in Claude)
    |
    |-- PRIORITY 1: Spawn parallel sub-agents (for multi-part tasks)
    |    \-- Each sub-agent uses external model for code/analysis
    |         |-- ask_[model]_pro for code generation
    |         |-- ask_[model] for analysis/docs
    |         \-- Sub-agent writes output to disk
    |
    \-- PRIORITY 2: Delegate to external model directly (for single-unit tasks)
         |-- Analysis >300 words
         |-- Code generation >50 lines
         |-- Research synthesis from multiple sources
         \-- Document processing & OCR

次级代理执行

这 CLAUDE.md 此存储库中的文件充当所有Claude会话的“宪法”。它强制执行 子代理也必须委派 对于外部模型,它们本身无法生成大型内容块。

模式: 外部模型生成内容->Claude/sub-agent将输出写入磁盘。

任何生成超过50行代码或超过300字内容而未委托给外部模型的子代理都违反了委托规则。


模型特定策略

十四行诗4.5:编曲家

Sonnet 4.5擅长遵循复杂的指令、管理项目结构和协调多步骤工作流程。当它被迫也做重物时,它就会退化。

任务 Sonnet手柄 外部模型手柄
项目结构决策 是 --
文件读/写操作 是 --
最终代码集成 是 --
代码生成(>50行) -- ask_[model]_pro
分析和文件(>300字) -- ask_[model]
网络研究 -- web_search + web_reader
文档处理 -- parse_document

结果: 十四行诗成为一个精瘦的编曲家。输出质量提高,因为它不再是上下文重载的。

作品4.6:建筑师

Opus应该作为战略决策者,而不是劳动者。

任务 Opus手柄 外部模型手柄
架构决策 是 --
复杂的多步骤协调 是 --
安全和逻辑审查 是 --
锅炉板和CRUD代码 -- ask_[model]_pro
任何内容的初稿 -- ask_[model]
数据处理和比较 -- ask_[model]
研究和情报 -- web_search + web_reader + ask_[model]

结果: Opus消耗量减少90%以上。您可以以Sonnet级别的成本获得Opus级别的编排。


消耗优化规则

确保授权有效的四条关键规则:

1.永远不要在克劳德身上综合外部模型能做什么

  • 坏: 克劳德阅读了5个竞争对手的网站,并撰写了一篇2000字的分析文章
  • 好: web_search -> web_reader -> ask_gemini 综合->克劳德展示结果

2.委托所有多文档分析

  • 坏: Claude分析了3个PDF文件并进行了比较
  • 好: parse_document x3-> ask_gemini 比较->克劳德格式输出

3.初稿使用外部模型,波兰语使用Claude

  • 坏: Claude从头开始生成整个提案部分
  • 好: ask_gemini 生成内容->克劳德适应项目语音->写入磁盘

4.尽可能平行委派

  • 同时解析多个文档
  • 并行读取多个网络资源
  • 然后用单个 ask_gemini 呼叫

预期节省

前后对比:代币消费

竞争分析任务

步骤 仅限克劳德 使用MCP
研究 3000个克劳德代币 200个代币(web_search)
读取源 10000个克劳德令牌 1500个令牌(web_reader)
分析 8000个克劳德代币 6000个代币(ask_gemini)
克劳德总计 21000个代币 800个代币
减少 -- 96%

代码生成任务

步骤 仅限克劳德 使用MCP
架构设计 2000个克劳德令牌 300个克劳德令牌(编排)
实现 8000个克劳德令牌 5000个令牌(ask_gemini_pro)
测试 4000个克劳德令牌 3000个令牌(ask_gemini_pro)
克劳德总计 14000个代币 500个代币
减少 -- 96%

文档分析任务

步骤 仅限克劳德 使用MCP
阅读PDF 5000个克劳德令牌 0(parse_document)
提取关键术语 3000个克劳德令牌 4000个令牌(ask_gemini)
摘要 2000个克劳德代币 --
克劳德总计 10000个代币 300个代币
减少 -- 97%

总体影响

度量 MCP之前 MCP之后
克劳德·普罗疲惫 ~2天 14+天
Sonnet 4.5输出质量 负载下降级 优越的 (仅限编排)
Opus 4.6消费 100% <10%
专业订阅的有效投资回报率 1x 18-30x

真实世界的工作流程

研究管道

1. Claude receives: "Research the current state of edge AI deployment"
2. Claude calls web_search("edge AI deployment trends 2025", count=30)
3. Claude calls web_reader() on the top 5 URLs (parallel)
4. Claude calls ask_gemini("Synthesize these sources into a 2000-word report
   covering: key trends, major players, deployment challenges, and outlook")
5. Claude writes the report to research-output.md
6. Claude presents a 3-sentence summary to the user

Total Claude consumption: ~800 tokens (orchestration + file I/O)

代码生成管道

1. Claude receives: "Build a FastAPI backend with user auth and CRUD endpoints"
2. Claude calls ask_gemini_pro("Generate SQLAlchemy models and Pydantic schemas
   for a user authentication system with roles and permissions")
3. Claude writes models.py to disk
4. Claude calls ask_gemini_pro("Generate FastAPI CRUD routes for these models: [models]")
5. Claude writes routes.py to disk
6. Claude runs tests locally

Total Claude consumption: ~500 tokens (orchestration + file I/O)

项目结构

claude-additional-models-mcp/
├── index.js              # GLM-5 MCP server (Z.ai 744B model)
├── package.json          # Root dependencies (@modelcontextprotocol/sdk, node-fetch)
├── gemini/
│   ├── index.js          # Gemini 3.x MCP server (hybrid API approach)
│   └── package.json      # Gemini dependencies (@modelcontextprotocol/sdk, openai)
├── CLAUDE.md             # GLM-5 delegation rules (root-level)
├── gemini/CLAUDE.md      # Gemini delegation rules
├── EXAMPLES.md           # Real-world usage examples and templates
├── CONTRIBUTING.md       # Contribution guidelines
├── LICENSE               # MIT License
├── .github/              # GitHub issue/PR templates
└── .gitignore

npm脚本:

npm run start:glm5    # Start GLM-5 server
npm run start:gemini  # Start Gemini server

故障排除

工具未出现在Claude桌面中

  1. 检查配置语法: 验证 claude_desktop_config.json 使用JSON linter。一个尾随逗号会打断它。
  2. 验证绝对路径: 道路通向 index.js 必须是绝对的,而不是相对的。
  3. 完全重启: 从菜单栏退出Claude Desktop(不仅仅是关闭窗口)并重新启动。
  4. 手动检查服务器: 跑 node /path/to/gemini/index.js 在终端中。如果出现错误,则问题出在服务器设置中。

空响应

  1. 验证API密钥: 确保您的 GOOGLE_API_KEY 或 ZAI_API_KEY 有效且有效。
  2. 增加max_tokens: 尝试设置 max_tokens 双子座为16384,GLM-5为4000。
  3. 温度较低: 对于分析任务,使用温度0.3-0.5以获得更确定的输出。

速率限制错误(429)

  1. 免费等级限制(双子座): Flash为15转/分,Pro为5转/分。请稍候,然后重试。
  2. 升级以获得更高的限制: 访问 谷歌AI工作室 检查您的等级。
  3. GLM-5限值: 查看您的Z.ai仪表板以获取剩余积分。

找不到模型错误

  1. 确保使用正确的环境变量名称: GOOGLE_API_KEY 对于双子座来说, ZAI_API_KEY GLM-5。
  2. 服务器在内部处理模型选择。不要覆盖配置中的模型名称。

GLM-5中断

GLM-5在高峰时段或长时间提示时可能会出现超时。如果可靠性至关重要,请切换到Gemini集成。

高克劳德消费尽管代表团

审核检查表:

  • 你让克劳德做应该去的分析吗 ask_gemini?
  • 你是在阅读克劳德的网络内容,而不是使用 web_reader?
  • 您是否在Claude中生成代码,而不是 ask_gemini_pro?
  • 您是否在Claude中处理PDF,而不是 parse_document?
  • 子代理是否自己生成内容而不是委派?

每个任务的预期令牌模式:

  • 研究任务:克劳德800-2000代币
  • 代码生成:Claude 500-1000代币
  • 提案撰写:克劳德1500-3000代币

如果克劳德在分析工作上的消费超过3000个代币,则委托没有得到优化。


路线图

  • []DeepSeek-V3集成
  • []当地LLM通过Ollama进行离线委托
  • []实时工具输出的流媒体支持
  • []图像/视觉委托支持
  • []自动成本跟踪仪表板
  • []重复查询的响应缓存
  • []用于管理多个模型后端的配置UI
  • []用于常见工作流的预构建提示模板

贡献

欢迎投稿!无论是添加新的模型提供程序、优化子代理委托提示,还是改进错误处理,请参阅 贡献.md 作为指导方针。


许可证

该项目根据MIT许可证获得许可。看 许可证 文件以获取详细信息。


致谢

  • Anthropic 克劳德和模型上下文协议
  • Z.ai 用于GLM-5 API访问
  • 谷歌 适用于Gemini3.x API和慷慨的开发人员层
  • 协议规范的MCP社区

链接


由...建造 Arkya AI 让克劳德真正无限。