多模型查询服务

HydraMCP是一款多模型查询服务器,允许用户通过一个终端连接和查询多种大型语言模型,包括GPT、Gemini、Claude及本地模型,支持模型比较、投票和结果合成。

  • by Pickle-Pixel
  • TypeScript
  • 本地部署
  • 15 星标
  • 更新于
在 GitHub 查看 Pickle-Pixel/HydraMCP

使用说明

HydraMCP

Connect agents to agents.

一个MCP服务器,允许Claude Code查询任何LLM——从一个终端跨GPT、Gemini、Claude和本地模型进行比较、投票和综合。

快速开始

npx hydramcp setup

就是这样。向导将引导您完成所有内容-API密钥、订阅、本地模型。最后,它为您提供了添加到Claude Code中的一行代码。

或者,如果您已经拥有API密钥:

claude mcp add hydramcp -e OPENAI_API_KEY=sk-... -- npx hydramcp

它看起来像什么

四种模式,四种生态系统,一种提示。实时会话的实际输出:

> compare gpt-5-codex, gemini-3, claude-sonnet, and local qwen on this function review

## Model Comparison (4 models, 11637ms total)

| Model                      | Latency         | Tokens |
|----------------------------|-----------------|--------|
| gpt-5-codex                | 1630ms fastest  | 194    |
| gemini-3-pro-preview       | 11636ms         | 1235   |
| claude-sonnet-4-5-20250929 | 3010ms          | 202    |
| ollama/qwen2.5-coder:14b   | 8407ms          | 187    |

这四个独立发现了相同的异步错误。然后,每个人都抓住了其他人错过的不同的东西。

这是与当地法官的共识:

> get consensus from gpt-5, gemini-3, and claude-sonnet. use local qwen as judge.

## Consensus: REACHED

Strategy: majority (needed 2/3)
Agreement: 3/3 models (100%)
Judge: ollama/qwen2.5-coder:14b (686ms)

对三种云模型进行了调查,本地模型对其进行了评判。686ms用于评估协议。

工具

工具 它做什么
list_models 查看所有提供商提供的内容
ask_model 查询任意模型,可选响应蒸馏
比较模型 2-5个型号并行显示相同的提示
共识 对3-7名模特进行投票,法学硕士作为评委评估协议
合成 将多个模型中的最佳想法合并为一个答案
分析文件 将文件分析卸载到worker模型
smart_read 提取特定代码段而不读取整个文件
会话_回顾 从之前的Claude Code会话中恢复上下文

在Claude Code内部,只需说出以下内容:

  • “请gpt-5查看此功能”
  • “双子座和克劳德在这种方法上的比较”
  • “从3个模型中就这是否是线程安全达成共识”
  • “综合所有模型对如何设计此API的响应”

运作原理

Claude Code
    |
    HydraMCP (MCP Server)
    |
    SmartProvider (circuit breaker, cache, metrics)
    |
    MultiProvider (routes to the right backend)
    |
    |-- OpenAI     -> api.openai.com (API key)
    |-- Google     -> Gemini API (API key)
    |-- Anthropic  -> api.anthropic.com (API key)
    |-- Sub        -> CLI tools (Gemini CLI, Claude Code, Codex CLI)
    |-- Ollama     -> local models (your hardware)

连接模型的三种方法

API密钥(最快设置)

设置环境变量。HydraMCP会自动检测到它们。

变量 提供者
OPENAI_API_KEY OpenAI(GPT-4o、GPT-5、o3等)
GOOGLE_API_KEY 谷歌双子座(2.5 Flash、Pro等)
ANTHROPIC_API_KEY 人物克劳德(作品,十四行诗,俳句)

订阅(使用您的月度计划)

已经为ChatGPT Plus、Claude Pro或Gemini Advanced付费了吗?HydraMCP封装了这些订阅所包含的CLI工具。没有API帐单。

npx hydramcp setup   # auto-installs CLIs and runs auth

安装向导会检测您拥有哪些CLI,安装缺少的CLI,并引导您完成身份验证。每个CLI都通过浏览器进行一次身份验证,然后将其永久存储。

订阅 CLI工具 您将获得什么
双子座高级 gemini Gemini 2.5 Flash、Pro等。
克劳德Pro/Max claude 克劳德·奥普,十四行诗,俳句
ChatGPT Plus/Pro codex GPT-5、o3、Codex型号

局部模型

安装 奥拉玛,拉一个模型,完成。自动检测到。

ollama pull qwen2.5-coder:14b

混搭

这三种方法都堆叠在一起。对某些提供程序使用API密钥,对其他提供程序使用订阅,对本地使用Ollama。他们都出现在 list_models 一起。

使用前缀显式路由:

  • openai/gpt-5 -强制OpenAI API
  • google/gemini-2.5-flash -强制使用Google API
  • sub/gemini-2.5-flash --强制订阅CLI
  • ollama/qwen2.5-coder:14b --强制当地
  • gpt-5 --自动检测(尝试每个提供程序)

安装详细信息

选项A:npx(推荐)

npx hydramcp setup                           # interactive wizard
claude mcp add hydramcp -- npx hydramcp      # register with Claude Code

配置已保存到 ~/.hydramcp/.env 并在npx运行期间持续存在。

选项B:克隆

git clone https://github.com/Pickle-Pixel/HydraMCP.git
cd HydraMCP
npm install && npm run build
claude mcp add hydramcp -- node /path/to/HydraMCP/dist/index.js

验证

重新启动Claude Code并说出“列出模型”。您应该看到您配置的所有内容。

建筑

HydraMCP将所有供应商包装在一个 智能提供商 添加以下内容的图层:

  • 断路器 --每个模型的故障跟踪。在3次故障后,该模型被禁用60秒并自动恢复。
  • 响应缓存 --SHA-256密钥,15分钟TTL。立即提供相同的查询。
  • 指标 --每个模型的查询计数、延迟、令牌使用率、缓存命中率。
  • 响应蒸馏 --set max_response_tokens 对于任何查询,廉价的模型都会压缩响应,同时保留代码、错误和细节。

贡献

想添加提供者吗?接口有三种方法:

interface Provider {
  healthCheck(): Promise<boolean>;
  listModels(): Promise<ModelInfo[]>;
  query(model: string, prompt: string, options?: QueryOptions): Promise<QueryResponse>;
}

看 src/providers/ollama.ts 作为一个工作示例。实施它,注册 src/index.ts,完成。

我们很想看到的提供商:LM Studio、OpenRouter、Groq、Together AI或任何讲HTTP的东西。

许可证

麻省理工学院