多模型AI路由服务

MindBridge是一个AI模型路由协议服务器,用于统一、组织和增强LLM工作流程,支持多种模型的无缝切换和协作。

  • by pinkpixel-dev
  • TypeScript
  • 本地部署
  • 38 星标
  • 更新于
在 GitHub 查看 pinkpixel-dev/mindbridge-mcp

使用说明

MindBridge MCP服务器⚡ 大脑大动作的AI路由器

MindBridge是您的AI命令中心——一个模型上下文协议(MCP)服务器,旨在统一、组织和增强您的LLM工作流。

忘记供应商锁定,忘记处理十几个API。
MindBridge将您的应用程序连接到 任何 从OpenAI和Anthropic到Ollama和DeepSeek,他们可以像专家顾问团队一样相互交流。

需要原始速度吗?买一个便宜的模型。
需要复杂的推理吗?把它交给专家。
想要第二种意见吗?MindBridge内置了这一功能。

这不仅仅是模型聚合。这是模型编排。


核心功能🔥

它的作用 为什么你应该使用它
多LLM支持 立即在OpenAI、Anthropic、Google、DeepSeek、OpenRouter、Ollama(本地模型)和OpenAI兼容API之间切换。
推理引擎感知 智能路由到为深度推理构建的模型,如Claude、GPT-4o、DeepSeek Reasoner等
getSecondOpinion工具 向多个模型提出同一个问题,并排比较答案。
OpenAI兼容的API层 将MindBridge放入任何期望使用OpenAI端点的工具中(Azure、Together.ai、Groq等)。
自动检测提供程序 只需添加密钥。MindBridge自动处理设置和发现。
灵活如地狱 通过环境变量、MCP配置或JSON配置一切——这取决于你。

为什么选择MindBridge?

“每个法学硕士都擅长一些事情。MindBridge让他们一起工作。”

非常适合:

  • 代理商建设者
  • 多模型工作流
  • AI编排引擎
  • 推理繁重的任务
  • 构建更智能的AI开发环境
  • LLM供电后端
  • 任何厌倦了供应商围墙花园的人

安装🛠️

选项1:从npm安装(推荐)

# Install globally
npm install -g @pinkpixel/mindbridge

# use with npx
npx @pinkpixel/mindbridge

通过Smithery安装

通过以下方式自动安装克劳德桌面版mindbridge mcp 史密瑟里:

npx -y @smithery/cli install @pinkpixel-dev/mindbridge-mcp --client claude

选项2:从源代码安装

  1. 克隆存储库:

    git clone https://github.com/pinkpixel-dev/mindbridge.git
    cd mindbridge
    
  2. 安装依赖项:

    chmod +x install.sh
    ./install.sh
    
  3. 配置环境变量:

    cp .env.example .env
    

    编辑 .env 并为要使用的提供程序添加API密钥。

配置⚙️

环境变量

服务器支持以下环境变量:

  • OPENAI_API_KEY:您的OpenAI API密钥
  • ANTHROPIC_API_KEY:您的Anthropic API密钥
  • DEEPSEEK_API_KEY:您的DeepSeek API密钥
  • GOOGLE_API_KEY:您的Google AI API密钥
  • OPENROUTER_API_KEY:您的OpenRouter API密钥
  • OLLAMA_BASE_URL:Ollama实例URL(默认值:http://localhost:11434)
  • OPENAI_COMPATIBLE_API_KEY:(可选)OpenAI兼容服务的API密钥
  • OPENAI_COMPATIBLE_API_BASE_URL:OpenAI兼容服务的基本URL
  • OPENAI_COMPATIBLE_API_MODELS:可用型号的逗号分隔列表

MCP配置

对于与MCP兼容的IDE(如Cursor或Windsurf)一起使用,您可以在您的 mcp.json 文件:

{
  "mcpServers": {
    "mindbridge": {
      "command": "npx",
      "args": [
        "-y",
        "@pinkpixel/mindbridge"
      ],
      "env": {
        "OPENAI_API_KEY": "OPENAI_API_KEY_HERE",
        "ANTHROPIC_API_KEY": "ANTHROPIC_API_KEY_HERE",
        "GOOGLE_API_KEY": "GOOGLE_API_KEY_HERE",
        "DEEPSEEK_API_KEY": "DEEPSEEK_API_KEY_HERE",
        "OPENROUTER_API_KEY": "OPENROUTER_API_KEY_HERE"
      },
      "provider_config": {
        "openai": {
          "default_model": "gpt-4o"
        },
        "anthropic": {
          "default_model": "claude-3-5-sonnet-20241022"
        },
        "google": {
          "default_model": "gemini-2.0-flash"
        },
        "deepseek": {
          "default_model": "deepseek-chat"
        },
        "openrouter": {
          "default_model": "openai/gpt-4o"
        },
        "ollama": {
          "base_url": "http://localhost:11434",
          "default_model": "llama3"
        },
        "openai_compatible": {
          "api_key": "API_KEY_HERE_OR_REMOVE_IF_NOT_NEEDED",
          "base_url": "FULL_API_URL_HERE",
          "available_models": ["MODEL1", "MODEL2"],
          "default_model": "MODEL1"
        }
      },
      "default_params": {
        "temperature": 0.7,
        "reasoning_effort": "medium"
      },
      "alwaysAllow": [
        "getSecondOpinion",
        "listProviders",
        "listReasoningModels"
      ]
    }
  }
}

将API密钥替换为实际密钥。对于OpenAI兼容配置,您可以删除 api_key 字段,如果服务不需要身份验证。

用法💫

启动服务器

自动重新加载的开发模式:

npm run dev

生产方式:

npm run build
npm start

全局安装时:

mindbridge

可用工具

  1. getSecond意见

    {
      provider: string;  // LLM provider name
      model: string;     // Model identifier
      prompt: string;    // Your question or prompt
      systemPrompt?: string;  // Optional system instructions
      temperature?: number;   // Response randomness (0-1)
      maxTokens?: number;    // Maximum response length
      reasoning_effort?: 'low' | 'medium' | 'high';  // For reasoning models
    }
    
  2. 列表提供者

    • 列出所有已配置的提供程序及其可用型号
    • 无需参数
  3. 列表推理模型

    • 列出针对推理任务优化的模型
    • 无需参数

示例用法📝

// Get an opinion from GPT-4o
{
  "provider": "openai",
  "model": "gpt-4o",
  "prompt": "What are the key considerations for database sharding?",
  "temperature": 0.7,
  "maxTokens": 1000
}

// Get a reasoned response from OpenAI's o1 model
{
  "provider": "openai",
  "model": "o1",
  "prompt": "Explain the mathematical principles behind database indexing",
  "reasoning_effort": "high",
  "maxTokens": 4000
}

// Get a reasoned response from DeepSeek
{
  "provider": "deepseek",
  "model": "deepseek-reasoner",
  "prompt": "What are the tradeoffs between microservices and monoliths?",
  "reasoning_effort": "high",
  "maxTokens": 2000
}

// Use an OpenAI-compatible provider
{
  "provider": "openaiCompatible",
  "model": "YOUR_MODEL_NAME",
  "prompt": "Explain the concept of eventual consistency in distributed systems",
  "temperature": 0.5,
  "maxTokens": 1500
}

发展🔧

  • npm run lint:运行ESLint
  • npm run format:使用Prettier格式化代码
  • npm run clean:清理构建工件
  • npm run build:构建项目

贡献

PR欢迎!帮助我们让人工智能工作流程不那么愚蠢。


许可证

麻省理工学院——无论做什么,都不要作恶。


由以下材料制成❤️ 靠近 粉红色像素