AI导哈

本地模型通信桥接器

一个简单的模型控制协议（MCP）服务器，允许Claude通过LM Studio与本地运行的LLM模型进行通信，用于比较响应、访问专业模型、处理敏感查询等场景。

  • by infinitimeless
  • Python
  • 本地部署
  • 9 星标
  • 更新于
在 GitHub 查看 infinitimeless/Claude-LMStudio-Bridge_V2

使用说明

克劳德LMStudio桥

一个简单的模型控制协议（MCP）服务器，允许Claude通过以下方式与本地运行的LLM模型通信 LM工作室.

概述

此桥使Claude能够向LM Studio中本地运行的模型发送提示并接收其响应。这可用于：

  • 将克劳德的反应与其他模型进行比较
  • 访问特定任务的专用本地模型
  • 即使在Claude API配额有限的情况下也运行查询
  • 将敏感查询完全保留在本地

先决条件

安装

  1. 克隆此存储库：

    git clone https://github.com/infinitimeless/Claude-LMStudio-Bridge_V2.git
cd Claude-LMStudio-Bridge_V2

  2. 创建虚拟环境：

    python -m venv venv
source venv/bin/activate  # On Windows: venv\Scripts\activate

  3. 安装所需的软件包（选择一种方法）：

    使用requirements.txt：

    pip install -r requirements.txt

    或者直接安装依赖项：

    pip install requests "mcp[cli]" openai anthropic-mcp

用法

  1. 启动LM Studio并加载您喜欢的模型。

  2. 确保LM Studio的本地服务器正在运行（默认情况下通常在端口1234上）。

  3. 运行网桥服务器：

    python lmstudio_bridge.py

  4. 在Claude的界面中，启用MCP服务器并将其指向本地运行的网桥。

  5. 现在，您可以在与Claude的对话中使用以下MCP工具：

    • health_check：检查LM Studio API是否可访问
    • list_models：获取LM Studio中可用型号的列表
    • get_current_model：检查当前加载的型号
    • chat_completion：向当前模型发送提示

示例

连接后，您可以要求Claude使用本地模型：

Claude, please use the LM Studio bridge to ask the local model: "What's your opinion on quantum computing?"

克劳德将使用 chat_completion 工具将查询发送到本地模型并显示响应。

配置

默认情况下，网桥在以下位置连接到LM Studio http://localhost:1234/v1。如果您的LM Studio实例正在其他端口上运行，请修改 LMSTUDIO_API_BASE 变量in lmstudio_bridge.py.

故障排除

如果您遇到依赖关系问题，请尝试直接安装它们：

pip install requests "mcp[cli]" openai anthropic-mcp

有关详细的安装说明和故障排除，请参阅 安装指南.

许可证

麻省理工学院

贡献

欢迎投稿！请随时提交拉取请求。

相关 MCP