AI导哈

本地LLM桥接服务

该服务是一个连接Claude与本地LM Studio运行的大语言模型的桥接工具，提供模型列表查询、文本生成和聊天完成功能。

  • by infinitimeless
  • Python
  • 本地部署
  • 13 星标
  • 更新于
在 GitHub 查看 infinitimeless/claude-lmstudio-bridge

使用说明

克劳德LMStudio桥

一个MCP服务器，将Claude与LM Studio中运行的本地LLM连接起来。

概述

此工具允许Claude与在LM Studio中运行的本地LLM进行交互，提供：

  • 访问LM Studio以列出所有可用型号
  • 使用本地LLM生成文本的能力
  • 支持通过本地模特完成聊天
  • 用于验证与LM Studio连接的健康检查工具

先决条件

快速入门（推荐）

对于macOS/Linux：

  1. 克隆存储库
git clone https://github.com/infinitimeless/claude-lmstudio-bridge.git
cd claude-lmstudio-bridge
  1. 运行安装脚本
chmod +x setup.sh
./setup.sh
  1. 按照安装脚本的说明配置Claude Desktop

对于Windows：

  1. 克隆存储库
git clone https://github.com/infinitimeless/claude-lmstudio-bridge.git
cd claude-lmstudio-bridge
  1. 运行安装脚本
setup.bat
  1. 按照安装脚本的说明配置Claude Desktop

手动设置

如果您更喜欢手动设置：

  1. 创建虚拟环境（可选但推荐）
python -m venv venv
source venv/bin/activate  # On Windows: venv\Scripts\activate
  1. 安装所需的软件包
pip install -r requirements.txt
  1. 配置Claude桌面：
    • 打开克劳德桌面首选项
    • 导航到“MCP服务器”部分
    • 添加具有以下配置的新MCP服务器：
      • 名字：lmstudio桥
      • 命令：/bin/bash（在macOS/Linux上）或cmd.exe（在Windows上）
      • 参数:
        • macOS/Linux：/path/to/claude lmstudio桥接器/run_server.sh
        • Windows:/c c:\path\to\claude lmstudio bridge\run_server.bat

与Claude一起使用

设置网桥后，您可以在Claude中使用以下命令：

  1. 检查与LM Studio的连接：
Can you check if my LM Studio server is running?
  1. 列出可用型号：
List the available models in my local LM Studio
  1. 使用本地模型生成文本：
Generate a short poem about spring using my local LLM
  1. 发送聊天完成：
Ask my local LLM: "What are the main features of transformers in machine learning?"

故障排除

诊断LM Studio连接问题

使用附带的调试工具检查LM Studio连接：

python debug_lmstudio.py

有关更详细的测试：

python debug_lmstudio.py --test-chat --verbose

常见问题

“无法连接到LM Studio API”

  • 确保LM Studio正在运行
  • 验证API服务器是否已在LM Studio中启用（“设置”>“API服务器”）
  • 检查端口（默认值：1234）是否与.env文件中的端口匹配

“未加载任何模型”

  • 打开LM Studio并加载模型
  • 验证模型是否成功运行

“未找到MCP包”

  • 尝试重新安装： pip install "mcp[cli]" httpx python-dotenv
  • 确保你使用的是Python 3.8或更高版本

“克劳德找不到那座桥”

  • 检查Claude桌面配置
  • 确保run_server.sh或run_server.com的路径正确且绝对
  • 验证服务器脚本是否可执行： chmod +x run_server.sh （在macOS/Linux上）

高级配置

您可以通过创建 .env 具有以下设置的文件：

LMSTUDIO_HOST=127.0.0.1
LMSTUDIO_PORT=1234
DEBUG=false

集 DEBUG=true 启用详细日志记录以进行故障排除。

许可证

麻省理工学院

相关 MCP