Llama服务器桥接工具

一个最小化的MCP服务器,用于连接Cursor和本地llama.cpp的llama-server(兼容OpenAI),适用于调试和自动化任务。

  • by waqasm86
  • Python
  • 本地部署
  • 更新于
在 GitHub 查看 waqasm86/cursor-llama-mcp-bridge

使用说明

“cursor-llama-mcp-bridge” 可以翻译为“Cursor-LLaMA MCP桥接器”或“Cursor与LLaMA通过MCP的桥接”。这里,“Cursor”可能指的是一个特定的软件、工具或系统,“LLaMA”是Meta开发的一系列大型语言模型,“MCP”可能代表某种中间件、通信协议或特定的连接机制,具体含义需根据上下文确定

最小的 MCP服务器 使得/允许 光标 和当地人聊聊 llama.cpp llama-server (与OpenAI兼容)。
零 llama-cpp-python 依赖性。专为可重复的调试、简洁的自动化和精炼的文档而构建。

快速入门

# 0) Run llama-server (adjust paths/flags)
scripts/run-llama-server.sh

# 1) Put config/mcp.json into ~/.cursor/mcp.json (or project-local .cursor/mcp.json)
#    then open Cursor; it will spawn the MCP server via stdio.

# 2) Smoke test outside Cursor
scripts/smoke-chat.sh

光标食谱

见 examples/cursor-commands.md 用于复制粘贴 @llama-mcp 电话。

故障排除

  • /v1/models 空(或“/v1/models 无内容”) → 错误 --model 路径无效或服务器启动时未加载模型。
  • HTTP 400/422 → 架构不匹配;请检查您的llama.cpp版本,并确保已开启OpenAI兼容模式。
  • 超时 → 提高;举起;抚养 LLAMA_TIMEOUT_S 或减少 max_tokens.
  • 连接错误 验证 LLAMA_BASE_URL 主机/端口/防火墙。
  • 较旧的GPU/低显存(例如,1GB) → 更喜欢使用Q4_K_M或更小的上下文大小;保持提示简短。

支持包

scripts/support-bundle.sh support.zip

这个压缩了env/version的信息, /v1/models, /health以及一个用于快速分类的最小可复现请求。

为什么选择这个项目

Cursor技术支持工程师的角色重点在于调试棘手问题、构建自动化工具/系统,以及编写清晰文档。此仓库展示了:

  • 用于即时诊断的健康模型工具
  • 使用结构化日志重试HTTP客户端(LLAMA_LOG_JSON=1)
  • 一键式冒烟测试 + 支持包
  • 简洁明了的文档和示例

许可证

麻省理工学院(MIT)

Cursor-Llama-MCP桥接器