VRAM感知MCP服务器

一个VRAM感知的MCP服务器，将令牌密集型开发任务卸载到本地Ollama模型，为复杂推理节省API令牌。

在 GitHub 查看 digitalghost404/ollama-mcp

使用说明

VRAM软件MCP服务器，将大量代币开发任务卸载到本地Ollama模型，为复杂推理节省API代币。

服务器通过以下方式监控GPU内存 nvidia-smi 并根据可用VRAM选择模型。模型按需加载。

npm install

需要奥拉玛在本地运行，并拉取模型。

npm start

在Claude Code MCP设置中配置：

{
  "mcpServers": {
    "ollama": {
      "command": "node",
      "args": ["/path/to/ollama-mcp/index.js"]
    }
  }
}