AI导哈

Ollama MCP 服务器

Ollama MCP Server 是一个强大的桥梁，将 Ollama 的本地 LLM 能力无缝集成到 MCP 驱动的应用程序中。

  • by NightTrek
  • JavaScript
  • 本地部署
  • 74 星标
  • 更新于
在 GitHub 查看 NightTrek/Ollama-mcp

使用说明

Ollama MCP服务器

🚀 Ollama和模型上下文协议（MCP）之间的强大桥梁，使Ollama的本地LLM功能能够无缝集成到您的MCP驱动的应用程序中。

🌟 特性

完成Ollama集成

  • API全面覆盖：通过干净的MCP界面访问Olama的所有基本功能
  • OpenAI兼容聊天：代替OpenAI的聊天完成API
  • 本地LLM电源：在本地运行具有完全控制和隐私的AI模型

核心能力

  • 🔄 模型管理

    • 从注册表中提取模型
    • 将模型推送到注册表
    • 列出可用型号
    • 从模型文件创建自定义模型
    • 复制和删除模型

  • 🤖 模型执行

    • 使用可自定义的提示运行模型
    • 具有系统/用户/助手角色的聊天完成API
    • 可配置参数（温度、超时）
    • 原始模式支持直接响应

  • 🛠 服务器控件

    • 启动并管理Ollama服务器
    • 查看详细的模型信息
    • 错误处理和超时管理

🚀 入门指南

先决条件

  • 没有 安装在您的系统上
  • Node.js和npm/pnpm

安装

  1. 安装依赖项：
pnpm install
  1. 构建服务器：
pnpm run build

配置

将服务器添加到MCP配置中：

对于Claude Desktop：

MacOS： ~/Library/Application Support/Claude/claude_desktop_config.json 窗户： %APPDATA%/Claude/claude_desktop_config.json

{
  "mcpServers": {
    "ollama": {
      "command": "node",
      "args": ["/path/to/ollama-server/build/index.js"],
      "env": {
        "OLLAMA_HOST": "http://127.0.0.1:11434"  // Optional: customize Ollama API endpoint
      }
    }
  }
}

🛠 使用示例

拉动并运行模型

// Pull a model
await mcp.use_mcp_tool({
  server_name: "ollama",
  tool_name: "pull",
  arguments: {
    name: "llama2"
  }
});

// Run the model
await mcp.use_mcp_tool({
  server_name: "ollama",
  tool_name: "run",
  arguments: {
    name: "llama2",
    prompt: "Explain quantum computing in simple terms"
  }
});

聊天完成（兼容OpenAI）

await mcp.use_mcp_tool({
  server_name: "ollama",
  tool_name: "chat_completion",
  arguments: {
    model: "llama2",
    messages: [
      {
        role: "system",
        content: "You are a helpful assistant."
      },
      {
        role: "user",
        content: "What is the meaning of life?"
      }
    ],
    temperature: 0.7
  }
});

创建自定义模型

await mcp.use_mcp_tool({
  server_name: "ollama",
  tool_name: "create",
  arguments: {
    name: "custom-model",
    modelfile: "./path/to/Modelfile"
  }
});

🔧 高级配置

  • OLLAMA_HOST：配置自定义Ollama API端点（默认值：http://127.0.0.1:11434)
  • 模型执行的超时设置（默认值：60秒）
  • 响应随机性温度控制（0-2范围）

🤝 贡献

欢迎投稿！请随意：

  • 报告错误
  • 建议新功能
  • 提交拉取请求

📝 许可证

MIT许可证-您可以在自己的项目中自由使用！

内置于❤️ 对于MCP生态系统

相关 MCP