AI模型协议服务器

Ollama MCP服务器

将AI任务路由到本地的MCP（模型上下文协议）服务器 奥拉玛 模型。直接从您的机器提供私有、免费的人工智能功能——推理、代码生成、嵌入和语义搜索。

与任何MCP兼容的代理或客户端配合使用，包括 克劳德代码, 光标, 克莱恩以及其他。

这个项目的灵感来源于 Jonsflow/Ollama-MCP这一概念完全归功于原作者。

特性

• 本地第一AI -所有推理都通过Ollama在硬件上运行，没有API密钥或云调用
• 3个MCP工具 --推理、嵌入和文档过滤
• MCP标准 --与支持模型上下文协议的任何代理或客户端配合使用
• 可配置的上下文窗口 --为每个环境设置模型的上下文大小
• 结构化日志记录 --通过Go的JSON格式日志 slog
• 重试逻辑 -Ollama API调用的指数退避自动重试
• 跨平台 --为Linux、macOS（英特尔+苹果硅）和Windows构建

快速开始

1.安装Olama

从下载并安装 ollama.com.

2.拉模型

# Reasoning model (pick one)
ollama pull qwen3:1.7b

# Embedding model
ollama pull nomic-embed-text

3.建造

git clone https://github.com/Dxeo/ollama-mcp.git
cd ollama-mcp
go build -o ollama-mcp .        # Linux / macOS
go build -o ollama-mcp.exe .    # Windows

或者从以下网址下载预构建的二进制文件 发布.

配置

所有配置都是通过环境变量进行的：

如果缺少任何必需的变量，服务器将退出并出错。

整合

服务器通过以下方式进行通信 标准 使用MCP协议。任何兼容MCP的客户端都可以通过指向二进制文件并设置所需的环境变量来使用它。

此回购提供 AGENT.md 包含指示代理主动使用ollama-mcp工具的指令的文件。您可以将其内容复制到您的代理说明中。

克劳德代码

添加 ~/.claude/settings.json 或项目 .mcp.json:

{
  "mcpServers": {
    "ollama": {
      "command": "/absolute/path/to/ollama-mcp",
      "env": {
        "REASONING_MODEL": "qwen3:1.7b",
        "EMBEDDING_MODEL": "nomic-embed-text",
        "CONTEXT_SIZE": "16384"
      }
    }
  }
}

其他MCP客户端

对于任何兼容MCP的客户端，使用上述二进制路径和环境变量配置stdio服务器。有关确切的配置格式，请参阅客户的文档。

工具

许可证

此项目根据GNU通用公共许可证v3.0获得许可——请参阅 许可证 文件以获取详细信息。