语言模型工具连接协议

Ollama MCP是一个通过模型上下文协议(MCP)将Ollama语言模型与外部工具和服务连接的工具,支持Git操作、命令行交互等功能。

  • by mihirrd
  • Python
  • 本地部署
  • 71 星标
  • 更新于
在 GitHub 查看 mihirrd/ollama-mcp-client

使用说明

Ollama MCP(模型上下文协议)

Ollama MCP是一个使用模型上下文协议(MCP)将基于Ollama的语言模型与外部工具和服务连接起来的工具。这种集成使LLM能够与各种系统进行交互,如Git存储库、shell命令和其他支持工具的服务。

特性

  • Ollama语言模型和MCP服务器之间的无缝集成
  • 通过MCP Git服务器支持Git操作
  • 可扩展的工具管理系统
  • 交互式命令行助手界面
  • 启动时从可用的本地模型中交互式选择Olama模型

安装

  1. 确保您已安装Python 3.13+
  2. 克隆此存储库
  3. 安装依赖项:
# Create a virtual environment
uv add ruff check
# Activate the virtual environment
source .venv/bin/activate
# Install the package in development mode
uv pip install -e .

用法

Olama车型选择

在主应用程序启动之前,系统将提示您选择要使用的Ollama模型。

  1. 先决条件:

    • 确保Ollama已安装并正在运行。
    • 您必须至少在本地提取一个模型(例如,通过 ollama pull llama3.1:8b).支持工具使用的型号列表可以在 Ollama网站.
  2. 启动过程:

    • 该应用程序将自动检测并列出您本地机器上可用的所有Ollama型号。
    • 系统将提示您从显示的列表中键入要使用的模型的名称。
    • 如果输入无效的模型名称,系统将再次提示您,直到做出有效选择。
    • 然后,所选模型将由代理用于所有后续操作。

运行Git助手

uv run main.py

运行测试

pytest -xvs tests/test_ollama_toolmanager.py

这将启动一个交互式CLI,您可以在其中要求助手执行Git操作。

使用自定义工具进行扩展

您可以通过以下方式扩展系统:

  1. 创建新的工具包装器
  2. 将它们注册到 OllamaToolManager
  3. 连接到不同的MCP服务器

组件

  • 全部ToolManager:管理工具注册和执行
  • MCP客户端:处理与MCP服务器的通信
  • 成为Agent:协调Ollama LLM和工具使用

例子

# Creating a Git-enabled agent
git_params = StdioServerParameters(
    command="uvx",
    args=["mcp-server-git", "--repository", "/path/to/repo"],
    env=None
)

# Connect and register tools
async with MCPClient(git_params) as client:
    # Register tools with the agent
    # Use the agent for Git operations

需求

  • Python 3.13+
  • MCP 1.5.0+
  • 没有 0.4.7+