MCP与Ollama集成工具

该项目是一个基于MCP和Ollama的集成工具,旨在熟悉主控程序流程并为后续部署和深度研究做准备。

  • by KingJhonRi
  • Python
  • 本地部署
  • 1 星标
  • 更新于
在 GitHub 查看 kingjhonri/mcp-ollama

使用说明

MCP+Ollama集成实践

简介

本项目测试环境为Ubuntu 20.04(阿里云CPU环境),基于MCP+Ollama集成的,请参考MCP+Ollama集成实践,主要目的是为了熟悉主控程序的相关流程,为后续部署与实现deepresearch做准备。

安装依赖

 uv add fastmcp ollama

这会同时安装MCP服务器和Ollama聊天库,以便你在它们的基础上构建客户端和服务器逻辑。

文件结构

在项目根目录下,有名为.venv的虚拟环境,里面存放了所有依赖项。

另外,我们的your folder目录下,有server.py和client.py两个文件,server.py文件包含MCP服务器和想要暴露的工具。client.py文件在后台进程中启动服务器,获取可用工具,并与Ollama连接。

   your folder
   ├── server.py
   └── client.py

激活虚拟环境

这一步在每一个终端开始运行的时候都必须执行

   source .venv/bin/activate 

启动ollama服务(在一个终端)

    ollama serve

启动成功后,会返回一个端口号,该端口号用于后续的调用

在ollama中部署一个大模型(以gemma3为例)

    ollama run gemma3

模型启动成功后,会返回一个模型ID,该ID为模型唯一标识符,后续调用模型时需要使用此ID,可以在当前的界面与模型对话体验

运行 MCP 服务器(新建终端)

uv run python server.py

运行客户端(新建终端)

python client.py

一些其他问题

client.py文件有如下代码:

    client = Client(
      host='http://127.0.0.1:11434',
      headers={'x-some-header': 'some-value'}
    )

在这里配置了http请求头,事实上,这里的host需要您自己设置,下面代码中是我的ip

本地访问页面 http://127.0.0.1:11434/#tools (例),我们可以看构造的函数,并且可以调试