Ollama容器MCP服务器

一个基于Docker的Ollama容器服务,用于运行和管理Llama3.2模型,并开发MCP服务器与OpenAI API集成。

  • by ErdenizUnvan
  • Python
  • 本地部署
  • 更新于
在 GitHub 查看 erdenizunvan/ollama_container-mcp_server

使用说明

ollama-container-mcpserver

在Ubuntu上安装Docker、Docker机器、Docker编写:

sudo apt更新

sudo apt安装-y ca证书curl gnupg-lsb发布

sudo mkdir-p/etc/apt/keyrings

curl-fsSLhttps://download.docker.com/linux/ubuntu/gpg |
sudo gpg--dearmor-o/etc/apt/keyrings/docker.gpg

回声
“deb[arch=$(dpkg--打印架构)
签名人:/etc/apt/keyrings/docker.gpg]
https://download.docker.com/linux/ubuntu
$(lsb_release-cs)稳定”|
sudo tee/etc/apt/sources.list.d/docker.list>/dev/null

sudo apt更新

sudo apt安装-y docker ce docker ce cli containerd.io docker buildx插件docker compose插件

sudo docker运行hello world

sudo usermod-aG docker$USER

newgrp docker

sudo重新启动

sudo apt安装openssh服务器

sudo apt安装docker compose-y

基地=https://github.com/docker/machine/releases/download/v0.16.2 && curl-L$base/docker机器-$(uname-s)-$(oname-m)>。/docker机器&& chmod+x。/docker机器&& sudo mv。/docker机器/usr/local/bin/docker机器

在Docker上运行Ollama容器:

docker运行-d-v ollama:/root/.ollama-p 11434:11434--名称为ollama-ollama/ollama

docker exec-it olama bash

Ollama Pull Callama 3.2

#如果已安装:

Ollama Run调用3.2

退出:Ctrl+D

退出容器:exit

学习ubuntu docker主机的ip地址:ip a

在http之后使用ai_agent_gradio_lama.py的python代码的ip地址://

利用OpenAI API开发MCP服务器

下载nodejs:https://nodejs.org/en/download/

npm-v

python=3.12.9

pip安装-r要求.txt

在一个终端上:fastmcp-dev-test_tools_mcp_server.py

在浏览器上打开链接。

按浏览器上的连接按钮。

在另一个终端:python ai_agent_gradio_llama.py