模型上下文协议服务器

一个为大型语言模型提供API端点的模型上下文协议服务器,与Ollama配合使用。

  • by fjsuarez
  • Python
  • 本地部署
  • 更新于
在 GitHub 查看 fjsuarez/roche-mcp-server

使用说明

罗氏MCP服务器

模型上下文协议(MCP)服务器,将API端点公开为LLM与Ollama一起使用的工具。

先决条件

安装

1.安装uv(如果尚未安装)

curl -LsSf https://astral.sh/uv/install.sh | sh

2.克隆并设置项目

cd roche-mcp-server
uv sync

这将创建一个虚拟环境并安装来自的所有依赖项 pyproject.toml.

3.安装Ollama和Callama3.2

# Install Ollama
curl -fsSL https://ollama.ai/install.sh | sh

# Pull llama3.2 model
ollama pull llama3.2

用法

1.启动API服务器

请确保API服务器正在配置的URL上运行(默认值: http://127.0.0.1:8000).

2.启动Ollama模型

在一个新的终端上,以Callama3.2开始Ollama:

ollama run llama3.2

3.启动MCP服务器

uv run api.py

让它在终端中运行。

许可证

麻省理工学院