MCP服务器

基于FastMCP的MCP服务器,用于与LLM模型(如通过Ollama的Llama 3.2)交互,支持自定义资源、工具和提示,并管理结构化数据和FAISS模式的检索增强生成(RAG)管道。

  • by AndreaMarini01
  • Python
  • 本地部署
  • 更新于
在 GitHub 查看 AndreaMarini01/MCP_Server

使用说明

🧠 MCP服务器 – FastMCP与Ollama集成

这个项目实施了一个 MCP 服务器 基于 FastMCP 以便让大型语言模型(如通过Ollama的Llama 3.2)能够与资源、工具和自定义提示进行交互。
该架构旨在管理数据管道。 检索增强生成(RAG) 其结构化数据和FAISS索引。


🚀 快速启动

1️⃣ 设置执行权限

使 Ollama 初始化脚本可执行:

chmod +x init_ollama.sh

2️⃣ 初始化Ollama

执行脚本以启动Ollama服务并下载所需的模型(例如 llama3.2:3b):

./init_ollama.sh

3️⃣ 启动MCP后端

以分离模式启动FastMCP服务器的Docker容器:

docker compose up -d backend