LLM自定义MCP服务器集成工具

为LLM充电：将自定义MCP服务器与Open WebUI和Ollama连接🚀

该存储库为Open WebUI和Ollama提供了Docker Compose设置，旨在展示 使用模型上下文协议（MCP）的自定义新闻源。这个项目是开发人员的一个很好的起点 希望使用自定义功能扩展他们的LLM，例如获取实时数据、访问本地文件或执行特定脚本。

✨ 特性

打开WebUI和Ollama：一个可运行的环境，用于强大的本地AI聊天界面和本地LLM运行时。

自定义MCP服务器：演示如何部署LLM可以调用的自定义MCP服务器。

Docker化安装程序：一个docker compose up命令可以处理整个设置，包括所有服务和依赖关系。

示例包括:

• 突发新闻服务器：一个定制服务器，提供“突发新闻”作为现实世界API的起点。
• 时间服务器：用于获取本地时间的外部MCP服务器。

先决条件

您的计算机上需要安装以下软件：

• 码头工人：运行容器化应用程序的平台。

• Docker Compose：一个用于定义和运行多容器Docker应用程序的工具。

🏗️ 项目架构

该系统由四个主要服务组成，在单个Docker网络中运行：

1. 打开webui llm接口。
2. 成为 用于在本地运行llm。
3. mcp突发新闻服务器 提供突发新闻的定制mcp服务器。
4. mcp时间服务器 外部mcp时间服务器。

🚀 入门指南

在终端上按照以下简单步骤启动并运行项目。

1. 💻 克隆存储库：

git clone https://github.com/filipzupancic/zupai_open_webui_mcp
cd zupai_open_webui_mcp

2. 🛠️ 构建并启动所有服务：

docker compose up --build -d

这个命令将构建我们的rag-api Docker镜像，然后以分离模式（-d）启动所有四个服务（ollama、open-webui、mcp突发新闻服务器、mcp时间服务器）。

3. 💯 拉动LLM模型：

接下来，我们将把大型语言模型拉入Ollama容器中。

# Pull the LLM for inference (e.g., a larger model)
docker exec ollama ollama pull qwen2.5vl:7b

4. 🤖 配置打开WebUI

• 4.1.首选http://localhost:8080/在您的浏览器中
• 4.2.登录或创建帐户
• 4.3.选择您加载到Ollama的llm模型
• 4.4.导航到“设置”>“工具”，添加时间和自定义mcp服务器
• 4.5.成功添加工具后，返回主聊天窗口 您应该在聊天输入栏下看到两个工具。

5. 🎯 最终结果

现在，您应该能够从添加的自定义mcp服务器中查询信息。