本地LLM部署工具

一个基于Docker和Node.js的本地大型语言模型部署工具，支持通过Ollama运行自定义模型并提供Web界面。

by AlpETuna
Python
本地部署
更新于 2026.10.19

在 GitHub 查看 AlpETuna/MCP-Local-LLM

使用说明

MCP本地LLM

快速启动

确保安装了Docker（使用Compose v2）和Node.js。
复制 .env 并调整所需的任何变量（默认值指向主机上的Ollama，通过 http://host.docker.internal:11434；确保Ollama在那里运行，并拉动模型）。
运行初始化器以安装前端deps，构建后端映像（在内部安装Python需求），并启动堆栈：
```
./intialisation.sh
```
访问UI http://localhost:3000。后端API位于 http://localhost:8000.

如果使用其他型号或Ollama主机，请更新 MODEL 和 OLLAMA_BASE_URL 在 .env确保模型被拉入Olama（例如。， ollama pull gpt-oss:20b)在启动堆栈之前。