LLM聊天界面

一个基于LLM的聊天用户界面,支持多网关连接和生成式AI服务。

  • by hiwylee
  • Python
  • 本地部署
  • 更新于
在 GitHub 查看 hiwylee/dx-mcp-agent

使用说明

CHAT UI/ADW Vector Search连接信息和操作指南

聊天界面(OPEN-WEBUI)

相关流程

  • 打开webui (端口:8080)-LLM Chat UI
  • 网关#1 (端口:8088)-OCI Generative AI G/W
  • 网关#2 (端口:9000)-OCI Generative Agent G/W
  • mcpo&mcp (端口:9999)-MCP G/W and(9999)mcp server(8000)

进程启动方法

机动顺序

ADW → OPEN-WEBUI

OPEN-WEBUI启动顺序: [gateway #1, #2] → [mcpo & sqlcl mcp] → [open-webui]

1.网关#1启动

cd ~/OCI_GenAI_access_gateway
source .venv/bin/activate  # python env setup
cd app
nohup ./run.sh &
deactivate

2.网关#2启动

cd ~/agentsOCI-OpenAI-gateway
source .venv/bin/activate  # python env setup
nohup ./run.sh &
deactivate

3.MCPO&SQLCL MCP启动

cd ~/mcpo
source .venv/bin/activate  # python env setup
nohup mcpo --port 7000 --api-key "top-secret" -- sql -mcp &
deactivate

4.启动Open-WebUI

cd ~/open-webui/
source .venv/bin/activate  # python env setup
cd backend/
nohup ./start.sh &
deactivate

MCP服务器

cd ~/dx-mcp-agent
nohup  uv run mcp_invoice_holds.py  > mcp_invoice_hold.log 2>&1 &

nohup mcpo --port 9999 --api-key "top-secret" --server-type streamable-http -- http://127.0.0.1:8000/mcp   > mcpo_mcp_invoice_hold.log 2>&1 &

kill -9 $(lsof -i :9999 | awk 'NR>1 {print $2}')
kill -9 $(lsof -i :8000 | awk 'NR>1 {print $2}')
hot-reload enabled:

```bash
mcpo --port 9999 --api-key "top-secret" --config /home/opc/dx-mcp-agent/mcpo_config.json --hot-reload

大惊小怪

Free DNS设置

  • []维斯
  • []打开webui

SSL设置(必要时)

  • []打开webui