AI导哈

聊天机器人集成服务

提供基于Docker的Letta聊天机器人集成服务，支持本地Ollama模型和MCP服务器集成，适用于AI助手开发和研究场景。

  • by vicpeacock
  • TypeScript
  • 本地部署
  • 2 星标
  • 更新于
在 GitHub 查看 vicpeacock/letta-chatbot-web

使用说明

Letta聊天机器人与Ollama和MCP集成

该项目提供了一个完整的基于Docker的设置，用于运行具有本地Ollama模型和MCP（模型上下文协议）服务器集成的Letta聊天机器人。

🚀 快速开始

先决条件

  • 启用MCP工具包的Docker桌面
  • Ollama在您的主机上运行
  • Docker Compose

开始一切

# Start in production mode
./start-docker.sh

# Or start in development mode (with hot reloading)
./start-docker.sh dev

🐳 建筑

┌─────────────────┐    ┌──────────────────┐    ┌─────────────────┐
│   Letta ADE     │    │   Docker MCP     │    │   MCP Servers   │
│   (Container)   │◄──►│   Gateway        │◄──►│   (Containers)  │
│   Port: 8283    │    │   Port: 8080     │    │   - Wikipedia   │
└─────────────────┘    └──────────────────┘    │   - Google Maps │
         ▲                                      │   - Playwright  │
         │                                      │   - Paper Search│
         ▼                                      └─────────────────┘
┌─────────────────┐    
│   Chatbot UI    │    
│   (Container)   │    
│   Port: 3002    │    
└─────────────────┘    
         ▲              
         │              
         ▼              
┌─────────────────┐    
│   Ollama        │    
│   (Host)        │    
│   Port: 11434   │    
└─────────────────┘

📋 服务

1.Letta服务器（容器化）

  • 图像: letta/letta:latest
  • 端口: 8283:8283
  • 特性:
    • 通过以下方式连接到主机Ollama host.docker.internal:11434
    • 支持Docker模型运行器端点
    • 用于网络搜索的Exa API集成

2.聊天机器人UI（容器化）

  • 构建：Next.js应用程序
  • 端口: 3001:3000
  • 特性:
    • 基于React的现代聊天界面
    • 代理创建和管理
    • 用户会话管理

3.Docker MCP网关（主机）

  • 命令: docker mcp gateway run --port 8080 --transport streaming
  • 端口: 8080
  • 特性:
    • 提供63个MCP工具
    • 实时通信的流传输
    • 访问谷歌地图、维基百科、剧作家和论文搜索

4.Ollama（主持人）

  • 端口: 11434
  • 模型:
    • LLM gpt-oss:20b
    • 嵌入： nomic-embed-text

🔧 配置

环境变量

📖 看 设置.md 有关详细的设置说明

环境设置

  1. 复制环境模板文件：

    cp .env.template .env
cp .env.docker.template .env.docker

  2. 编辑 .env.docker 使用您的实际API密钥：

    # Letta Server Configuration
LETTA_API_KEY=your-letta-api-key-here
OLLAMA_BASE_URL=http://host.docker.internal:11434
MODEL_RUNNER_ENDPOINT=http://model-runner.docker.internal/engines/v1
EXA_API_KEY=your-exa-api-key-here  # Optional for web search

# Chatbot UI Configuration
LETTA_BASE_URL=http://letta-server:8283
USE_COOKIE_BASED_AUTHENTICATION=true
NEXT_PUBLIC_CREATE_AGENTS_FROM_UI=true

# MCP Gateway Configuration (Optional)
GOOGLE_MAPS_API_KEY=your-google-maps-api-key-here
GOOGLE_MAPS_CX=your-google-maps-cx-here

注： 永不承诺 .env 或 .env.docker 文件到版本控制。他们已经进去了 .gitignore.

代理配置

默认代理设置(letta-chatbot-web/default-agent.json)

{
  "DEFAULT_MEMORY_BLOCKS": [
    {
      "label": "human",
      "value": "The human's name is [Your Name]"
    },
    {
      "label": "persona",
      "value": "You are a helpful AI assistant with access to web search and memory tools. You can help with research, answer questions, and remember information across conversations."
    }
  ],
  "DEFAULT_LLM": "ollama/gpt-oss:20b",
  "DEFAULT_EMBEDDING": "ollama/nomic-embed-text"
}

🌐 接入点

所有服务运行后，您可以访问：

  • Letta ADE: http://localhost:8283
  • 聊天机器人用户界面: http://localhost:3001
  • MCP网关: http://localhost:8080/mcp
  • 奥拉玛: http://localhost:11434

🔌 MCP集成

可用MCP工具（共63个）

  • 谷歌地图：8个定位服务工具
  • 剧作家：21个网络自动化工具
  • 维基百科：11个工具+9个资源模板
  • 论文搜索23种学术研究工具

将MCP网关连接到Letta ADE

  1. Letta ADE开放时间：http://localhost:8283
  2. 转到MCP服务器配置
  3. 使用以下命令添加新服务器：
    • 服务器类型: Streamable HTTP
    • 服务器名称: docker_mcp_gateway
    • 服务器URL: http://host.docker.internal:8080/mcp

🛠️ 发展

发展模式

./start-docker.sh dev

这将以热重新加载的方式启动处于开发模式的聊天机器人。

查看日志

# Production mode
docker-compose logs -f

# Development mode
docker-compose -f docker-compose.dev.yml logs -f

停止服务

# Production mode
docker-compose down --volumes --remove-orphans

# Development mode
docker-compose -f docker-compose.dev.yml down --volumes --remove-orphans

📁 项目结构

├── docker-compose.yml              # Production Docker Compose
├── docker-compose.dev.yml          # Development Docker Compose
├── start-docker.sh                 # Startup script
├── config.yaml                     # MCP Gateway configuration
├── registry.yaml                   # MCP server registry
├── tools.yaml                      # MCP tools configuration
├── letta-chatbot-web/              # Next.js chatbot application
│   ├── Dockerfile                  # Production Dockerfile
│   ├── Dockerfile.dev              # Development Dockerfile
│   ├── default-agent.json          # Default agent configuration
│   ├── .env.local                  # Environment variables
│   └── src/                        # Source code
└── README.md                       # This file

🚨 故障排除

常见问题

  1. 端口冲突

    • 确保端口3002、8080、8283和11434可用
    • 使用 lsof -i :<port> 检查端口使用情况

  2. Ollama连接

    • 验证Ollama是否在主机上运行： curl http://localhost:11434/api/tags
    • 检查模型是否已加载： ollama list

  3. MCP网关连接

    • 确保MCP网关正在运行： docker mcp gateway run --port 8080 --transport streaming
    • 测试连接： curl http://localhost:8080/mcp

  4. Docker网络

    • 使用 host.docker.internal 用于容器到主机的通信
    • 验证Docker桌面网络是否已启用

重置所有内容

# Stop and remove all containers, networks, and volumes
docker-compose down --volumes --remove-orphans
docker-compose -f docker-compose.dev.yml down --volumes --remove-orphans

# Remove any orphaned containers
docker container prune -f
docker network prune -f
docker volume prune -f

🔄 更新

更新Letta

docker-compose pull letta-server
docker-compose up -d letta-server

更新聊天机器人

# Development
docker-compose -f docker-compose.dev.yml build chatbot
docker-compose -f docker-compose.dev.yml up -d chatbot

# Production
docker-compose build chatbot
docker-compose up -d chatbot

📚 额外资源

🤝 贡献

  1. 分叉存储库
  2. 创建要素分支
  3. 进行更改
  4. 测试开发和生产模式
  5. 提交拉取请求

📄 许可证

该项目根据MIT许可证获得许可。

相关 MCP