语义搜索助手

企业级AI语义搜索工具,结合实时网络集成,为LiveKit文档提供快速准确的搜索服务。

  • by THENABILMAN
  • Python
  • 本地部署
  • 更新于
在 GitHub 查看 THENABILMAN/THENABILMAN_LiveKit_MCP_Assistant

使用说明

💬 LiveKit RAG助手v2.0

企业级AI语义搜索+LiveKit文档的实时web集成

🎯 特性

  • 双重搜索:松果文档(3000+矢量)+Tavily实时网络
  • 标准MCP:具有模型上下文协议的异步语言链
  • 超快的:Groq LLM(骆驼-3.3-70b)的5秒以下反应
  • 高级用户界面:具有60多个动画的Glassmorphism设计
  • 消息来源:每个答案都完全透明

🚀 快速开始

# Setup
conda create -n langmcp python=3.12
conda activate langmcp
pip install -r requirements.txt

# Configure .env
GROQ_API_KEY=your_key
TAVILY_API_KEY=your_key
PINECONE_API_KEY=your_key
PINECONE_INDEX_NAME=livekit-docs

# Terminal 1: Start MCP Server
python mcp_server_standard.py

# Terminal 2: Start UI
streamlit run app.py

应用程序打开时间 http://localhost:8501

🏗️ 建筑

Streamlit (app.py) → MCP Server → Dual Search:
├─ Pinecone: Semantic search on embeddings (384-dim)
└─ Tavily: Real-time web results
    ↓
Groq LLM (2048 tokens, temp 0.3) → Response + Sources

🔧 技术栈

层 技术 目的
前端 流光 高级玻璃形态UI
后端 MCP标准 异步子流程
LLM Groq API 超高速推理
嵌入 拥抱脸 全MiniLM-L6-v2(384昏暗)
矢量数据库 松果 无服务器相似性搜索
网络搜索 Tavily 实时互联网结果

📚 用法

  1. 选择模式: 📚 文档 或 � Web
  2. 自然地问:“如何设置LiveKit?”
  3. 立即获得答案📄 来源
  4. 复制消息或从历史记录中重新询问

⚡ 演出

  • 第一次查询:~15-20s(模型加载)
  • 缓存查询:2-5s
  • 搜索延迟:<500ms

🛠️ 配置

GROQ_API_KEY=gsk_***
TAVILY_API_KEY=tvly_***
PINECONE_API_KEY=***
PINECONE_INDEX_NAME=livekit-docs

🔄 填充文档

python ingest_docs_quick.py  # Creates 3,000+ vector chunks

📊 文件

  • app.py -流线型UI,高级设计
  • mcp_server_standard.py -带工具的MCP服务器
  • ingest_docs_quick.py -文档摄取
  • requirements.txt -依赖关系
  • .env -API密钥

🚨 故障排除

问题 解决方案
没有结果 尝试网络模式或其他关键字
未找到MCP 在终端1中启动MCP_server_standard.py
首次响应缓慢 正常(15-20s)-模型初始化一次
API错误 验证.env文件中的所有密钥

� 特性

✅ 实时聊天,60多个动画 ✅ 语义+关键字混合搜索 ✅ 复制到剪贴板以保存邮件 ✅ 最近的查询建议 ✅ 系统状态仪表板 ✅ 聊天记录持久化 ✅ 查询验证+错误处理


版本: 2.0 | 状态: ✅ 生产就绪| 创建:2025年11月

👨‍💻 由 @德纳比曼 | � 开源 | ❤️ 面向开发者