使用说明
RAG与文档和MCP
该存储库包含一个检索增强生成(RAG)系统,该系统使用 文档语言学 对于文档摄取, Qdrant 用于矢量存储,旨在作为 模型上下文协议(MCP) 服务器。
特性
- 文件摄入:使用Docling解析PDF和其他文档格式。
- 向量搜索:将块嵌入并存储在本地Qdrant实例中。
- RAG 服务:提供查询知识库的工具。
- MCP兼容:旨在通过MCP将工具暴露给LLM。
先决条件
- Python 3.10+
- Docker(适用于Qdrant)
安装
-
克隆存储库
git clone <your-repo-url> cd rag-docling-mcp -
创建虚拟环境
python -m venv .venv source .venv/bin/activate # On Windows: .venv\Scripts\activate -
安装依赖项
pip install -r requirements.txt -
设置环境变量 复制示例环境文件并配置密钥:
cp .env.example .env编辑
.env并添加您的LITELLM_API_KEY.
运行系统
1.启动Qdrant(矢量数据库)
docker run -p 6333:6333 -p 6334:6334 -v "$(pwd)/qdrant_storage:/qdrant/storage" qdrant/qdrant
2.运行笔记本测试仪
打开 tester.ipynb 在VS Code或Jupyter Lab中以交互方式摄取文档和测试查询。
3.(可选)作为MCP服务器运行
(根据以下内容添加说明 src/server.py 实施)
