检索增强生成系统

一个基于Docling文档解析和Qdrant向量存储的检索增强生成(RAG)系统,支持通过MCP协议向LLM提供工具。

  • by ConferInc
  • Python
  • 本地部署
  • 更新于
在 GitHub 查看 ConferInc/Docling-MCP-Server-Shrikanth

使用说明

RAG与文档和MCP

该存储库包含一个检索增强生成(RAG)系统,该系统使用 文档语言学 对于文档摄取, Qdrant 用于矢量存储,旨在作为 模型上下文协议(MCP) 服务器。

特性

  • 文件摄入:使用Docling解析PDF和其他文档格式。
  • 向量搜索:将块嵌入并存储在本地Qdrant实例中。
  • RAG 服务:提供查询知识库的工具。
  • MCP兼容:旨在通过MCP将工具暴露给LLM。

先决条件

  • Python 3.10+
  • Docker(适用于Qdrant)

安装

  1. 克隆存储库

    git clone <your-repo-url>
    cd rag-docling-mcp
    
  2. 创建虚拟环境

    python -m venv .venv
    source .venv/bin/activate  # On Windows: .venv\Scripts\activate
    
  3. 安装依赖项

    pip install -r requirements.txt
    
  4. 设置环境变量 复制示例环境文件并配置密钥:

    cp .env.example .env
    

    编辑 .env 并添加您的 LITELLM_API_KEY.

运行系统

1.启动Qdrant(矢量数据库)

docker run -p 6333:6333 -p 6334:6334 -v "$(pwd)/qdrant_storage:/qdrant/storage" qdrant/qdrant

2.运行笔记本测试仪

打开 tester.ipynb 在VS Code或Jupyter Lab中以交互方式摄取文档和测试查询。

3.(可选)作为MCP服务器运行

(根据以下内容添加说明 src/server.py 实施)