本地文档智能检索生成服务

一个高级的检索增强生成(RAG)服务器,允许您与本地PDF和文本文档进行私密对话,所有文档处理和嵌入生成均在本地完成。

  • by maryna2005
  • Python
  • 本地部署
  • 更新于
在 GitHub 查看 maryna2005/Local-Doc-Insight-RAG-MCP-Server-

使用说明

🚀 本地文档洞察RAG(MCP服务器)

高级检索增强生成(RAG)服务器,允许您私下与本地PDF和文本文档聊天。该项目是使用 模型上下文协议(MCP) 与人工智能工具无缝集成。

✨ 主要特点

  • 隐私第一: 所有文档处理和嵌入生成都在您的机器上本地进行。
  • 语义搜索: 用途 all-MiniLM-L6-v2 了解文本的实际含义,而不仅仅是关键字。
  • 快速索引: 由...驱动 FAISS (脸书人工智能相似性搜索),用于近乎即时的检索。
  • 硬件优化: 专门针对仅使用CPU的笔记本电脑(如联想Yoga)进行了调整,无需高端GPU即可运行。

🛠 克服技术挑战

在开发过程中,解决了几个关键的环境问题以确保稳定性:

  • 稳定运行时间: 从实验Python 3.14迁移到 Python 3.12.8 修理 metadata-generation-failed 安装包时出错。
  • DLL修复: 已解决 WinError 1114 (DLL初始化失败)通过正确配置基于CPU的执行环境。
  • 依赖关系管理: 修复了以下安装问题 sentence-transformers 和 torch 在Windows 11上。

📦 需求

  • python 3.12.x(推荐)
  • 图书馆: mcp, sentence-transformers, faiss-cpu, pypdf, numpy

🚀 快速开始

  1. 克隆存储库:
    git clone [https://github.com/YOUR_USERNAME/Local-Doc-Insight-RAG.git](https://github.com/YOUR_USERNAME/Local-Doc-Insight-RAG.git)
    cd Local-Doc-Insight-RAG
    

安装依赖项:

Bash python-m pip安装mcp句子转换器faiss cpu pypdf numpy 准备数据:将PDF或TXT文件放在数据/文件夹中。

运行服务器:

Bash python advanced_rag_server.py 通过MCP检查器连接:

Bash npx@modelcontextprotocol/检查器python advanced_rag_server.py 🛠 提供的工具 load_documents_from_folder(folder_path):扫描并索引指定目录中的所有文档。

ask_knowledge_base(问题):执行语义搜索,并从文档中返回最相关的块。

作为用于安全知识管理的强大本地AI解决方案而开发。