代理增强检索生成系统

一个基于模型上下文协议(MCP)的代理增强检索生成系统,通过ChromaDB向量数据库和本地LLM(如Mistral/LLaMA)实现动态知识检索和答案生成。

  • by codedBySonu
  • Python
  • 本地部署
  • 1 星标
  • 更新于
在 GitHub 查看 codedBySonu/agentic-rag-mcp

使用说明

带MCP的代理RAG

一 代理检索增强生成(RAG)系统 使用 模型上下文协议(MCP), ChromaDB矢量数据库,以及 通过Ollama的当地LLM.

该项目演示了AI代理如何使用基于模块化工具的架构从文档中动态检索知识并生成可靠的答案。


🚀 特性

  • 基于代理的架构使用 主控程序
  • 语义文档检索 色度数据库
  • 本地LLM推理使用 奥拉马(米斯特拉尔/火焰)
  • 使用嵌入生成 句子转换器
  • 用于代理交互的模块化工具系统
  • 用于附加AI工具的可扩展框架

🧠 建筑

用户查询
↓
AI代理(MCP)
↓
工具调用
↓
ChromaDB矢量搜索
↓
检索相关文件
↓
LLM(通过Ollama)
↓
生成的答案


📂 项目结构

代理rag mcp │ ├── main.py ├── rag_agent.py ├── 需求.txt ├── mcp_gonfig.yaml │ ├── data/ │ └── sample_docs/ │ ├── 工具/ │ └── chromadb_tool.py │ ├── 矢量存储/ │ └── README.md

⚙️ 安装

1.克隆存储库

克隆https://github.com/yourusername/agentic-rag-mcp.git

cd代理rag mcp

2.创建虚拟环境

python-m venv.venv

激活环境

窗户: .venv\Scripts\activate

Mac/Linux: source.ven/bin/activate

3.安装依赖项

pip安装-r要求.txt

🤖 安装Ollama(本地LLM)

下载Ollama:

https://ollama.com

启动Ollama服务器:

奥拉玛发球

拉一个模型:

ollama 拉取 mistral

▶️ 运行代理

启动MCP代理服务器:

python main.py

服务器将在以下位置运行:

http://localhost:5000

🛠 技术栈

python
MCP(模型上下文协议)
奥拉玛
色度数据库
句子转换器
LangChain

🔮 未来改进

  • Streamlit聊天界面
  • PDF文档摄取
  • Web搜索工具集成
  • 对话记忆
  • 混合搜索(BM25+矢量)