AI代理工具

一个基于LlamaIndex、Groq和FastMCP的AI代理,能够自动发现和调用MCP工具,适用于数据处理和自动化任务。

  • by slackeddoodler
  • Python
  • 本地部署
  • 更新于
在 GitHub 查看 slackeddoodler/Local-MCP_Client

使用说明

🛠️ MCP驱动代理(LlamaIndex+Groq+FastMCP)

构建一个AI代理,使用以下命令自动发现和调用MCP工具 Llama索引一 Groq主持法学硕士,并且重量轻 SQLite MCP服务器.


🚀 技术栈

  • Llama索引 --代理+工具编排
  • Groq --服务于OpenAI GPT-OSS 20B
  • FastMCP --构建SQLite MCP服务器
  • 照明AI --可选托管和开发

🔄 它是如何工作的(高水平流)

  1. 用户提交查询。
  2. 代理通过MCP客户端发现工具。
  3. 代理调用正确的工具(SQLite添加/获取)。
  4. 工具返回上下文→ 代理用基于工具的推理来回答。

📦 核心组件(简化项目步骤)

1.SQLite MCP服务器

最小的FastMCP服务器暴露:

  • add_data
  • fetch_data 用于演示目的,但代理可以连接到任何MCP服务器。

2.LLM设置

我们使用Groq托管模型(例如GPT-OSS 20B)为代理提供动力。

3.代理定义

LlamaIdex将MCP工具包装为本机工具,并配置一个系统提示,告诉代理在响应之前使用工具。

4.交互循环

传入的用户消息被传递给LlamaIndex FunctionAgent,后者:

  • 流工具调用
  • 使用共享上下文作为内存
  • 返回最终的上下文感知答案

5.初始化和运行

启动MCP客户端,加载工具,创建代理,并开始与之交互。


📁 项目结构

├── server.py                 # FastMCP SQLite server (add/fetch tools)
├── mcp_client.py             # Entry point to start the agent         
└── README.md                 # Project Description

🧰 安装

git clone https://github.com/slackeddoodler/Local-MCP_Client.git
cd Local-MCP_Client

pip install llama-index, llama-index-llms-groq, llama-index-tools-mcp, fastmcp, 

在中设置Groq API密钥 mcp_client.py:

api_key=your_key

▶️ 运行项目

1.启动MCP SQLite服务器

python server.py

2.启动代理

python mcp_client.py

代理将自动加载MCP工具并开始交互。

示例-

输入

  1. Add to the db: Cristiano Ronaldo whose age is 40 and is a football player
  2. fetch the data

输出