AI聊天工具

一个基于MCP协议的轻量级AI聊天工具,集成了Groq AI,支持Llama-3.3-70B模型,并能自动调用外部工具(如计算器)。

  • by snikitha393s
  • Python
  • 本地部署
  • 更新于
在 GitHub 查看 bharga264/MCP1

使用说明

MCP AI与Groq

一个轻量级的人工智能聊天工具 模型上下文协议(MCP), 溪流,以及 希腊 AI与Llama-3.3-70B聊天,使模型能够通过MCP服务器自动使用计算器等外部工具。


🚀 什么是MCP?

模型上下文协议(MCP) 是一个开放标准,允许人工智能模型与外部工具和服务安全地交互。

无MCP

User: What is 15 * 8?
AI: Around 100–130 maybe

使用MCP

User: What is 15 * 8?
AI: [Uses calculator tool]
AI: 15 * 8 = 120

MCP将AI从猜测转变为 准确、可扩展、可生产 工具感知系统。


✨ 特性

  • 🤖 Groq AI集成 -Llama-3.3-70B的超快速推理
  • 🔧 MCP客户端和服务器 -通过MCP协议实现无缝工具集成
  • 🎯 智能刀具选择 -模型自动决定何时使用工具
  • 💬 流线型仪表板 -干净、互动的聊天界面
  • 📝 JSON配置 -简单的即插即用MCP服务器设置
  • 🔐 安全 -基于环境的API密钥管理

📋 先决条件

  • Python 3.8或更高版本
  • Groq API账户
  • pip包管理器

🔑 Groq API设置

1.创建Groq帐户

访问 https://console.groq.com/ 并使用谷歌、GitHub或电子邮件注册。

2.生成API密钥

  1. 导航到 API密钥 在仪表板中
  2. 点击 创建API密钥
  3. 复制密钥(只显示一次)

密钥格式示例:

gsk_xxxxxxxxxxxxxxxxxxxxx

3.配置环境变量

创建一个 .env 项目根目录中的文件:

GROQ_API_KEY=gsk_YOUR_API_KEY_HERE

⚠️ 重要提示: 永不承诺 .env 版本控制。添加到 .gitignore.


📦 安装

  1. 克隆存储库
git clone https://github.com/yourusername/mcp-ai-dashboard.git
cd mcp-ai-dashboard
  1. 安装依赖项
pip install streamlit langchain-groq python-dotenv langchain-core langchainhub mcp

或者使用虚拟环境(推荐):

python -m venv venv
source venv/bin/activate  # On Windows: venv\Scripts\activate
pip install -r requirements.txt

▶️ 运行应用程序

streamlit run MCP/app.py

仪表板将在以下时间自动打开:

http://localhost:8501

🔧 MCP服务器配置

MCP服务器是使用JSON配置文件定义的。

示例 server.json

{
  "mcpServers": {
    "calculator": {
      "command": "python",
      "args": ["calculator_server.py"],
      "enabled": true,
      "description": "Math operations"
    }
  }
}

正在加载MCP服务器

  1. 打开Streamlit仪表板
  2. 导航到 侧边栏
  3. 上传您的 server.json 文件
  4. 点击 初始化MCP服务器

您应该看到:

✅ MCP initialized
🔧 Tools available: calculator

💬 示例提示

在聊天界面中尝试以下提示:

What is 45 + 55?
Calculate (120 / 4) + 30
What is 25 * 4? Now double that result

AI将在需要时自动使用计算器工具并提供准确的结果。


🏗️ 项目结构

MCP_STREAMLIT/
├── .env                      # Environment variables (create this)
├── .gitignore               # Git ignore file
├── README.md                # This file
├── requirements.txt         # Python dependencies
└── MCP/
    ├── app.py              # Streamlit dashboard
    ├── MCP.py              # MCP client implementation
    ├── calculator_server.py # Calculator MCP server
    └── server.json         # MCP server configuration

🛠️ 技术栈


📚 文档和资源


🤝 贡献

欢迎投稿!请随时提交拉取请求。

  1. 分叉存储库
  2. 创建功能分支(git checkout -b feature/AmazingFeature)
  3. 提交您的更改(git commit -m 'Add some AmazingFeature')
  4. 推到分支(git push origin feature/AmazingFeature)
  5. 打开拉取请求

📄 许可证

此项目根据MIT许可证获得许可-请参阅 许可证 文件以获取详细信息。


🙏 致谢

  • Groq提供快速的AI推理
  • 模型上下文协议的拟人化
  • Streamlit为令人惊叹的框架
  • 用于AI编排工具的LangChain

📧 联系

如有疑问或支持,请在GitHub存储库中打开问题。


⭐ 如果你觉得这个项目有用,请考虑给它一颗星!