AI聊天机器人

一个基于多进程架构的AI聊天机器人,支持实时流式响应,集成外部工具并通过Model Context Protocol (MCP)实现推理与执行分离。

  • by SDM002
  • Python
  • 本地部署
  • 1 星标
  • 更新于
在 GitHub 查看 SDM002/Agentic-AI-ChatBot-MCP

使用说明

代理AI聊天机器人MCP

设计并开发了一个Agent AI聊天机器人,该机器人使用多进程架构提供实时、令牌级的流式响应。 该系统利用LangGraph来管理代理状态和决策流,实现动态推理和工具选择。 FastAPI后端使用服务器发送事件(SSE)将响应流式传输到基于web的UI,确保低延迟的对话交互。 聊天机器人通过模型上下文协议(MCP)集成外部工具(天气、计算器),将推理与执行分离,以提高可扩展性和可靠性 该应用程序具有跨平台支持,可在Windows和macOS环境中无缝运行。

技术栈:Python 3.12、FastAPI、Uvicorn、服务器发送事件(SSE)、LangGraph、LangChain Core、Groq LLM(LLaMA-3.1)、模型上下文协议(MCP)、基于模式的工具路由、基于子流程的代理架构、uv环境管理和安全环境变量配置。