使用说明
模型上下文协议(MCP)聊天应用
这个项目是一个使用Python、FastAPI和Groq LLM构建的完全功能性的模型上下文协议(MCP)原型。它支持: 动态上下文创建 版本化对话存储 通过WebSockets实时流式传输助手响应 基于网页的聊天用户界面 API密钥的环境变量管理
特点/功能
动态上下文管理 每次聊天会话都会获得一个唯一的上下文ID。 上下文存储了完整的对话(用户消息+助手消息)。 上下文可以持久化存储在内存中(用于测试)或 Redis 中(用于生产环境)。 Groq LLM 集成 使用Groq API生成助手回复。 支持逐个令牌向客户端流式传输模拟数据。 WebSocket 流媒体 会话期间保持持久的WebSocket连接,以发送多条消息。 实时将令牌流传输到网页用户界面。 网页聊天界面 单页HTML + JavaScript用户界面。 支持发送消息、流式响应以及开启新聊天。 每次会话动态创建上下文。 在重新连接到某个上下文时,对话历史会自动加载。 环境变量 使用python-dotenv从.env文件加载API密钥(例如,Groq API密钥)。 在源代码中保密秘密信息。
