智能客户支持助手

基于MCP框架的智能客户支持助手

场景

构建一个客户支持系统，其中大型语言模型（LLM）与公司数据（工单、常见问题解答、用户资料）进行交互，并执行自动化操作，如关闭工单、发送回复或更新客户信息。

---

组件

资源（数据端点）

• 客户资料（姓名、订阅计划、支持历史）
• 工单元数据（开放/关闭状态、优先级、分配给的代理）
• 常见问题解答数据库（问题-答案对）

工具（操作）

• 为支持代理总结一张未解决的工单
• 建议对工单作出回复
• 更新工单状态或将其分配给团队成员
• 为客户的查询检索相关的常见问题解答

提示/大型语言模型指令

• “分析这张工单，并提出优先级建议。”
• “鉴于该客户的过往情况，建议使用现有工具来提供解决方案。”
• “生成一个礼貌的回复，总结解决步骤。”

---

基准点

1. 操作延迟

   • 测量每个框架允许大型语言模型（LLM）获取工单数据、总结并生成回复的速度。

2. 负载下的吞吐量

   • 模拟多个同时的客户请求，以查看哪个框架在处理并发的大型语言模型（LLM）交互时表现更好。

3. 集成复杂性

   • FastMCP： 明确界定资源、工具和提示；更具灵活性，但设置也更复杂。
   • FastAPI-MCP： 利用现有的FastAPI接口处理工单和常见问题；实现更快集成。

4. 安全与权限

   • 测试访问控制，以确保只有经过授权的大语言模型（LLM）查询才能更新工单。

5. 错误处理与日志记录

   • 检查每个框架在大型语言模型（LLM）请求无法完成或外部API失败时如何处理故障。