LLM定价查询机器人

一个基于MCP服务器的智能聊天机器人,用于抓取和查询各大LLM服务提供商的定价信息。

  • by Mohamed711
  • Python
  • 本地部署
  • 更新于
在 GitHub 查看 Mohamed711/AI_powererd_competitor_analyst_Udacity_Mcp_project

使用说明

带MCP服务器的LLM定价聊天机器人

项目概述

该项目是一个智能聊天机器人,可以抓取和分析来自不同提供商的LLM推理服务定价。它使用模型上下文协议(MCP)架构将Firecrawl的web抓取API与Claude AI集成在一起,将结构化定价数据存储在SQLite数据库中以进行高效查询。

主要特点

  • 网络爬取:使用Firecrawl API自动从主要LLM提供商中抓取定价信息
  • 智能数据管理:在抓取之前首先检查数据库,以避免重复的API调用
  • 结构化数据抽取:使用Claude AI提取定价信息并将其结构化到数据库中
  • 价格有限的API调用:实施4秒延迟以防止速率限制错误
  • 交互式CLI:基于聊天的界面,用于查询LLM定价信息
  • 多提供商支持:支持cloudrift、deepinfra、fireworks和groq定价来源

建筑

  • MCP 服务器 (starter_server.py):提供抓取网站和提取内容的工具
  • 客户端 (starter_client.py):协调Claude AI、MCP服务器和SQLite数据库之间的通信
  • 模型:Claude 3.5 Haiku,用于经济高效的结构化数据提取
  • 数据库:SQLite用于存储包含公司、型号和成本详细信息的定价计划

支持的LLM提供商

  • CloudRift: https://www.cloudrift.ai/inference
  • DeepInfra: https://deepinfra.com/pricing
  • 烟花: https://fireworks.ai/pricing#serverless-定价
  • 格罗克: https://groq.com/pricing

安装说明

  1. 用紫外线做一个真空吸尘器
  2. 将venv与pyproject.toml同步(uv sync)
  3. 在Anthropic和Firecrawl上制作API密钥
  4. 在中完成2次工具调用 starter_server.py
  5. 更改 server_config.json 指向您的服务器文件
  6. 完成中的任何部分 starter_client.py 上面写着“#complete”。
  7. 使用课程中教授的任何方法进行测试

示例用法

聊天机器人在抓取之前会智能地检查数据库。使用以下提示:

  • “云裂了多少钱(https://www.cloudrift.ai/inference)deepseek v3收费?"
  • “deepinfra多少钱(https://deepinfra.com/pricing)deepseek v3收费”
  • “比较cloudrift ai和deepinseek v3的成本”
  • 类型 show data 查看最近存储的定价信息
  • 类型 quit 退出

示例1:CloudRift AI定价查询

查询: “cloudrift ai对deepseek v3的收费是多少?”


示例2:DeepInfra定价查询

查询: “deepinseek v3的deepinfra收费是多少?”


示例3:定价比较

查询: “比较cloudrift ai和deepinseek v3的成本”


示例4:附加提供者测试


示例5:扩展测试

数据库模式

pricing_plans (
    id INTEGER PRIMARY KEY,
    company_name TEXT,
    plan_name TEXT,
    input_tokens REAL,
    output_tokens REAL,
    currency TEXT,
    billing_period TEXT,
    features TEXT (JSON),
    limitations TEXT,
    source_query TEXT,
    created_at DATETIME
)