令牌审计服务

MCP Token Auditor是一个生产级的多代理代理智能层,用于高吞吐量的MCP(模型上下文协议)工具消耗的可观察性。它作为MCP客户端和服务器之间的透明观察者,提供确定性令牌计数、实时警报和静态分析以优化工具。

  • by Ismail-2001
  • Python
  • 本地部署
  • 5 星标
  • 更新于
在 GitHub 查看 Ismail-2001/mcp-token-auditor

使用说明

🔎 MCP令牌审计员:实时性能智能

MCP令牌审计员 是一个生产级的多代理代理智能层,专为MCP(模型上下文协议)工具消费的高通量可观测性而设计。它充当MCP客户端和服务器之间的透明观察者,为工具优化提供确定性令牌计数、实时警报和静态分析。


🏗️ 系统架构

graph TD
    Client[MCP Client] <--> ProxyAgent[Agent 2: Proxy Interceptor]
    ProxyAgent <--> Server[MCP Server]
    
    ProxyAgent -- "Ingest (Async Task)" --> Orchestrator[Agent 1: Orchestrator]
    
    subgraph "Intelligence Plane"
        Orchestrator --> Audit[Agent 3: Token Audit]
        Audit --> Alert[Agent 4: Alert Monitor]
        Audit --> Advisor[Agent 5: Compression Advisor]
        
        Audit[(SQLite Audit Log)]
        Advisor -- "Strategy" --> SharedSchema[Shared Schema Insights]
    end
    
    subgraph "Observability Plane"
        Audit -- "Stream" --> Dashboard[Agent 6: Dashboard Broadcast]
        Dashboard -- "WebSockets" --> UI[React/Web Dashboard]
    end

🚀 主要特点

  • ⚡ 零延迟代理: 使用非阻塞后台任务的解耦审计逻辑可确保 <5ms 关键路径上的开销。
  • 🔢 确定性计数: 用途 tiktoken (o200k_base),具有MD5键控缓存,用于亚毫秒令牌计数。
  • 🚨 高级警报: 实时执行 CALL_SPIKE, SERVER_DRIFT以及上下文窗口阈值。
  • 📉 压缩顾问: 静态分析启发式(Cloudflare代码模式、冗余、重复数据删除),可将上下文窗口膨胀减少30%。
  • 📊 直播: WebSocket驱动的事件提要,用于实时仪表板水合。

🛠️ 入门指南

先决条件

  • Python 3.10+
  • Docker和Docker Compose(可选)

安装

git clone https://github.com/Ismail-2001/mcp-token-auditor.git
cd mcp-token-auditor
pip install -r requirements.txt

运行审计员

# Set environment variables
export MCP_AUDITOR_API_KEY="your-secure-key"

# Start the application
python -m src.main

📊 API终点

类别 端点 方法 描述
摄入 /api/v1/audit/event POST 摄取原始拦截数据
会话 /api/v1/session/summary GET 获取会话级令牌汇总
指标 /api/v1/metrics GET 系统健康和代理指标
流 /ws/dashboard WS 实时WebSocket事件馈送

🛡️ 安全

该系统支持:

  • FastAPI本机身份验证: 所有REST端点的承载令牌身份验证。
  • 速率限制: 可配置的请求窗口,以防止审计层上的DoS。

📜 许可证

此项目根据MIT许可证获得许可-请参阅 许可证 文件以获取详细信息。


建于❤️ MCP生态系统