LLM定价模型

Exostream Oracle是一个将LLM API定价建模为金融工具的平台,提供实时价格、成本预测和效率比较功能。

  • by exostream-ai
  • TypeScript
  • 本地部署
  • 更新于
在 GitHub 查看 exostream-ai/oracle

使用说明

Exostream Oracle

LLM推理成本的定价模型,将API定价视为金融工具。

Exostream跟踪了6家供应商的37个模型,并计算了现货价格、希腊(theta、sigma)、远期曲线和成本效益指标。模型是开放的——数学、数据和方法都在这里。

使用API: https://api.exostream.ai 仪表板: exostream.cn


定价模型

每一个LLM API调用都有一个由提供程序的逐个定价确定的成本。Exostream将其建模为金融工具:

                                ┌─────────────────────────────┐
                                │       SPOT PRICE (β)        │
                                │  $/M output tokens (sync)   │
                                └─────────────┬───────────────┘
                                              │
                    ┌─────────────────────────┼─────────────────────────┐
                    │                         │                         │
          ┌─────────▼─────────┐    ┌──────────▼──────────┐   ┌────────▼────────┐
          │    INPUT RATIO    │    │    CACHE RATIO      │   │  THINK RATIO    │
          │    r_in = p_in    │    │  r_cache = p_cache  │   │ r_think = p_think│
          │           ─────   │    │            ──────   │   │           ───── │
          │           p_out   │    │            p_out    │   │           p_out │
          └─────────┬─────────┘    └──────────┬──────────┘   └────────┬────────┘
                    │                         │                       │
                    └─────────────┬───────────┘                       │
                                  │                                   │
                    ┌─────────────▼─────────────┐                     │
                    │  EFFECTIVE INPUT RATE      │                     │
                    │                           │                     │
                    │  r_eff = r_in(1-η) +      │                     │
                    │         r_cache·η          │                     │
                    └─────────────┬─────────────┘                     │
                                  │                                   │
                    ┌─────────────▼───────────────────────────────────▼┐
                    │                TASK COST                         │
                    │                                                 │
                    │  S = β × [n_out + n_in·r_eff + n_think·r_think] │
                    │      × 10⁻⁶                                    │
                    └─────────────┬───────────────────────────────────┘
                                  │
              ┌───────────────────┼───────────────────┐
              │                   │                   │
    ┌─────────▼─────────┐ ┌──────▼──────┐  ┌─────────▼─────────┐
    │   KAPPA (κ)       │ │  THETA (θ)  │  │   SIGMA (σ)       │
    │                   │ │             │  │                   │
    │  tokens per cent  │ │ price drift │  │ price volatility  │
    │  κ = 10⁶/β       │ │  (annual)   │  │  (monthly)        │
    └───────────────────┘ └──────┬──────┘  └───────────────────┘
                                 │
                    ┌────────────▼────────────┐
                    │    FORWARD PRICE        │
                    │                         │
                    │  β_fwd = β · e^(−θ·t)  │
                    │                         │
                    │  "What will this model  │
                    │   cost in 3 months?"    │
                    └─────────────────────────┘

关键见解: LLM价格随时间持续下跌。Theta从历史数据中捕捉到这种衰减率,让您预测未来的成本。


API

获取现货价格

curl https://api.exostream.ai/v1/spots
{
  "data": [
    {
      "ticker": "OPUS-4.6",
      "display_name": "Claude Opus 4.6",
      "provider": "Anthropic",
      "beta_sync": 25,
      "beta_batch": 12.5,
      "context_window": 1000000
    },
    {
      "ticker": "GPT-4.1",
      "display_name": "GPT-4.1",
      "provider": "OpenAI",
      "beta_sync": 8,
      "beta_batch": 4,
      "context_window": 1000000
    }
  ],
  "oracle_timestamp": "2026-02-13T21:54:05.561Z"
}

为任务定价

curl -X POST https://api.exostream.ai/v1/price \
  -H "Content-Type: application/json" \
  -d '{"model": "SONNET-4", "n_in": 30000, "n_out": 800, "eta": 0.6}'
{
  "data": {
    "model": "SONNET-4",
    "spot_cost": 0.0534,
    "kappa": 4.45,
    "r_in_eff": 0.092,
    "cache_value": {
      "cost_without_cache": 0.102,
      "savings": 0.0486,
      "savings_pct": 47.65
    }
  }
}

比较型号

curl -X POST https://api.exostream.ai/v1/compare \
  -H "Content-Type: application/json" \
  -d '{"models": ["SONNET-4", "GPT-4.1", "GEMINI-2.5-PRO"], "n_in": 30000, "n_out": 800, "eta": 0.6}'

返回按成本排序的模型,最便宜的先到。

得到希腊人

curl https://api.exostream.ai/v1/greeks

返回每个模型的theta(价格漂移)、sigma(波动性)和所有定价比率。

获得前进曲线

curl https://api.exostream.ai/v1/forwards/GPT-4.1

根据θ衰减,返回30、90、180和365天的预计价格。


端点

方法 端点 描述
得到 /v1/spots 所有型号的现货价格
得到 /v1/greeks 所有模型的希腊语(θ、σ、比率)
得到 /v1/forwards/:ticker 模型的正向曲线
职位 /v1/price 为任务定价
职位 /v1/compare 比较任务的模型

基本URL: https://api.exostream.ai

无需身份验证。速率限制为每个IP每分钟100个请求。


跟踪的模型

提供商 型号 现货范围($/M输出)
拟人 作品4.6、作品4.5、作品4.1、作品4、十四行诗4.5、十四行诗4、俳句4.5、俳句3.5、俳句3+3遗产 1.25美元-75美元
OpenAI GPT-4.1、GPT-4.1迷你版、GPT-4.1nano、GPT-4o、GPT-4迷你版、o3、o3迷你版、o4迷你版、GPS-5、GPT-5.1、GPT-5.2、GPT-5迷你版 0.40美元至14美元
谷歌 双子座2.5 Pro、双子座2.5 Flash、双子座2.0 Flash、双子座3 Pro、双子座3 Flash 0.40美元-12美元
xAI Grok 4,Grok 4快速,Grok 3,Grok 3-mini,Grok 4.1快速 0.50-15美元
西北风 西北风大号 6.00美元
DeepSeek DeepSeek V3,DeepSeek R1 0.42美元

总共37个模型。批量定价适用于大多数(通常为同步的50%)。


概念

符号 名称 含义
β Beta(现货价格) 每百万输出代币的当前价格
克 Kappa 代币百分比——越高越便宜
θ Theta 根据历史数据计算的年价格漂移率
σ Sigma 月度价格波动
r_in 投入比 投入价格占产出价格的比例
r_cache 缓存比率 缓存的输入价格占输出价格的比例
或 Eta 缓存命中率(0=无缓存,1=满缓存)
β_fwd 远期价格 预计未来价格:β·e^(−θ·t)

Theta的工作原理

Theta是使用指数加权对数回报从实际价格历史中计算出来的:

  1. 收集模型系列的历史价格(例如GPT-4→ GPT-4涡轮增压器→ GPT-4o→ GPT-4.1)
  2. 计算连续价格观测值之间的对数回报
  3. 应用指数加权(λ=0.85)——最近的变化更重要
  4. 当历史较短时,通过贝叶斯加权与家族先验相结合

示例:GPT-4从60美元/M上涨→ $30 → $15 → $10 → $8 超过18个月。这意味着θ≈0.078,这意味着该模型预测该家庭的年价格下降约7.8%。


MCP服务器

对于Claude Desktop和其他MCP客户:

{
  "mcpServers": {
    "exostream": {
      "command": "npx",
      "args": ["tsx", "path/to/oracle/mcp/src/index.ts"]
    }
  }
}

工具: get_spot_prices, price_task, compare_models, get_forward_curve


许可证

麻省理工学院——见 许可证.

实时仪表板位于 exostream.cn.