使用说明
Exostream Oracle
LLM推理成本的定价模型,将API定价视为金融工具。
Exostream跟踪了6家供应商的37个模型,并计算了现货价格、希腊(theta、sigma)、远期曲线和成本效益指标。模型是开放的——数学、数据和方法都在这里。
使用API: https://api.exostream.ai
仪表板: exostream.cn
定价模型
每一个LLM API调用都有一个由提供程序的逐个定价确定的成本。Exostream将其建模为金融工具:
┌─────────────────────────────┐
│ SPOT PRICE (β) │
│ $/M output tokens (sync) │
└─────────────┬───────────────┘
│
┌─────────────────────────┼─────────────────────────┐
│ │ │
┌─────────▼─────────┐ ┌──────────▼──────────┐ ┌────────▼────────┐
│ INPUT RATIO │ │ CACHE RATIO │ │ THINK RATIO │
│ r_in = p_in │ │ r_cache = p_cache │ │ r_think = p_think│
│ ───── │ │ ────── │ │ ───── │
│ p_out │ │ p_out │ │ p_out │
└─────────┬─────────┘ └──────────┬──────────┘ └────────┬────────┘
│ │ │
└─────────────┬───────────┘ │
│ │
┌─────────────▼─────────────┐ │
│ EFFECTIVE INPUT RATE │ │
│ │ │
│ r_eff = r_in(1-η) + │ │
│ r_cache·η │ │
└─────────────┬─────────────┘ │
│ │
┌─────────────▼───────────────────────────────────▼┐
│ TASK COST │
│ │
│ S = β × [n_out + n_in·r_eff + n_think·r_think] │
│ × 10⁻⁶ │
└─────────────┬───────────────────────────────────┘
│
┌───────────────────┼───────────────────┐
│ │ │
┌─────────▼─────────┐ ┌──────▼──────┐ ┌─────────▼─────────┐
│ KAPPA (κ) │ │ THETA (θ) │ │ SIGMA (σ) │
│ │ │ │ │ │
│ tokens per cent │ │ price drift │ │ price volatility │
│ κ = 10⁶/β │ │ (annual) │ │ (monthly) │
└───────────────────┘ └──────┬──────┘ └───────────────────┘
│
┌────────────▼────────────┐
│ FORWARD PRICE │
│ │
│ β_fwd = β · e^(−θ·t) │
│ │
│ "What will this model │
│ cost in 3 months?" │
└─────────────────────────┘
关键见解: LLM价格随时间持续下跌。Theta从历史数据中捕捉到这种衰减率,让您预测未来的成本。
API
获取现货价格
curl https://api.exostream.ai/v1/spots
{
"data": [
{
"ticker": "OPUS-4.6",
"display_name": "Claude Opus 4.6",
"provider": "Anthropic",
"beta_sync": 25,
"beta_batch": 12.5,
"context_window": 1000000
},
{
"ticker": "GPT-4.1",
"display_name": "GPT-4.1",
"provider": "OpenAI",
"beta_sync": 8,
"beta_batch": 4,
"context_window": 1000000
}
],
"oracle_timestamp": "2026-02-13T21:54:05.561Z"
}
为任务定价
curl -X POST https://api.exostream.ai/v1/price \
-H "Content-Type: application/json" \
-d '{"model": "SONNET-4", "n_in": 30000, "n_out": 800, "eta": 0.6}'
{
"data": {
"model": "SONNET-4",
"spot_cost": 0.0534,
"kappa": 4.45,
"r_in_eff": 0.092,
"cache_value": {
"cost_without_cache": 0.102,
"savings": 0.0486,
"savings_pct": 47.65
}
}
}
比较型号
curl -X POST https://api.exostream.ai/v1/compare \
-H "Content-Type: application/json" \
-d '{"models": ["SONNET-4", "GPT-4.1", "GEMINI-2.5-PRO"], "n_in": 30000, "n_out": 800, "eta": 0.6}'
返回按成本排序的模型,最便宜的先到。
得到希腊人
curl https://api.exostream.ai/v1/greeks
返回每个模型的theta(价格漂移)、sigma(波动性)和所有定价比率。
获得前进曲线
curl https://api.exostream.ai/v1/forwards/GPT-4.1
根据θ衰减,返回30、90、180和365天的预计价格。
端点
| 方法 | 端点 | 描述 |
|---|---|---|
| 得到 | /v1/spots |
所有型号的现货价格 |
| 得到 | /v1/greeks |
所有模型的希腊语(θ、σ、比率) |
| 得到 | /v1/forwards/:ticker |
模型的正向曲线 |
| 职位 | /v1/price |
为任务定价 |
| 职位 | /v1/compare |
比较任务的模型 |
基本URL: https://api.exostream.ai
无需身份验证。速率限制为每个IP每分钟100个请求。
跟踪的模型
| 提供商 | 型号 | 现货范围($/M输出) |
|---|---|---|
| 拟人 | 作品4.6、作品4.5、作品4.1、作品4、十四行诗4.5、十四行诗4、俳句4.5、俳句3.5、俳句3+3遗产 | 1.25美元-75美元 |
| OpenAI | GPT-4.1、GPT-4.1迷你版、GPT-4.1nano、GPT-4o、GPT-4迷你版、o3、o3迷你版、o4迷你版、GPS-5、GPT-5.1、GPT-5.2、GPT-5迷你版 | 0.40美元至14美元 |
| 谷歌 | 双子座2.5 Pro、双子座2.5 Flash、双子座2.0 Flash、双子座3 Pro、双子座3 Flash | 0.40美元-12美元 |
| xAI | Grok 4,Grok 4快速,Grok 3,Grok 3-mini,Grok 4.1快速 | 0.50-15美元 |
| 西北风 | 西北风大号 | 6.00美元 |
| DeepSeek | DeepSeek V3,DeepSeek R1 | 0.42美元 |
总共37个模型。批量定价适用于大多数(通常为同步的50%)。
概念
| 符号 | 名称 | 含义 |
|---|---|---|
| β | Beta(现货价格) | 每百万输出代币的当前价格 |
| 克 | Kappa | 代币百分比——越高越便宜 |
| θ | Theta | 根据历史数据计算的年价格漂移率 |
| σ | Sigma | 月度价格波动 |
| r_in | 投入比 | 投入价格占产出价格的比例 |
| r_cache | 缓存比率 | 缓存的输入价格占输出价格的比例 |
| 或 | Eta | 缓存命中率(0=无缓存,1=满缓存) |
| β_fwd | 远期价格 | 预计未来价格:β·e^(−θ·t) |
Theta的工作原理
Theta是使用指数加权对数回报从实际价格历史中计算出来的:
- 收集模型系列的历史价格(例如GPT-4→ GPT-4涡轮增压器→ GPT-4o→ GPT-4.1)
- 计算连续价格观测值之间的对数回报
- 应用指数加权(λ=0.85)——最近的变化更重要
- 当历史较短时,通过贝叶斯加权与家族先验相结合
示例:GPT-4从60美元/M上涨→ $30 → $15 → $10 → $8 超过18个月。这意味着θ≈0.078,这意味着该模型预测该家庭的年价格下降约7.8%。
MCP服务器
对于Claude Desktop和其他MCP客户:
{
"mcpServers": {
"exostream": {
"command": "npx",
"args": ["tsx", "path/to/oracle/mcp/src/index.ts"]
}
}
}
工具: get_spot_prices, price_task, compare_models, get_forward_curve
许可证
麻省理工学院——见 许可证.
实时仪表板位于 exostream.cn.
