AI导哈

LLM微调代理服务

Tinker MCP是一个允许AI代理通过自然语言指令控制分布式训练基础设施的服务，支持模型训练、权重更新和检查点采样等操作。

  • by dedalus-labs
  • Python
  • 本地部署
  • 4 星标
  • 更新于
在 GitHub 查看 dedalus-labs/tinker-mcp

使用说明

Tinker MCP

微调LLM的AI代理。

这有什么作用

此MCP服务器使您的AI代理能够完全控制 修补匠的分布式培训基础设施。创建训练跑，执行前进/后退传球，更新权重，从检查点采样， 通过自然语言。

人工智能代理现在可以根据用户反馈自主改进模型，尝试训练策略，或协调整个RLHF管道。

快速开始

export TINKER_API_KEY=your_key_here
uv run tinker-mcp

使用 Dedalus MCP框架 将其与其他工具一起编排。

DAuth（Dedalus Auth）

多租户MCP身份验证需要Dedalus SDK。凭据在客户端加密，并在调度时在安全区域解密。看 src/client.py 作为一个工作示例：

from dedalus_labs import AsyncDedalus, DedalusRunner
from dedalus_mcp.auth import Connection, SecretKeys, SecretValues

# Define connection schema
tinker = Connection(
    name="tinker",
    secrets=SecretKeys(token="TINKER_API_KEY"),
    base_url="https://api.thinkingmachines.ai",
    auth_header_name="X-API-Key",
    auth_header_format="{api_key}",
)

# Bind credentials (encrypted client-side)
tinker_credentials = SecretValues(tinker, token=os.getenv("TINKER_API_KEY", ""))

# Use with DedalusRunner
client = AsyncDedalus(api_key=DEDALUS_API_KEY, base_url=API_URL, as_base_url=AS_URL)
runner = DedalusRunner(client)

result = await runner.run(
    input="Train a LoRA on Qwen3-8B...",
    model="openai/gpt-4.1",
    mcp_servers=["dedalus/tinker-mcp"],
    credentials=[tinker_credentials],
)

有关自定义跑步者或较低级别SDK的使用，请参阅 迪达卢斯拉布斯博士.

环境

TINKER_API_KEY=...  # Required. Get one at https://tinker-console.thinkingmachines.ai/keys.

工具

涵盖整个Tinker培训生命周期的44个工具：

  • 训练：创建LoRA会话、向前/向后传递（包括自定义丢失）、优化器步骤
  • 采样：生成文本，计算logprobs（包括用于蒸馏的top-k），创建推理客户端
  • 状态：保存/加载检查点，管理训练状态
  • 数据：标记、解码、准备训练示例
  • 管理：列出运行、检查点、会话；发布/取消发布权重
  • 公用事业：推荐的学习率、渲染器选择、LR时间表、模型元数据

这是一个参考实现，使用 Dedalus MCP 框架。分叉、扩展它，或将其用作您自己的MCP服务器的模板。

相关 MCP