AI模型配置服务器

Oumi MCP Server是一个为AI编程助手提供访问Oumi库中约500个即用型YAML配置文件的服务器,支持模型微调和工作流指导。

  • by aniruddh-alt
  • Python
  • 本地部署
  • 更新于
在 GitHub 查看 aniruddh-alt/oumi-mcp

使用说明

Oumi MCP服务器

一 MCP(模型上下文协议) 该服务器允许AI编码助手访问Oumi的约500个现成的YAML配置库,用于微调LLM。

当连接到Cursor、Claude Desktop或任何兼容MCP的客户端时,服务器允许AI搜索训练配方,检索完整的YAML配置,验证它们,并遵循指导的ML工程工作流程——所有这些都无需手动浏览文档。

它的作用

服务器暴露 5工具 和 6资源 通过MCP:

工具 目的
get_started() 功能概述和快速入门指南
list_categories() 发现可用的模型族和配置类型
search_configs(query, task, model, keyword) 按筛选器查找训练配置
get_config(path, include_content) 获取配置详细信息和完整的YAML内容
validate_config(config, task_type) 运行前验证配置文件
资源 目的
guidance://mle-workflow 端到端机器学习工程工作流程指南
guidance://mle-train 训练命令使用和大小启发式
guidance://mle-synth 合成数据生成指南
guidance://mle-analyze 数据集分析和质量检查
guidance://mle-eval 评价战略和基准
guidance://mle-infer 推理最佳实践

支持的模型

Llama 3.1/3.2/4、Qwen 3、Phi 4、Gemma 3、DeepSeek R1、SmolLM等。

支持的培训技术

SFT、DPO、GRPO、KTO、LoRA、QLoRA、完全微调、预训练、评估、推理。

安装

作为Oumi的一部分(推荐)

pip install oumi[mcp]

独立

pip install oumi-mcp

来源(开发)

git clone https://github.com/oumi-ai/oumi.git
cd projects/oumi-mcp
pip install -e .

运行服务器

oumi-mcp

或者作为Python模块运行:

python -m oumi_mcp_server

连接到MCP客户端

光标

添加到光标MCP设置(.cursor/mcp.json):

{
  "mcpServers": {
    "oumi": {
      "command": "oumi-mcp"
    }
  }
}

克劳德桌面

添加到您的Claude桌面配置(~/Library/Application Support/Claude/claude_desktop_config.json 在macOS上):

{
  "mcpServers": {
    "oumi": {
      "command": "oumi-mcp"
    }
  }
}

任何MCP客户端(stdio传输)

默认情况下,服务器使用stdio传输。将您的MCP客户端指向 oumi-mcp 命令。

配置是如何工作的

该服务器附带了Oumi约500个YAML配置文件的捆绑快照。启动时,它会检查是否有更新的缓存副本,如果缓存过时(超过24小时),它会从GitHub同步。决议顺序为:

  1. OUMI_MCP_CONFIGS_DIR 环境变量(显式覆盖)
  2. ~/.cache/oumi-mcp/configs (从GitHub同步,每24小时刷新一次)
  3. 捆绑配置 随包裹一起发货(始终可用备用)

这意味着:

  • 安装后服务器立即工作,甚至脱机
  • 配置通过延迟后台同步自动保持最新
  • 如果需要,您可以使用env-var固定特定的配置目录

强制同步

要手动刷新配置,请删除缓存并重新启动:

rm -rf ~/.cache/oumi-mcp
oumi-mcp

工作流程示例

连接后,向您的AI助手询问以下内容:

“为我找到一个LoRA配置,用于在我的自定义数据集上微调Llama 3.1 8B”

助理将使用MCP工具:

  1. search_configs(model="llama3_1", query="8b_lora", task="sft") --查找匹配的食谱
  2. get_config("llama3_1/sft/8b_lora", include_content=True) --检索完整的YAML
  3. 帮助您自定义 model_name, datasets, output_dir等等。
  4. validate_config("/path/to/your/config.yaml", "training") --运行前验证

配置

环境变量 默认值 描述
OUMI_MCP_CONFIGS_DIR (未设置) 覆盖配置目录路径

项目结构

oumi-mcp/
  src/oumi_mcp_server/
    __init__.py          # Package metadata
    __main__.py          # python -m entry point
    server.py            # MCP server, tools, resources, config sync
    config_service.py    # Config parsing, search, metadata extraction
    constants.py         # Type definitions and constants
    models.py            # TypedDict data models
    prompts/
      mle_prompt.py      # ML engineering workflow guidance resources
    configs/             # Bundled YAML configs (~500 files)
      recipes/           # Model-specific training recipes
      apis/              # API provider configs
      examples/          # Example configs
  pyproject.toml

发展

# Install in development mode
pip install -e ".[dev]"

# Run the server
oumi-mcp

# Run tests
pytest

版本控制

此套餐如下 语义化版本.该版本独立于主版本 oumi 包,但跟踪兼容性:

  • 乌米·麦克普0.x.y 兼容 oumi>=0.6.0
  • 配置从oumi同步 main 分支并保持最新状态,而不管包版本如何
  • 当服务器代码、工具或资源发生变化时,升级oumi mcp版本

许可证

Apache-2.0--见主 Oumi存储库 了解详情。