AI模型调用服务

aitherflow-models是一个用于调用外部AI模型(如OpenRouter、Google Gemini和Ollama)的服务,支持图像和视频分析,适用于需要多模型集成的AI助手开发。

  • by aitherlab-dev
  • Rust
  • 本地部署
  • 2 星标
  • 更新于
在 GitHub 查看 aitherlab-dev/aitherflow-models

使用说明

aitherflow模型

MCP服务器 调用外部AI模型 — 开放路由, 谷歌双子座,以及 奥拉玛 (本地)-对图像和视频提供全面的视觉支持。

适用于任何MCP客户端: 克劳德代码CLIClaude Desktop或任何其他MCP兼容工具。

它做什么

为您的AI助手提供四种工具:

工具 说明
call_model 向任何配置的模型发送文本提示
call_vision 使用视觉模型分析图像或视频
analyze_directory 批量分析目录中的所有媒体文件
list_models 列出跨提供商的所有可用型号

提供商

提供程序 类型 需要API密钥
开放路由 云 是
谷歌双子座 云 是
奥拉玛 本地 否

API密钥安全地存储在 系统钥匙圈 (服务: aitherflow),不在配置文件中。

视觉支持

图像

PNG、JPG、GIF、WebP、BMP

视频

MP4、MOV、AVI、MKV、MTS、MXF、R3D、WebM

视频处理取决于提供商:

  • 谷歌双子座 -本地视频上传(完整视频发送到API)
  • OpenRouter/Ollama --帧提取 ffmpeg (关键帧作为图像发送)

快速开始

1.建造

git clone https://github.com/aitherlab-dev/aitherflow-models.git
cd aitherflow-models
cargo build --release

二进制文件将位于 target/release/aitherflow-models.

(可选)将其复制到您的 $PATH:

cp target/release/aitherflow-models ~/.local/bin/

2.添加到克劳德代码

claude mcp add --scope user aitherflow-models /path/to/aitherflow-models

或编辑 ~/.claude.json 手动:

{
  "mcpServers": {
    "aitherflow-models": {
      "command": "/home/you/.local/bin/aitherflow-models",
      "env": {}
    }
  }
}

克劳德桌面版

添加 claude_desktop_config.json:

{
  "mcpServers": {
    "aitherflow-models": {
      "command": "/home/you/.local/bin/aitherflow-models",
      "env": {}
    }
  }
}

3.使用它

启动Claude Code并要求它使用外部模型:

> Ask Gemini to summarize this document
> Use GPT-4o to analyze this screenshot
> List available models

配置

型号配置

~/.config/aither-flow/external_models.json

模型按提供者组织。配置是在第一次运行时自动创建的,具有合理的默认值。您可以自由添加、删除或重新排序模型。

API密钥

API密钥存储在服务名称下的系统密钥环中 aitherflow。服务器将在需要时提示输入密钥,或者您可以通过MCP客户端的环境变量进行设置:

变量 提供者
OPENROUTER_API_KEY OpenRouter
GEMINI_API_KEY 谷歌双子座

Ollama在本地运行,不需要API密钥。

日志记录

集 RUST_LOG 对于详细输出:

RUST_LOG=aitherflow_models=debug

需求

  • 锈蚀1.75+
  • FFmpeg (用于视频帧提取——仅适用于非Gemini提供商的视觉)
  • libdbus开发 (用于Linux上的系统密钥环访问)

Linux(Ubuntu/Debian)

sudo apt install ffmpeg libdbus-1-dev

Linux(Arch)

sudo pacman -S ffmpeg dbus

macOS

brew install ffmpeg

运作原理

Claude Code <--> aitherflow-models (stdio, JSON-RPC) <--> OpenRouter / Gemini / Ollama APIs
                                                    \--> ffmpeg (video frame extraction)

服务器通过stdin/stdout使用 MCP协议 (基于stdio的JSON-RPC)。API调用通过tokio异步运行。对于非Gemini提供商的视频分析,ffmpeg提取关键帧,然后将其作为base64编码图像发送。

故障排除

“找不到API密钥” --设置适当的环境变量或将密钥存储在系统密钥环中。

“未找到ffmpeg” --安装ffmpeg。仅适用于OpenRouter或Ollama提供商的视频分析。

“钥匙圈错误” --在Linux上,确保 libdbus 安装了一个秘密服务(如 gnome-keyring 或 kwallet)正在运行。

日志 --stderr输出将进入MCP客户端的服务器日志。集 RUST_LOG=aitherflow_models=debug 用于详细输出。

许可证

麻省理工学院

学分

由...建造 aitherlab.部分 等待流 项目。