AI导哈

多云AI聊天助手

一个支持Azure AI Foundry、AWS Bedrock和Google Vertex AI的多云AI聊天助手，通过CLI程序化查询云端AI模型。

  • by techempower-org
  • Python
  • 本地部署
  • 2 星标
  • 更新于
在 GitHub 查看 jphein/azure-chat-assistant

使用说明

云聊天助手

多云MCP服务器——通过任何AI CLI代理与Azure AI Foundry、AWS Bedrock和Google Vertex AI上的模型进行对话。

它的作用

将云AI模型作为MCP工具公开，以便AI CLI代理（Claude Code、Gemini CLI、Copilot CLI）可以以编程方式查询它们。支持流媒体、对话历史、并行多模型查询和通过CLI进行动态模型发现。

工具 说明
聊天 发送消息，获取包含对话历史记录的流媒体响应
多帽 同时查询多个模型，得到组合结果
扫描 测试所有供应商的所有型号，显示可用性矩阵
配置 查看/更改设置（型号、提供商、凭据等）
模型 列出可用型号和测试连接
重置 清除对话历史记录

支持的提供商

提供者 模型类型 身份验证
Azure AI Foundry GPT-5.x、o1/03/o4、Llama、DeepSeek、Phi、Grok、Mistral、Claude neneneba API密钥
AWS Bedrock 克劳德4.x，新星，Llama 4，作家巴尔米拉 访问密钥+秘密
谷歌Vertex AI Gemini 2.5/3.x API密钥或gcloud验证

快速开始

先决条件

  • Python 3.8+
  • 至少配置了一个云提供商

安装

git clone https://github.com/techempower-org/cloud-chat-assistant.git
cd cloud-chat-assistant
python3 -m venv venv
./venv/bin/pip install httpx

配置

服务器自动创建 ~/.config/cloud-chat-assistant/ 第一次跑步。

环境变量 （推荐）：

# Azure AI Foundry
export AZURE_AI_API_KEY="your-azure-key"
export AZURE_AI_ENDPOINT="https://your-resource.services.ai.azure.com"

# AWS Bedrock
export AWS_ACCESS_KEY_ID="your-access-key"
export AWS_SECRET_ACCESS_KEY="your-secret-key"
export AWS_DEFAULT_REGION="us-east-1"

# Google Vertex AI
export GOOGLE_API_KEY="your-vertex-ai-key"
export GOOGLE_PROJECT="your-gcp-project-id"
export GOOGLE_REGION="global"

或配置文件 (~/.config/cloud-chat-assistant/config.json):

{
    "api_key": "your-azure-key",
    "endpoint": "https://your-resource.services.ai.azure.com",
    "deployment": "gpt-5.3-chat",
    "model_type": "deployed",
    "aws_access_key": "your-access-key",
    "aws_secret_key": "your-secret-key",
    "aws_region": "us-east-1",
    "google_api_key": "your-vertex-ai-key",
    "google_project": "your-gcp-project-id"
}

向您的CLI代理注册

克劳德代码 --添加到 ~/.claude/mcp.json:

{
  "mcpServers": {
    "cloud-chat": {
      "command": "python3",
      "args": ["/path/to/cloud-chat-assistant/mcp_cloud_chat.py"]
    }
  }
}

Gemini CLI --添加到 ~/.gemini/settings.json 在...之下 mcpServers.

Copilot命令行界面 --添加到 ~/.copilot/mcp.json 在...之下 mcpServers.

使用示例

交换机提供商

configure(model_type="bedrock", deployment="claude-opus-4.6")
configure(model_type="deployed", deployment="gpt-5.3-chat")
configure(model_type="serverless", deployment="Meta-Llama-3.1-405B-Instruct")

多模型查询

multi_chat(message="Explain quantum entanglement", models=["gpt-5.3-chat", "claude-opus-4.6", "gemini-3.1-pro-preview"])

扫描所有提供商

scan()

返回一个矩阵，显示哪些模型正在工作、不可用或可部署。

CLI集成（可选）

安装用于动态模型发现的云CLI：

# Azure — list deployable models
curl -sL https://aka.ms/InstallAzureCLIDeb | sudo bash
az login

# AWS — list Bedrock models
curl "https://awscli.amazonaws.com/awscli-exe-linux-x86_64.zip" -o "awscliv2.zip"
unzip awscliv2.zip && sudo ./aws/install
aws configure

# Google — auth tokens for Vertex AI
sudo apt install google-cloud-cli
gcloud auth login

看 CLI_SETUP.md 详细说明。

生态系统

该项目是四个项目语音AI系统的一部分：

项目 角色
演讲给cli 音频引擎——STT、TTS、VAD、录音机
云聊天助手 （this） 多云LLM提供商
侏儒说话 GNOME Shell扩展——桌面语音用户界面
神谕 Web前端——代理MCP服务器

语音集成

配对 演讲给cli 对于语音对话：

  1. multi_chat --并行查询所有模型
  2. multi_speak --综合所有响应，按顺序播放

GNOME谈集成

侏儒说话 可以直接调用云聊天助手进行人工智能对话模式，其首选项面板可以配置此项目的设置(~/.config/cloud-chat-assistant/config.json)--包括提供者凭据、生成参数和模型选择--来自统一的GNOME设置UI。

建筑

  • 异步: asyncio + httpx 设置连接池
  • 流媒体：SSE与生产者-消费者队列
  • 协议：MCP v2024-11-05通过标准输入，JSON-RPC 2.0
  • 配置：自动从旧版本迁移 azure-chat-assistant 位置

许可证

GPLv3--参见 许可证.

相关 MCP