AI导哈

AI代理部署服务

一个基于Google Cloud的三部分项目，展示如何从简单的MCP服务器到GPU加速的AI代理的完整部署流程。

  • by irtaza091996
  • Python
  • 本地部署
  • 1 星标
  • 更新于
在 GitHub 查看 irtaza091996/ai-agent-prod-deployment

使用说明

AI Agent从生产到部署

一个由谷歌云构建的三部分项目，展示了如何从一个简单的MCP服务器一直到一个GPU加速的AI代理，所有这些都部署在 谷歌云运行.

每个部分都有自己的README，但它们是相互构建的。

建造什么

部件 文件夹 构建内容 关键技术
1 1-mcp-server/ 一个安全的、生产就绪的MCP服务器，将动物园动物数据作为LLM的工具公开 FastMCP、Cloud Run、Gemini CLI
2 2-adk-agent/ 使用MCP服务器+维基百科 ADK、SequentialAgent、LangChain、Cloud Run的多代理动物园导游
3 3-gpu-agent/ 具有弹性测试的GPU加速Gemma代理 Ollama、Gemma 3 270M、NVIDIA L4、Cloud Run

架构概述

先决条件

在开始之前，请确保您已经：

  • A. 谷歌云帐户 已启用计费(免费试用)
  • 这 gcloud命令行界面 已安装并验证
  • Python 3.13+
  • 紫外线 --贯穿始终使用的Python包管理器(安装)

所有部件都可以磨合 Google Cloud Shell，它预装了上述所有功能。点击 这里 打开它。

入门指南

克隆仓库并导航到其中：

git clone https://github.com/YOUR_USERNAME/zoo-mcp-on-cloudrun.git
cd zoo-mcp-on-cloudrun

然后从第1部分开始：

cd 1-mcp-server
cat README.md

成本估算

零件 大致成本
第1部分 <1美元
第2部分 <1美元
第3部分 GPU运行时约2-4美元/小时（NVIDIA L4）

每个README部分都包含一个 清理 删除资源并避免持续收费。

项目概览

第1部分——在Cloud Run上部署安全的MCP服务器

A大楼 模型上下文协议 服务器使用 FastMCP 这暴露了动物园动物数据作为工具。将其部署到需要身份验证的Cloud Run，然后使用 Gemini CLI.

涉及的概念： MCP概念、FastMCP、云运行上的源代码部署、基于IAM的身份验证、服务帐户。

→ 转到第1部分

第2部分——构建和部署使用MCP服务器的ADK代理

使用谷歌构建多智能体动物园导游 代理开发工具包（ADK）.代理使用第1部分中的MCP服务器作为其工具集，并使用维基百科API进行扩充以获得一般知识。将代理部署到Cloud Run。

涉及的概念： ADK代理， SequentialAgent, MCPToolset, LangchainTool、状态管理， adk deploy.

→ 转到第2部分

第3部分——将ADK代理部署到使用GPU的Cloud Run

部署a GPU加速的Gemma 3 通过Cloud Run上的Ollama建模，然后将其连接到ADK代理。使用以下工具进行弹性测试 蝗虫 观察这两个服务如何独立处理负载。

涉及的概念： GPU on Cloud Run、Ollama、LiteLlm、FastAPI+ADK、Locust负载测试、自动缩放行为。

→ 转到第3部分

项目结构

ai-agent-prod-deployment/
├── README.md                        # You are here
├── .gitignore
├── 1-mcp-server/
│   ├── README.md
│   ├── server.py                    # FastMCP zoo server with 2 tools
│   ├── Dockerfile
│   └── pyproject.toml
├── 2-adk-agent/
│   ├── README.md
│   ├── zoo_guide_agent/
│   │   ├── __init__.py
│   │   └── agent.py                 # Multi-agent workflow (greeter → researcher → formatter)
│   ├── requirements.txt
│   └── .env.example
└── 3-gpu-agent/
    ├── README.md
    ├── ollama-backend/
    │   └── Dockerfile               # Gemma 3 270M via Ollama
    └── adk-agent/
        ├── production_agent/
        │   ├── __init__.py
        │   └── agent.py             # Gemma-powered conversational agent
        ├── server.py                # FastAPI server with ADK integration
        ├── Dockerfile
        ├── elasticity_test.py       # Locust load test
        ├── pyproject.toml
        └── .env.example

相关 MCP