GPU访问服务

claude-colab通过Google Colab提供GPU访问服务,使AI编码代理能够执行需要GPU加速的任务。

  • by LakshmiSravyaVedantham
  • Python
  • 本地部署
  • 6 星标
  • 更新于
在 GitHub 查看 LakshmiSravyaVedantham/claude-colab

使用说明

克劳德·科拉布

通过Google Colab授予Claude Code GPU访问权限。

AI编码代理可以读取文件、运行bash和编辑代码,但它们没有GPU访问权限。claude-colab使用colab的免费T4 GPU弥合了这一差距。

运作原理

Colab (T4 GPU)                              Your Mac / PC
┌─────────────────────────┐                 ┌──────────────────────┐
│ Flask API               │                 │ claude-colab CLI     │
│  /exec, /python,        │◄── HTTPS ──────►│  or                  │
│  /upload, /download     │  (cloudflared)  │ MCP Server           │
│                         │  E2E encrypted  │  (Claude Code tools) │
│ Bearer token + Fernet   │                 │                      │
└─────────────────────────┘                 └──────────────────────┘
  1. 打开一个Colab笔记本,点击“全部运行”
  2. 复制连接字符串
  3. Claude Code获得GPU访问权限

快速开始

安装

pip install claude-colab

启动Colab服务器

打开 notebooks/claude_colab_server.ipynb 谷歌Colab。将运行时设置为 T4 GPU.运行所有单元格。复制连接字符串。

连接

claude-colab connect cc://TOKEN:KEY@your-tunnel.trycloudflare.com

用它

claude-colab status                          # GPU info
claude-colab exec "nvidia-smi"               # Run shell commands
claude-colab python -c "import torch; print(torch.cuda.get_device_name(0))"
claude-colab upload model.py /content/model.py
claude-colab download /content/results.csv ./results.csv

MCP服务器(克劳德代码集成)

添加 ~/.claude/settings.json:

{
  "mcpServers": {
    "claude-colab": {
      "command": "claude-colab",
      "args": ["mcp-serve"]
    }
  }
}

Claude Code现在有5个GPU工具:

工具 它做什么
colab_status GPU信息、VRAM、磁盘、正常运行时间
colab_exec 运行shell命令
colab_python 执行Python代码
colab_upload 将文件上传到Colab
colab_download 从Colab下载文件

示例

You: "Benchmark this model on the GPU"

Claude:
1. colab_status → Tesla T4, 15GB VRAM
2. colab_upload → sends model.py
3. colab_exec → "pip install torch transformers"
4. colab_exec → "python model.py"
5. colab_download → fetches results.json

连接安全

连接字符串包含您的身份验证令牌和加密密钥。三种连接方式:

# Direct (convenient, visible in shell history)
claude-colab connect cc://TOKEN:KEY@host

# Interactive prompt (nothing in history)
claude-colab connect

# Pipe from clipboard (nothing in ps aux or history)
pbpaste | claude-colab connect -

安全

E2E加密

所有请求和响应体都使用加密 断开 (AES-128-CBC+HMAC-SHA256)。加密密钥是每个Colab会话生成的,与承载令牌分开。

演员 看得见 看不见
随机用户 无(无令牌) 一切
Cloudflare URL路径、时间、令牌 请求/响应体
谷歌(Colab) 虚拟机上的所有内容 您的本地文件

我们无法保护的东西

  • 谷歌在Colab VM上看到数据——这是他们的硬件
  • 在Colab上任意执行代码——这是你的会话
  • 本地机器泄露 ~/.claude-colab.json

局限性

  • 会话超时:免费Colab在闲置90分钟/12小时后死亡。您需要重新启动并重新连接。
  • 无流媒体:长时间运行的命令在完成之前不会返回任何内容。重定向到文件: colab_exec "python train.py > output.log 2>&1"
  • 50MB文件限制:对于较大的文件,请使用 colab_exec 随着 wget 或 gdown.
  • 无持久状态:每个 /python 调用在新的命名空间中运行。

许可证

麻省理工学院