边缘AI代理开发工具

Strands Agents SDK是一款用于构建离线运行的生成式AI代理的开发工具,支持在边缘设备上部署轻量级模型,并可在有网络连接时无缝切换到云端模型。

  • by davidvictoria
  • Python
  • 本地部署
  • 10 星标
  • 更新于
在 GitHub 查看 davidvictoria/reinvent-dev301-edge-agents

使用说明

边缘搁浅特工🏭

AWS重新:发明2024会议DEV301 | 边缘AI代理:离线构建,云端扩展

使用以下工具构建完全离线运行的生成式AI代理 Strands代理SDK使用Ollama部署轻量级本地模型,用于远程制造、现场操作和数据主权场景,然后在连接可用时无缝扩展到Amazon Bedrock上的Claude。

里面是什么

📓 Jupyter笔记本(strands_edge_demos.ipynb)

逐步演示Strands SDK的核心功能:

演示 功能 描述
1 工具装饰器 自定义物联网设备控制 @tool 功能
2 结构化输出 使用Pydantic模型提取SCADA/MES数据
3 会话管理 边缘设备的持久对话
4 MCP集成 用于离线操作的本地SQLite数据库

🏭 边缘运营商代理(e2e-demo/)

功能齐全的Streamlit应用程序演示了一个生产就绪的边缘代理:

  • 物联网控制:读取传感器,通过自然语言控制执行器
  • 遥测数据库:通过MCP协议存储SQLite
  • 模型切换:切换本地(Ollama)↔ 运行时的云(基岩)
  • 流媒体响应:UI中的实时响应流
  • 会话保持:对话在重启后仍能继续
cd e2e-demo && streamlit run streamlit_app.py

快速开始

先决条件

设置

# 1. Install Ollama and pull model
ollama pull hoangquan456/qwen3-nothink:4b
ollama serve

# 2. Install dependencies
pip install 'strands-agents[ollama]' strands-agents-tools pydantic mcp hypothesis streamlit
pip install uv  # Required for MCP SQLite server

# 3. Run the notebook demos
jupyter notebook strands_edge_demos.ipynb

# Or run the full Streamlit app
cd e2e-demo && pip install -e . && streamlit run streamlit_app.py

建筑

┌─────────────────────────────────────────────────────────────┐
│                    Edge Operator Agent                       │
├─────────────────────────────────────────────────────────────┤
│  Streamlit UI (streaming responses)                         │
├─────────────────────────────────────────────────────────────┤
│  Strands Agent                                              │
│  ├── Model Router (Ollama ↔ Bedrock)                       │
│  ├── Session Manager (FileSessionManager)                   │
│  └── Tools:                                                 │
│      ├── IoT Tools (sensors, actuators)                    │
│      ├── Database Tools (SQLite via MCP)                   │
│      └── SCADA Extraction (Pydantic structured output)     │
└─────────────────────────────────────────────────────────────┘

资源

扬声器

  • 安娜 库尼亚
  • 大卫维多利亚

在AWS re:Invent 2024上展示