AI代理安全治理层

ApexGuard是一个零信任的AI代理治理层,通过加密策略执行和实时异常检测来保护多代理LLM系统。

  • by CodeMaestroRishit
  • JavaScript
  • 本地部署
  • 更新于
在 GitHub 查看 CodeMaestroRishit/Agent_Guard_1.0.0

使用说明

ApexGuard 的🛡️

多代理LLM系统的零信任执行层
通过加密策略执行和实时异常检测来管理、监控和保护自主AI代理。


🎯 概述

现代法学硕士代理人越来越自主,但风险也越来越大。 ApexGuard 的 是一个全面的 治理层 通过加密验证、基于角色的访问控制和实时异常检测,防止工具阴影、能力注入、策略绕过和未经授权的访问。

ApexGuard可以防止什么

威胁 预防
🎭 工具阴影 加密HMAC签名确保只执行注册的工具
🔧 能力注入 特工不能在训练中授予自己新的能力
💣 炸药操作 高冲击破坏性命令需要明确授权
🚫 架构违规 Pydantic验证可防止参数格式错误
🔓 策略绕过 多层强制阻止上下文操纵攻击

✨ 主要特点

✅ 零信任架构 --假设所有代理都是不可信的,除非另有证明
✅ 加密工具注册表 --HMAC签名的工具目录可防止欺骗
✅ RBAC策略引擎 --可在运行时部署版本化、可审计的策略
✅ Gemini驱动的策略生成 --将纯英文规则转换为结构化RBAC JSON
✅ 长期审计代理 --持续的异常检测和威胁标记
✅ 不可变审计日志 --每个决策都记录了完整的背景和推理
✅ 实时仪表板 --监控执行、异常和代理行为
✅ 生产部署 --实时渲染;可扩展、容器化、安全


🏗️ 建筑

┌──────────────────────────────────────────────┐
│     Multi-Agent Orchestrator                 │
│     (Routes tasks to specialists)            │
└────┬────────────────────┬────────────────────┘
     │                    │
 ┌───▼──┐  ┌──────┐  ┌────▼────┐
 │Agent │  │Agent │  │Agent    │
 │Data  │  │Code  │  │Finance  │
 └───┬──┘  └──┬───┘  └────┬────┘
     │        │           │
     └────┬───┴─────┬─────┘
          │         │
    ┌─────▼─────────▼──────────────┐
    │   ApexGuard Enforcement       │
    │                              │
    │ ✓ Policy Validation          │
    │ ✓ Schema Checking            │
    │ ✓ RBAC Matching              │
    │ ✓ Anomaly Detection          │
    │ ✓ Audit Logging              │
    └─────┬──────────┬──────────────┘
          │          │
     ┌────▼──┐  ┌───▼───┐
     │ ALLOW │  │ BLOCK │
     │Logged │  │Escalate
     └───────┘  └───────┘

组件

  1. 执法引擎 --拦截每个工具调用;验证身份、签名、模式和策略
  2. 工具注册表 --加密签名目录;防止工具阴影
  3. 策略存储 --版本化的RBAC策略;运行时可部署
  4. AI策略生成器 --Gemini 2.5 Pro转换自然语言→ 结构化政策
  5. 审计代理人 --长期运行的后台服务检测异常
  6. 记忆存储 --持久审计日志、策略版本、异常记录
  7. 可观测性API --日志、异常、策略、工具的REST端点
  8. 仪表板用户界面 --实时监控和策略管理
  9. 部署 --使用Gunicorn+Flask渲染制作就绪

🚀 快速开始

安装

git clone https://github.com/yourusername/apexguard.git
cd apexguard

# Create virtual environment
python -m venv venv
source venv/bin/activate  # On Windows: venv\Scripts\activate

# Install dependencies
pip install -r requirements.txt

环境变量

创建一个 .env 文件:

ENFORCEMENT_HMAC_KEY=your_secret_key_here
GEMINI_API_KEY=your_gemini_api_key
DATABASE_FILE=apexguard.db
FLASK_ENV=production

在本地运行

# Start the Flask backend
python app.py

# Backend available at http://localhost:5000
# Dashboard available at http://localhost:5000/static/dashboard.html

Docker部署

# Build Docker image
docker build -t apexguard:latest .

# Run container
docker run -p 5000:5000 \
  -e ENFORCEMENT_HMAC_KEY=your_key \
  -e GEMINI_API_KEY=your_key \
  apexguard:latest

📋 API 参考

执行工具调用

curl -X POST http://localhost:5000/api/enforce \
  -H "Content-Type: application/json" \
  -d '{
    "agent_id": "agent-001",
    "agent_role": "analyst",
    "tool_name": "read_data",
    "tool_version": "1.0",
    "parameters": {"query": "SELECT * FROM logs LIMIT 10"},
    "signature": "hmac_sha256_hash"
  }'

响应(允许):

{
  "status": "ALLOW",
  "decision_id": "dec_2025_1130_001",
  "reason": "Policy match: analyst role authorized for read_data tool",
  "execution_time_ms": 42
}

响应(块):

{
  "status": "BLOCK",
  "decision_id": "dec_2025_1130_002",
  "reason": "Policy violation: analyst role cannot execute write_policy",
  "escalation": "security_team@org.com",
  "audit_id": "aud_2025_1130_001"
}

检索审核日志

curl http://localhost:5000/api/audit-logs?limit=50&offset=0

检索异常

curl http://localhost:5000/api/anomalies?severity=HIGH

列表工具注册表

curl http://localhost:5000/api/tools

生成策略

curl -X POST http://localhost:5000/api/generate-policy \
  -H "Content-Type: application/json" \
  -d '{
    "rule": "Readers may access logs with limit 10, but cannot modify policies. Auditors access everything."
  }'

📊 仪表板功能

访问实时仪表板: https://agent-guard-1-0-0.onrender.com/static/dashboard.html

  • 📈 概述 --实时系统指标和合规状态
  • 🔍 审核日志 --可搜索、可排序的执行决策历史
  • 🤖 代理 --监控连接的代理、角色和行为模式
  • 🔧 工具 --带有模式和签名的注册工具
  • 📋 政策 --查看和管理活动RBAC策略
  • ⚙️ 模拟器 --部署前测试策略更改
  • ✨ 策略生成器 --使用自然语言创建策略

🔐 安全模型

零信任执法

ApexGuard的工作原理是 除非另有证明,否则所有代理都是不可信的每个工具调用都要经过三个验证层:

  1. 身份验证 --确认代理身份和分配的角色
  2. 加密验证 --验证工具签名(HMAC-SHA256)
  3. 政策评估 --将请求与活动RBAC策略进行匹配

审计日志

所有决策都以不变的方式记录:

  • 时间戳和决策ID
  • 代理身份和角色
  • 工具名称和参数(对敏感数据进行哈希处理)
  • 策略规则匹配
  • 执行行动(允许/阻止)
  • 背景和推理

异常检测

连续背景扫描检测:

  • 频繁的BLOCK尝试(策略绕过操作)
  • 异常工具序列(能力注入)
  • 炸药操作(破坏性命令)
  • 角色升级模式
  • 时间异常(非工作时间访问、突然的行为变化)

📈 演出

度量 值
策略评估延迟 平均42毫秒(低于100毫秒p99)
审计日志准确性 100%(不可变,经过加密验证)
政策合规率 98.7%(低假阳性率)
系统运行时间 99.2%(7天滚动)
可扩展性 支持1000+代理,10k+策略

🛠️ 用例

金融服务

防止未经授权的资金转移、API滥用和未经授权数据导出。

医疗保健

确保HIPAA合规性;防止患者PII泄漏;审核所有数据访问。

SaaS平台

多租户治理;执行每个客户的政策;跟踪合规性指标。

电子商务

保护库存系统;防止基于代理人的欺诈;确保交易的完整性。


📚 政策示例

策略1:数据访问控制

{
  "name": "DataPrivacy",
  "role": "analyst",
  "tools": ["read_logs", "query_database"],
  "conditions": [
    "data_size < 1GB",
    "time_of_day >= 09:00 AND time_of_day <= 17:00"
  ],
  "effect": "ALLOW"
}

政策2:财务限额

{
  "name": "FinancialThreshold",
  "role": "finance_agent",
  "tools": ["transfer_funds"],
  "conditions": ["amount <= 50000"],
  "effect": "ALLOW"
}

策略3:管理员权限

{
  "name": "AdminAccess",
  "role": "admin",
  "tools": ["*"],
  "effect": "ALLOW"
}

🧪 测试

# Run test suite
pytest tests/ -v

# Run with coverage
pytest tests/ --cov=apexguard

# Test specific module
pytest tests/test_enforcement_engine.py -v

📖 文档


🎓 Kaggle强效胶囊剂

该项目展示了:

✅ 多代理系统 --异构代理的治理层
✅ 工具和MCP --具有模型上下文协议的加密工具注册表
✅ 长期运行操作 --连续异常检测
✅ 记忆和会话 --持久审计日志和上下文
✅ 语境工程 --决策中的完整历史背景
✅ 可观测性 -通过REST API实现完全透明
✅ 代理商评估 --合规指标和行为跟踪
✅ 安全与合规 --零信任强制模型
✅ 部署 --渲染制作就绪

现场演示: https://agent-guard-1-0-0.onrender.com/static/dashboard.html


🤝 贡献

欢迎投稿!拜托:

  1. 分叉存储库
  2. 创建要素分支(git checkout -b feature/amazing-feature)
  3. 提交更改(git commit -m 'Add amazing feature')
  4. 推送到分支(git push origin feature/amazing-feature)
  5. 打开拉取请求

📄 许可证

此项目根据MIT许可证获得许可——请参阅 许可证 文件以获取详细信息。


👨‍💻 作者

你的名字
RV大学计算机科学专业学生|网络安全与AI/ML爱好者
GitHub | 领英


🙏 致谢

  • 由...驱动 谷歌双子座2.5 Pro
  • 受企业安全治理最佳实践的启发

📞 支持

  • 📧 电子邮件:rishitguha0824@gmail.com

🏆 标签

agents gemini governance multi-agent compliance mcp security zero-trust llm safety policy-enforcement anomaly-detection audit-logging rbac cryptography


ApexGuard:确保AI代理能够强大,而不会变得危险。 🚀