使用说明
基本能力
产品定位
Agentic Security 是一个专注于AI系统安全的漏洞扫描工具，旨在通过多模态攻击模拟、越狱测试和模糊测试等手段，帮助用户发现和修复大型语言模型（LLMs）中的安全漏洞。
核心功能
- 多模态攻击测试：支持文本、图像和音频输入的多模态攻击模拟。
- 多步越狱测试：模拟复杂的迭代攻击序列，测试LLM的安全机制。
- 全面模糊测试：通过随机化输入压力测试LLM，发现边缘案例和意外行为。
- API集成与压力测试：无缝连接LLM API，进行高负载的真实攻击场景测试。
- 基于强化学习的攻击：利用强化学习生成自适应攻击向量，动态测试模型防御能力。
适用场景
- AI系统开发：在开发阶段测试LLM的安全性。
- 安全研究：研究新型攻击向量和防御机制。
- CI/CD集成：在持续集成流程中自动进行安全扫描。
使用教程
使用依赖
安装前需确保已安装Python和pip。
安装教程
通过pip安装Agentic Security：
pip install agentic_security
调试方式
启动服务并查看日志：
agentic_security
或使用帮助命令：
agentic_security --help
工具列表
- Garak：集成越狱测试工具。
- InspectAI：集成AI模型检查工具。
- llm-adaptive-attacks：集成自适应攻击工具。
- Custom Huggingface Datasets：支持自定义数据集。
- Local CSV Datasets：支持本地CSV数据集。
