AI导哈

LLM漏洞扫描器

一个开源MCP服务器，允许代理或人类触发对任何LLM端点的garak扫描，并接收简洁的漏洞报告（幻觉、提示注入、数据泄漏、毒性等）。

  • by arjun-krishna1
  • Python
  • 本地部署
  • 1 星标
  • 更新于
在 GitHub 查看 arjun-krishna1/llm-vulnerability-mcp

使用说明

LLM漏洞扫描程序

一个开源的MCP服务器，允许代理或人类对任何LLM端点触发garak扫描，并接收简洁的漏洞报告（幻觉、快速注射、数据泄漏、毒性等）。

全部

最有价值球员

  • []创建仓库
  • []运行MCP hello world
  • []运行garak hello world
  • []添加依赖项mcp[cli]、garak
  • []将garak CLI封装在async函数中
  • []将garak输出解析为JSON摘要
  • []在Cursor上进行端到端演示
  • []用两条线准备演示文稿
  • []安装指南（uvx--来自git+https://github.com/arjun-krishna1/llm-vulnerability-mcp)JSON

有东西真好

  • 自定义探头选择
  • 流媒体进度更新
  • Batc比较

最有价值球员

一个名为scan_model的MCP工具，它接受model_type、model_name和（可选）api_key，使用默认探测集运行garak，并返回JSON摘要和原始garak.log作为MCP资源。

用法

MCP服务器公开了一个 scan_model 可用于扫描LLM模型以查找漏洞的工具。

Claude中的示例用法：

Use the scan_model tool to test the model at https://openrouter.ai/models/mistralai/mistral-7b-instruct

该工具将：

  1. 自动解析OpenRouter URL
  2. 如果未提供，请使用环境中的OPENROUTER_API_KEY
  3. 返回发现的漏洞的JSON摘要

参数：

  • model_type：模型类型（例如，“openai”、“openrouter”、“huggingface”）
  • model_name：型号名称或OpenRouter URL
  • api_key：可选API密钥（如果未提供，则使用OPENROUTER_API_key env var）

有东西真好

  • 交互式选择探头
  • 实时进度流
  • 批量比较模型
  • 可下载的HTML仪表板
  • 松弛/不协调webhook警报
  • GitHub动作包装器
  • OWASP风格严重性评分
  • 持久扫描历史（SQLite）。

相关 MCP