AI事实检查审计工具

Secure MCP Auditor是一个用于验证AI生成数据的实时事实检查层,专注于检测逻辑破坏和预算差异,并提供高性能的安全审计功能。

  • by dhzkh68cgj-cmyk
  • Python
  • 本地部署
  • 更新于
在 GitHub 查看 dhzkh68cgj-cmyk/secure-mcp-auditor

使用说明

安全MCP审计员:可验证的AI基础设施🛡️

概述

该项目为LLM代理设计了一个高性能的安全和审计层,使用 **模型上下文协议(MCP)**它通过提供一个可验证的“事实检查”层来实时监控工具调用,从而解决了人工智能幻觉和逻辑破坏的关键挑战。

🚀 核心项目:事实核查审计员

该存储库具有一个专门的基于Python的验证引擎,可以拦截人工智能生成的数据,并根据当地的地面实况规范进行验证。

关键技术成果

  • 逻辑破坏检测: 已实现a 100%检测率 LLM编排期间的预算差异和风险水平升级。
  • 高性能验证: 优化审计工作流程,以执行检查 <100ms延迟,在不损害用户体验的情况下确保安全。
  • 法医可追溯性: 实现了持久、不可变的日志记录架构(audit_history.log)用于事件后审查和系统可观察性。

🛠️ MCP基础设施和设置

该系统利用安全文件系统MCP服务器,使Claude能够在严格的沙盒环境下与本地目录进行交互。

📂 项目结构

  • src/:Python核心逻辑,包括 FactCheckAuditor 和 FileScanner.
  • logs/:可验证的审计报告和取证历史日志。
  • config/:源规范和项目地面实况数据。