AI导哈

协议转换器

Omni-Bridge是一种异步协议转换器，使用模型上下文协议（MCP）将基于云的AI代理桥接到本地系统工具，适用于推理经济和零信任执行场景。

  • by shah48l
  • 本地部署
  • 更新于
在 GitHub 查看 shah48l/Omni-Bridge-High-Throughput-MCP-Protocol-Translator

使用说明

Omni Bridge：高吞吐量MCP协议转换器

Omni大桥 是一个异步协议转换器，它使用 模型上下文协议（MCP）.

专为 推理经济学 和 零信任执行Omni Bridge超越了简单的自动化脚本，为自主代理提供了生产级网关。它通过在瞬态、资源受限的环境中严格隔离工具执行来处理“安全云到本地差距”。

🏗 系统架构

Omni Bridge充当高性能代理，管理双向传输层之间的有状态多路复用。

核心工程支柱：

  • 协议完整性： 从零开始实现 JSON-RPC 2.0，确保对高级抽象的零依赖，并严格遵守消息框架。
  • 异步编排： 杠杆 asyncio TaskGroups用于管理跨平台的并行代理会话的生命周期 SSE（入口） 和 stdio （Egress）.
  • 执行隔离： 一个可插拔的沙盒层，以编程方式编排 Docker容器 对于每次工具调用，确保不受信任的AI生成代码的“可烧”环境。

🚀 主要特点

  • 状态复用： 基于注册表的跟踪，将异步响应映射回唯一响应 request_ids、 支持无序执行。
  • 自适应背压： 基于信号的速率限制（令牌桶），通过限制上游AI客户端来防止本地系统耗尽。
  • 严格的类型安全： 使用全面的验证层 Pydantic v2 以防止格式错误的协议注射。
  • 可观察性： 本土的 开放遥测 完整执行路径的分布式跟踪集成： Prompt -> Bridge -> Sandbox -> Result.

🛠 技术栈

层 技术
语言 Python 3.11+（严格类型 mypy)
网络 FastAPI （入口）， asyncio.Streams （出口）
验证 Pydantic v2
沙盒 Docker SDK / gVisor
测试 Pytest + Hypothesis （基于属性的测试）

📐 设计决策(DECISIONS.md)

高级工程师可以在 DECISIONS.md 文件，包括：

  1. 运输选择： 为什么我们优先考虑SSE而不是WebSockets来实现单向状态稳定性。
  2. 并发模型： 处理高吞吐量I/O中的上下文切换开销。
  3. 沙盒生命周期： 瞬态与持久性工具环境背后的基本原理。

🚦 快速开始

先决条件

  • Python 3.11+
  • Docker桌面（沙盒执行所需）

安装

git clone [https://github.com/shah48l/omni-bridge.git](https://github.com/shah48l/omni-bridge.git)
cd omni-bridge
pip install -r requirements.txt

相关 MCP