代码模式技能

一种代理技能,帮助用户为任何MCP服务器添加代码模式,使LLM能够在沙盒运行时中编写处理脚本,仅将脚本的紧凑输出放入上下文窗口,显著减少上下文大小。

  • by chenhunghan
  • 本地部署
  • 21 星标
  • 更新于
在 GitHub 查看 chenhunghan/code-mode-skill

使用说明

代码模式技能

帮助您添加的代理技能 代码模式 到任何MCP服务器,这样LLM就可以编写小型处理脚本,在沙盒运行时针对大型API响应运行,并且只有脚本的紧凑输出进入上下文窗口。与任何支持代理技能的AI代理配合使用。

典型结果:上下文减少65-99%。

什么是代码模式?

当MCP工具返回大型API响应(例如列出500个Kubernetes pods、200个SCIM用户或数千个GitHub问题)时,整个有效负载将进入LLM的上下文窗口,消耗令牌并降低性能。

代码模式改变了这种方法:LLM编写了一个小型处理脚本,而不是将原始数据转储到上下文中。MCP服务器在 沙盒运行时 对于原始数据,只有脚本的stdout进入上下文。

这对于众所周知的API(SCIM、Kubernetes、GitHub、Stripe、Slack、AWS等)尤其有效,因为LLM已经知道训练数据中的响应模式。

受启发于 Cloudflare代码模式 和 克劳德语境模式.

该技能的作用

这是一个 互动规划技能。它一步一步地与您合作:

  1. 理解 您的MCP服务器(语言、框架,哪些工具返回大数据)
  2. 选择 适合您的服务器语言和安全要求的沙盒
  3. 计划 共同实施
  4. 实施 代码模式工具、沙盒执行器和接线
  5. 基准 在上下文大小之前/之后验证缩减

支持的服务器语言

服务器语言 沙盒选项
Types/JavaScript quickjs-emscripten (WASM), pyodide (WASM), isolated-vm (V8)
python RestrictedPython, pyodide (WASM), quickjs 绑定
去吧 goja, Wazero (WASM), starlark-go
生锈 boa_engine, wasmtime/wasmer (WASM), deno_core

所有沙盒选项都是 默认情况下与主机文件系统和网络隔离.

安装

npx skills add chenhunghan/code-mode-skill

或手动复制 SKILL.md 和 references/ 将该目录添加到代理的技能目录中。

用法

只需让您的代理将代码模式添加到您的MCP服务器:

  • “我想向我的MCP服务器添加代码模式以减少令牌使用”
  • “将沙盒代码执行工具添加到我的TypeScript MCP服务器”
  • “我的获取用户工具返回50KB+的响应,帮助我减少上下文大小”

该技能将以交互方式指导您完成整个过程。

许可证

麻省理工学院