LLM提示与上下文区分工具

该工具通过两个MCP服务器演示LLM在区分提示文本和上下文文本时的混淆情况,适用于LLM行为研究和调试场景。

  • by SGNL-ai
  • JavaScript
  • 本地部署
  • 更新于
在 GitHub 查看 SGNL-ai/prompt-or-context

使用说明

这是一个提示!不!这是上下文!

这两个“玩具”级MCP服务器展示了大型语言模型(LLMs)在理解某些文本是来自提示还是上下文时是多么容易混淆。 这里有两台MCP服务器,它们的功能完全相同。它们从同一个工具返回一行文本。这行文本是“这是来自提示还是上下文”。 根据服务器和工具的名称不同,响应也会有所不同。

基本问题:

示例输出展示了大型语言模型(LLM)在使用这些玩具级MCP服务器时的表现

换个问法:

当你换一种方式提问时,得到的就是这样的回答

换个方式问:

用不同的方式问同一个问题

被问到与之前相同的问题:

用不同方式问同一个问题