AI响应共享服务器

一个允许多个AI代理共享和读取彼此对同一提示的响应的模型上下文协议(MCP)服务器。

  • by kstrikis
  • TypeScript
  • 本地部署
  • 2 星标
  • 更新于
在 GitHub 查看 kstrikis/ephor-mcp

使用说明

LLM响应MCP服务器

一种模型上下文协议(MCP)服务器,允许多个AI代理共享和读取彼此对同一提示的响应。

概述

这个项目实现了一个MCP服务器,它有两个主要的工具调用:

  1. submit-response:允许LLM向提示提交其响应
  2. get-responses:允许LLM从其他LLM检索特定提示的所有响应

这使得一个场景成为可能,用户可以向多个AI代理提出同一个问题,然后使用这些工具,代理可以阅读和反思其他LLM对同一问题的回答。

安装

# Install dependencies
bun install

发展

# Build the TypeScript code
bun run build

# Start the server in development mode
bun run dev

MCP检验员测试

该项目包括对 MCP检查员,这是一个用于测试和调试MCP服务器的工具。

# Run the server with MCP Inspector
bun run inspect

这 inspect 脚本使用 npx 运行MCP检查器,它将在浏览器中启动一个web界面,用于与MCP服务器交互。

这将使您能够:

  • 探索可用的工具和资源
  • 具有不同参数的测试工具调用
  • 查看服务器的响应
  • 调试您的MCP服务器实现

用法

服务器公开了两个端点:

  • /sse -MCP客户端连接的服务器发送事件端点
  • /messages -MCP客户端发送消息的HTTP端点

MCP工具

提交回复

向提示提交法学硕士的回复:

// Example tool call
const result = await client.callTool({
  name: 'submit-response',
  arguments: {
    llmId: 'claude-3-opus',
    prompt: 'What is the meaning of life?',
    response: 'The meaning of life is...'
  }
});

获取响应

检索所有LLM响应,可选择按提示筛选:

// Example tool call
const result = await client.callTool({
  name: 'get-responses',
  arguments: {
    prompt: 'What is the meaning of life?' // Optional
  }
});

许可证

麻省理工学院

部署到EC2

该项目包括Docker配置,便于部署到EC2或任何其他服务器环境。

先决条件

  • 运行Amazon Linux 2或Ubuntu的EC2实例
  • 安全组配置为允许端口62886上的入站流量
  • SSH访问实例

部署步骤

  1. 将存储库克隆到EC2实例:

    git clone <your-repository-url>
    cd <repository-directory>
    
  2. 使部署脚本可执行:

    chmod +x deploy.sh
    
  3. 运行部署脚本:

    ./deploy.sh
    

脚本将:

  • 如果尚未安装Docker和Docker Compose,请安装它们
  • 构建Docker镜像
  • 以分离模式启动容器
  • 显示可访问MCP服务器的公共URL

手动部署

如果您更喜欢手动部署:

  1. 构建Docker镜像:

    docker-compose build
    
  2. 启动容器:

    docker-compose up -d
    
  3. 验证容器是否正在运行:

    docker-compose ps
    

访问服务器

部署后,您的MCP服务器将可在以下位置访问:

  • http://<ec2-public-ip>:62886/sse SSE 终端
  • http://<ec2-public-ip>:62886/messages -消息端点

确保EC2安全组中的端口62886已打开!