API和聊天代理部署服务

提供API和聊天代理的Kubernetes部署及配置服务。

  • by ssorren
  • HTML
  • 本地部署
  • 更新于
在 GitHub 查看 ssorren/mcp-example

使用说明

说明

1.部署模拟订单API

 kubectl apply -f api/k8s-manifest.yaml

2.部署聊天UI和代理

更新agent/k8s-manifest.yaml以反映您的部署。有两个变量可能需要更新。您需要为您的Kong数据平面使用服务名称。例如,如果您的LoadBalancer被命名为 mcp-control-plane-loadbalancer 整体应如下所示:

  PROXY_BASE_URL: "http://mcp-control-plane-loadbalancer.kong.svc.cluster.local:8080/chat"
  MCP_SERVER_URL: "http://mcp-control-plane-loadbalancer.kong.svc.cluster.local:8080/marketplace"

更新后,应用代理清单:

 kubectl apply -f agent/k8s-manifest.yaml

3.

编辑 deck/kong.yaml 文件,更新 control_plane_name 以匹配您的部署。按如下方式应用配置:

 deck gateway sync deck/kong.yanl

在Konnect UI中,导航到控制平面(API网关-> ),然后导航到Vault(Vault->mcpvault)并添加一个名为 openai-key 值为

Bearer <your open ai secret>

请注意,此示例是为OpenAi设置的,您需要调整deck config/secrete以反映您的特定提供者。