LLM端点服务

一个基于Python和Azure Functions的MCP服务器,提供LLM端点供GitHub Copilot Chat使用,具有最小化、可维护和生产就绪的设计。

  • by dft-core-infra
  • 本地部署
  • 更新于
在 GitHub 查看 coretao-infra/moreLLMMCP

使用说明

更多LLMMCP

一个用Python编码并实现为Azure函数的MCP服务器,暴露了LLM端点(如Azure OpenAI),旨在通过GitHub Copilot Chat使用。

项目亮点

  • 最小、可维护和生产就绪的设计
  • 规范处理程序层,便于LLM提供程序扩展
  • 仅限Azure的安全部署(无本地模拟器)
  • 原子、可测试和可观察的端点

快速开始

  1. 克隆仓库
  2. 看 scratchpad/design-considerations.md 架构和实施计划
  3. 按照实施计划阶段进行设置和部署

文档

社区与支持

  • 未解决的bug、问题或功能请求问题
  • PR欢迎!请先阅读投稿指南

许可证

麻省理工学院