Hugging Face模型交互工具

一个基于C#的MCP服务器和客户端工具,用于与Hugging Face托管的LLM通过OpenAI兼容的API进行交互。

  • by bilalabdulkany
  • C#
  • 本地部署
  • 更新于
在 GitHub 查看 bilalabdulkany/MCPDotnet

使用说明

C#中的MCP+拥抱面(.NET 9+VS代码)

此回购包含 模型上下文协议(MCP) 服务器和最小 MCP客户端 用C#编写,通过 OpenAI兼容 /v1/chat/completions 终点。

结构

src/
  Mcp.HF.Server/   # MCP server (STDIO) exposing a `hf_chat` tool
  Mcp.HF.Client/   # Console client that launches & calls the server via MCP
.vscode/            # Launch configs

需求

  • .NET 9 SDK(8也可以)
  • VS Code
  • 使用推断API访问的拥抱面部访问令牌

配置机密

从服务器项目文件夹中:

cd src/Mcp.HF.Server
# store your HF token
 dotnet user-secrets init
 dotnet user-secrets set HF_TOKEN "hf_xxx_your_token"
# optional overrides
 dotnet user-secrets set HF_MODEL "meta-llama/Meta-Llama-3.1-8B-Instruct"
 # If you use a dedicated endpoint, ensure it ends with /v1
 # dotnet user-secrets set HF_BASE_URL "https://<your-endpoint>/v1"

构建与运行

# build everything
 dotnet build

# run the client (it launches the server via STDIO)
 cd src/Mcp.HF.Client
 dotnet run

您应该在控制台中看到打印的模型回复。

备注

  • 服务器传输: 工作室。日志被路由到 标准错误 以避免损坏stdout上的JSON-RPC。
  • 服务器公开了一个工具: hf_chat(userMessage, systemPrompt?, model?, temperature?, maxTokens?).
  • 默认情况下,服务器使用 模型范围 无服务器路径: https://api-inference.huggingface.co/models/{MODEL}/v1/chat/completions. 您可以用以下命令覆盖 HF_BASE_URL (例如,您的专用端点以结尾 /v1).

许可证

麻省理工学院