开源LLM模型客户端

一个能够使用开源LLM模型与MCP服务器通信的客户端,使LLM能够访问和使用工具。

  • by seyrup1987
  • Python
  • 本地部署
  • 更新于
在 GitHub 查看 seyrup1987/mcp-recon-client

使用说明

这是一个模型上下文协议(MCP)客户端,能够使用开源LLM模型与MCP服务器通信,从而访问LLM可以使用的工具。

以下是运行MCP客户端的说明:

  1. 克隆Repo

  2. 使用UV pip Install-r requirements.txt安装依赖项

  3. 从Ollama.com安装Ollama客户端,并使用其他聊天客户端实现提取要与客户端一起使用的LLM模型。

  4. 如果您有Google Studio API密钥,可以免费获得,请将其更新到“.env”文件。

  5. 用UV运行'main'py'运行src/main.py

注意:我无法对一个适合工具调用的LLM进行全面的测试。这完全取决于正确的提示。目前使用Google Gen AI实现的'main.py'提供了最好的结果,因为它有一个非常大的上下文窗口。如果你想尝试google-gemini-2.5-pro以外的模型,你可以在更改各自的模型文件后使用其他客户端实现。