视觉模型服务器

一个基于GGUF格式视觉语言模型的Windows常驻进程服务器,提供图像分析和问答功能。

  • by hiroki-yokoyama
  • Python
  • 本地部署
  • 更新于
在 GitHub 查看 hiroki-yokoyama/vision-mcp-server

使用说明

视觉MCP服务器

Windows 作为常驻进程运行Model Context Protocol (MCP) 服务器。llama-cpp-python 利用GGUF 形式的视觉语言模型CPU 中所述修改相应参数的值。可以从配置文件中选择模型信息和侦听端口,请求将通过队列进行串行处理。

安装,安装

  1. Python 3.11 准备以上内容,创建虚拟环境。
  2. 安装依赖关系。
    pip install --prefer-binary -e .
    
  3. 既存 artifacts/ 将目录复制到本项目的正下方。
    robocopy ..\SmolVLM-llama-cpp\artifacts .\artifacts /E
    
  4. config/server.toml 中描述的场景,使用以下步骤创建明细表,以便在概念设计中分析体量的体积。

起动

scripts\run_server.ps1

如果更改了服务器设置,请重新启动进程。

MCP 端点

  • RPC: analyze_image
  • 请求:提示字符串、图像路径(可选)、裁剪信息(可选)、生成参数。
  • 请求参数: max_image_size 中描述的场景,使用下列步骤创建明细表,以便在概念设计中分析体量的周长。
  • 裁剪: crop 的 [left, top, right, bottom](0〜1的正规化坐标)时,仅剪切该区域进行处理。
  • 响应:仅文本(优化图像说明和问题回答)。

VS Code 利用期间

  1. 此项目的任务 运行Vision MCP服务器 ,或者PowerShell 的 scripts\run_server.ps1 -Transport sse 中所述修改相应参数的值。
  2. 单击功能区上的ツールの構成...点击查看全文OK按钮上的MCPサーバーの追加...按钮关闭对话框HTTP(HTTPまたはサーバー送信イベント)选项卡页面上创建或编辑条目。然后MCPサーバーのURL在…之上http://localhost:8745/sse中所述修改相应参数的值。 或者,在客户端项目中 .vscode/mcp.json 创建,按以下内容SSE 注册端点。
    {
       "servers": {
          "vision-mcp": {
             "type": "http",
             "url": "http://localhost:8745/sse"
          }
       },
       "inputs": []
    }
    
  3. 客户端项目Copilot Chat中输入“<图像文件名>”等,代理判断为需要图像分析时MCP服务器analyze_image将运行该工具。

详细的使用方法是 docs/asset-management.md 和 config/server.toml 中所述修改相应参数的值。