本地模型测试工具

一个用于本地测试和运行AI模型的工具,支持与Ollama和Dive集成,提供模型管理和任务执行功能。

  • by elisherer
  • TypeScript
  • 本地部署
  • 更新于
在 GitHub 查看 elisherer/mcp-server-typescript-template

使用说明

入门指南

  • 查看存储库
  • 在shell中运行
    • npm i (或您选择的其他节点包管理器)
    • npm run dev (这将监听文件系统上的更改)

局部测试

  • 安装 没有 (macOs:安装时安装shell)

  • ollama pull llama3.2

  • ollama serve (应监听端口 11434)

  • 下载并运行 潜水

  • 在……里面 模型设置 选择 +添加提供者,选择 ollama 和 http://localhost:11434

  • 在……里面 工具管理(MCP) 放置MCP服务器配置(确保MCP服务器正在运行)。示例

{
  "mcpServers": {
    "my-tools": {
      "transport": "sse",
      "enabled": true,
      "url": "http://localhost:3001/sse"
    }
  }
}
  • 如果MCP服务器安装正确,它应该显示它支持的所有任务

  • 现在你可以聊天了,它会根据提示运行工具