AI导哈

本地AI模型交互工具

MCP Chat是一个命令行界面（CLI）应用程序，用于通过Ollama服务器与本地AI模型交互，支持对话式工作流、文档感知查询和使用模型控制协议（MCP）的命令操作。

  • by Shubhamraut01
  • Python
  • 本地部署
  • 更新于
在 GitHub 查看 Shubhamraut01/mcp-ollama

使用说明

MCP聊天

MCP Chat是一个命令行界面（CLI）应用程序，用于通过Ollama服务器与本地AI模型进行交互。它支持使用模型控制协议（MCP）的会话工作流、文档感知查询和基于命令的操作。

特性

  • 与当地LLM互动聊天（通过Ollama）
  • 使用内联引用进行文档检索(@document)
  • 使用MCP执行命令(/commands)
  • 用于添加工具和工作流的可扩展架构
  • CLI自动补全支持

先决条件

  • Python 3.9+
  • Ollama已安装并正在运行

设置

1.环境配置

创建一个 .env 项目根目录中的文件：

OLLAMA_MODEL="llama3.2:latest"
# Optional
# OLLAMA_HOST="http://localhost:11434"

2.安装

选项1：使用紫外线（推荐）

pip install uv

uv venv
source .venv/bin/activate      # Windows: .venv\Scripts\activate

uv pip install -e .

运行应用程序：

uv run main.py

选项2：标准设置

python -m venv .venv
source .venv/bin/activate      # Windows: .venv\Scripts\activate

pip install ollama python-dotenv prompt-toolkit "mcp[cli]==1.8.0"

python main.py

Ollama设置

启动Ollama服务器：

ollama serve

如果所需型号尚未可用，请拉取：

ollama pull llama3.2:latest

用法

聊天

键入信息并按Enter键：

> What is MCP architecture?

文献检索

参考文件使用 @:

> Explain @deposition.md

这将文档内容注入到模型上下文中。

命令

使用 / 执行MCP命令：

> /summarize deposition.md
  • 支持基于选项卡的自动补全
  • 命令通过MCP服务器处理

项目结构

  • main.py → CLI入口点
  • mcp_client.py → 处理模型交互和命令路由
  • mcp_server.py → 定义文档、命令和工具

发展

添加文档

更新 docs 字典在 mcp_server.py:

docs = {
    "example.md": "Document content here"
}

添加命令

  1. 在中定义命令处理程序 mcp_server.py
  2. 向MCP注册
  3. 确保它可以从客户端调用

扩展功能

您可以通过集成以下内容来扩展MCP聊天：

  • 外部API
  • 回收管道（RAG）
  • 自定义工具和工作流程

备注

  • 未配置linting或类型检查
  • 专为本地优先的人工智能工作流程而设计
  • 易于扩展到更大的代理框架

相关 MCP