命令行AI聊天工具

MCP Chat是一个基于Llama模型的命令行AI聊天工具,支持文档检索和命令提示功能。

  • by jayyprajapati
  • Python
  • 本地部署
  • 更新于
在 GitHub 查看 jayyprajapati/Chatbot-the-MCP-way

使用说明

MCP聊天

MCP Chat是一个命令行界面应用程序,可以使用Llama(通过Ollama)与AI模型进行交互式聊天。该应用程序通过MCP(模型控制协议)架构支持文档检索、基于命令的提示和可扩展的工具集成。

先决条件

  • Python 3.10+
  • Ollama已在本地安装并运行(用于Llama推理)
  • 在Ollama下载的Llama模型

设置

步骤0:安装并启动Olama

  1. 下载并安装 奥拉玛
  2. 拉一个Llama模型:
    ollama pull llama2
    
  3. 启动Ollama服务器:
    ollama serve
    
    服务器将在上运行 http://localhost:11434 默认情况下。

步骤1:配置环境变量

  1. 创建或编辑 .env 在项目根目录中创建文件,并验证以下变量是否设置正确:
LLAMA_MODEL="llama2"  # Change to your downloaded model if different
OLLAMA_BASE_URL="http://localhost:11434"  # Ollama server URL

步骤2:安装依赖项

选项1:使用紫外线设置(推荐)

紫外线 是一个快速的Python包安装程序和解析器。

  1. 如果尚未安装,请安装uv:
pip install uv
  1. 创建并激活虚拟环境:
uv venv
source .venv/bin/activate  # On Windows: .venv\Scripts\activate
  1. 安装依赖项:
uv pip install -e .
  1. 运行项目
uv run main.py

选项2:无紫外线设置

  1. 创建并激活虚拟环境:
python -m venv .venv
source .venv/bin/activate  # On Windows: .venv\Scripts\activate
  1. 安装依赖项:
pip install requests python-dotenv prompt-toolkit "mcp[cli]==1.8.0"
  1. 运行项目
python main.py

用法

基本相互作用

只需键入您的信息,然后按Enter键即可与模特聊天。

文献检索

使用@符号后跟文档ID在查询中包含文档内容:

> Tell me about @deposition.md

命令

使用/前缀执行MCP服务器中定义的命令:

> /summarize deposition.md

按Tab键时,命令将自动完成。

发展

添加新文档

编辑 mcp_server.py 将新文档添加到 docs 字典。

实施MCP功能

要完全实现MCP功能:

  1. 在中完成TODO mcp_server.py
  2. 实现中缺失的功能 mcp_client.py

敲击和打字检查

没有实施棉绒或类型检查。