OLLAMA本地模型交互客户端

一个基于BeeAI框架的轻量级客户端应用,用于与本地OLLAMA模型交互,并利用MCP代理工具进行数据库操作和请求转换。

  • by tamdilip
  • JavaScript
  • 本地部署
  • 5 星标
  • 更新于
在 GitHub 查看 tamdilip/mcp-ollama-beeai

使用说明

🤖 麦科马·贝艾

与本地交互的最小客户端应用程序 观看 模型利用多种 主控程序 代理工具使用 BeeAI 框架。

下面是这个带有聊天界面的客户端应用程序的示例可视化,显示了人工智能使用正确的MCP代理并用LLM转换请求和响应时所采取的思考步骤执行的postgres数据库操作:

用法

📋 先决条件

1.本地olama服务器

使用以下命令在本地计算机上安装和维护ollama。

  • 确保您的机器有足够的可用内存,至少16GB的RAM供型号运行。
  • 如果要为模型使用远程服务器,请跳过本地安装。
        $ curl -fsSL https://ollama.com/install.sh | sh
        $ ollama serve
        $ ollama pull llama3.1

2.MCP服务器列表配置

在中添加您的MCP代理 mcp-servers.json 根文件夹中的文件,供应用程序拾取并与LLM一起工作。

  • 默认服务器包括 后格雷斯 和 获取. Make sure to update you postgres connection URL
  • 可用于配置的其他MCP代理工具列表-https://modelcontextprotocol.io/examples

3.环境

如果要使用不同的LLM模型和LLM服务器,请在之前重写以下属性 npm start

        OLLAMA_CHAT_MODEL=llama3.1
        OLLAMA_BASE_URL=http://localhost:11434/api

🎮 启动您的应用程序

        $ git clone https://github.com/tamdilip/mcp-ollama-beeai.git
        $ cd mcp-ollama-beeai
        $ npm i
        $ npm start

应用程序启动并运行后,在浏览器中点击->http://localhost:3000

附加上下文:

  • 默认情况下,着陆时不会向MCP代理咨询问题。
  • 要使用问题的相应MCP代理可以从以下选项中选择 Server & tools UI中的下拉菜单。
  • BeeAI 框架用于简化设置 ReAct 使用MCP工具的(理性和行为)代理。
  • Markdown JS库用于以适当的可读视觉格式呈现响应。

快乐编码:)!!