AI聊天机器人应用

TigerGPT是一款基于Web的AI聊天机器人应用,支持多种语言学习模型(LLMs)和模型控制协议(MCP)服务器,提供用户友好的界面与AI模型交互并配置系统。

  • by sbley
  • Python
  • 本地部署
  • 更新于
在 GitHub 查看 sbley/tigergpt

使用说明

🐯 TigerGPT

TigerGPT是一个基于网络的人工智能聊天机器人应用程序,支持多个LLM(语言学习模型)和MCP(模型控制协议)服务器。它提供了一个用户友好的界面,用于与人工智能模型交互和配置系统的各个方面。

特性

  • 与AI语言模型(OpenAI或Azure OpenAI)聊天
  • 支持MCP服务器以扩展AI功能
  • 基于流媒体的UI,便于交互
  • FastAPI后端提供强大的API支持
  • 可配置的LLM设置
  • 会话管理

需求

  • Python 3.12或更高版本
  • 所需的Python库(列在 需求.txt)
  • 访问OpenAI或Azure OpenAI服务

安装

  1. 克隆存储库:

    git clone https://github.com/yourusername/tigergpt.git
    cd tigergpt
    
  2. 创建虚拟环境:

    python -m venv .venv
    
  3. 激活虚拟环境:

    • 窗户:
      .venv\Scripts\activate
      
    • Linux/Mac:
      source .venv/bin/activate
      
  4. 安装依赖项:

    pip install -r requirements.txt
    
  5. 配置环境变量(可选):

    # For Azure OpenAI
    set AZURE_OPENAI_API_KEY=your_api_key
    set AZURE_OPENAI_ENDPOINT=https://your-endpoint.openai.azure.com
    set AZURE_OPENAI_API_VERSION=2024-09-01-preview
    set AZURE_OPENAI_DEPLOYMENT=your-deployment-name
    

运行应用程序

后端API服务器

运行FastAPI后端服务器:

python main.py

后端将于启动http://localhost:8000.您可以访问API文档:http://localhost:8000/docs.

流线型UI

在单独的终端中,运行Streamlit UI:

cd ui
streamlit run streamlit_app.py

用户界面将在http://localhost:8501.

使用TigerGPT

聊天界面

  1. 导航到Streamlit UIhttp://localhost:8501
  2. 使用“聊天”选项卡与AI交互
  3. 在输入框中键入您的信息,然后按Enter键
  4. 在聊天窗口中查看AI的响应

配置LLM设置

  1. 转到UI中的“LLM配置”选项卡
  2. 选择提供商(OpenAI或Azure)