LLM聊天界面

一个基于Streamlit构建的简单、可定制的聊天界面,用于与本地大型语言模型(LLM)后端交互,具有深色主题和持久聊天历史功能。

  • by tech-nidhi
  • Python
  • 本地部署
  • 更新于
在 GitHub 查看 tech-nidhi/local-mcp-server

使用说明

使用LLM的聊天界面

一个简单、可定制的聊天界面,由 溪流 与本地LLM(大型语言模型)后端进行交互。采用深色模式主题和持久聊天历史,具有可读性。

🚀 特性

  • 💬 与Streamlit的交互式聊天界面
  • 🎨 深色主题的消息气泡(用户和助手)
  • 🔧 侧边栏型号选择
  • 🧠 使用您自己的设置进行本地模型推理
  • 📝 会话期间的聊天记录持久化
  • ⚡ 显示助理回复的响应时间

🛠️ 需求

  • Python 3.8+
  • 溪流
  • 任何后端LLM服务(自定义或本地API)

安装依赖项: pip安装-r要求.txt

📁 文件夹结构 . ├── main.py#Streamlit应用程序入口点 ├── requirements.txt#Python依赖项 ├── README.md#项目概述 └── 资产/ └── screenshot.png#UI预览(可选)

运行Streamlit应用程序: streamlit运行main.py

⚙️配置 确保您的后端LLM端点已集成到main.py中的prepare_chat()函数中。模型选择器将调用get_models()——根据您的设置进行自定义。

🧩自定义用户界面 修改自定义CSS的st.markdown()块。包括暗模式消息样式: .user消息{背景:#1e1e1e;颜色:#d4f1f9;} .assistant-msg { 背景: #2e2e2e; 颜色: #e0ffe0; }

🧠未来计划 模型配置面板(温度、最大令牌)

聊天记录下载

支持标记/渲染响应

🤝 贡献 欢迎提出请求和建议!分叉此仓库,并为任何增强或修复创建PR。

如果你想包括,请告诉我 徽章, API集成说明,或a 项目LOGO 在README中。