使用说明

蜂巢思维

具有语义RAG、持续学习和网络威胁防御的分布式人工智能记忆系统

一个自我改进的人工智能后端，可以在会话之间持久化上下文，用语义RAG丰富LLM提示，并根据自身的交互不断微调本地模型。权力 Talos AI Suricata 用于自主网络威胁防御。完全本地，零云依赖。

它的作用

持久内存 跨终端重启，通过Redis集群跨机器共享
语义RAG 自动将相关上下文注入到每个LLM提示符中
持续学习 该管道收集交互，通过QLoRA进行微调，导出到GGUF，并将模型热交换到生产中
网络威胁防御 --权力 Talos AI Suricata 用于自主IDS警报分析和防火墙阻止
双重访问模式 通过MCP协议（Claude Code）和HTTP API（任何客户端）
主动检索跟踪 具有命中率监测和差距分析功能
多节点架构 --aurora上的GPU推理、alderlake上的服务、NAS上的存储

建筑

组件	主机	端口	角色
Redis 集群	极光	7000-7002	3大师、会话、事实、缓存、苏里卡塔警报流
Redis副本	alderlake	7003-7005	3个副本用于读取扩展
HiveCoder（Qwen3-14B）	aurora	8089/8090	LLM推理（骆驼服务器+Hive Mind HTTP代理）
嵌入服务	alderlake	8081	bge-small-en-v1.5用于语义RAG（CPU）
HTTP API	aurora	8090	OpenAI兼容代理，支持RAG注入
MCP服务器	aurora	stdio	克劳德代码集成，13个工具
学习守护进程	极光	-	5分钟间隔，耗尽队列，触发QLoRA训练
Talos AI Suricata	alderlake	5140/8080	威胁分析容器（eve_receiver、ai_suricata、仪表板）

数据流

User Query
  -> MCP Server or HTTP API
    -> Semantic RAG (embed query, cosine sim against facts)
      -> Inject matching facts into system prompt
        -> HiveCoder / Qwen3-14B (:8090)
          -> Response returned
            -> Interaction logged to learning queue

Learning Queue (Redis Stream)
  -> Continuous Learning Daemon (every 5 min)
    -> Quality filter
      -> QLoRA fine-tune -> GGUF export -> Hot swap HiveCoder

Suricata Alerts (via Talos AI Suricata)
  -> OPNsense syslog -> eve_receiver (alderlake:5140)
    -> Redis -> ai_suricata daemon
      -> HiveCoder analysis -> 4-tier auto-block -> OPNsense API

MCP工具

类别	工具
记忆	`memory_store`, `memory_recall`, `memory_list_sessions`
事实/RAG	`fact_store`, `fact_get`, `fact_delete`, `fact_suggestions`
LLM	`llm_generate`, `llm_code_assist`, `llm_complete`
网络	`web_fetch`, `web_search`
桥	`conversation_log`, `conversation_recent`
系统	`tool_cache_get`, `tool_cache_set`, `learning_queue_add`, `get_stats`

演出

组件	度量	值
HiveCoder（Qwen3-14B）	生成速度	~54tok/s
HiveCoder（Qwen3-14B）	提示处理	~241 tok/s
Redis集群	流水线吞吐量	59763次操作/秒
Redis集群	延迟	<1ms
RAG	命中率	87.5%（31个事实，语义）
训练	全周期（QLoRA）	~4分钟（LoRA+GGUF输出）
VRAM	推理	~13GB/32GB

快速开始

先决条件

Docker或Podman（适用于Redis集群）
Python 3.12+（在3.14上测试）
AMD GPU，16GB+VRAM和ROCm 6.x+（在R9700 32GB、ROCm 7.12上测试）
llama.cpp (llama-server 二进制）

安装

git clone https://github.com/tlee933/hive-mind.git
cd hive-mind

# Deploy Redis Cluster (6 nodes + Docker)
./scripts/deploy-redis-cluster.sh

# Python environment
python3 -m venv .venv
source .venv/bin/activate
pip install -r requirements.txt

# Configure
cp config.example.yaml config.yaml
# Edit config.yaml with your Redis password and model paths

启动服务

# Redis (should already be running via Docker/Podman)
docker ps | grep redis

# HiveCoder (Qwen3-14B)
./scripts/start-hivecoder.sh

# HTTP API
source .venv/bin/activate
CONFIG_PATH=../config.yaml python mcp-server/http_server.py

Claude代码集成

增添 .mcp.json 或 ~/.config/claude-code/mcp_config.json:

{
  "mcpServers": {
    "hive-mind": {
      "command": "python",
      "args": ["mcp-server/server.py"],
      "env": {
        "CONFIG_PATH": "/path/to/hive-mind/config.yaml"
      }
    }
  }
}

HTTP API

# Health check
curl localhost:8090/health

# Chat with RAG injection
curl localhost:8090/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{"messages": [{"role": "user", "content": "explain btrfs snapshots"}]}'

# Interactive docs
open http://localhost:8090/docs

持续学习管道

随着时间的推移，该系统不断改进——交互成为HiveCoder的训练数据：

收集 --每个LLM交互都记录到Redis流中
过滤器 --质量过滤器去除低质量样本
火车 --QLoRA微调（4位NF4，r=16，alpha=32）在50多个样本后触发
出口 --训练模型导出到GGUF（Q5_K_M）
部署 --Symlink热插拔+llama服务器重启，零停机

两条训练路径：

自动化 --每天凌晨2点的systemd计时器(hive-mind-training.timer)
连续的 --守护进程监控学习队列，在达到阈值时进行训练(hivecoder-learning.service)

两者都使用QLoRA（bitsandbytes 4-bit，从ROCm/gfx1201的源代码构建），并在训练期间停止LLM服务器以释放VRAM。

# Check learning status
python learning-pipeline/scripts/continuous_learning.py --status

# Force immediate training
python learning-pipeline/scripts/continuous_learning.py --train-now

语义RAG

每一个LLM电话都丰富了知识库中的相关事实：

嵌入使用bge-small-en-v1.5（384 dim，通过alderlake嵌入服务在CPU上运行）的用户查询
搜索基于余弦相似性的预计算事实嵌入
过滤器 按阈值（>=0.45良好，>=0.6强匹配）
注入在发送到llama服务器之前，将事实匹配到系统提示中
轨道检索质量（命中率、漏检、弱匹配）

硬件

节点	角色	规格
极光	GPU推理+训练，Redis初级	AMD Ryzen 9，PowerColor AI PRO R9700 32GB VRAM，ROCm 7.12，32GB RAM
奥尔德莱克	Talos AI Suricata，Redis复制品，嵌入	i7-12700（20T），64GB RAM，PowerColor Red Devil RX 6700 XT 12GB VRAM，Fedora CoreOS
网络附加存储	持久存储（EVE日志、模型、备份）	Synology、NFS、11TB
OPNsense	防火墙、Suricata IPS、DNSBL	192.168.1.1

项目结构

hive-mind/
  mcp-server/
    server.py              # MCP server (stdio, 13 tools)
    http_server.py         # HTTP API (:8090) with RAG injection
  learning-pipeline/
    scripts/
      continuous_learning.py   # Training daemon (QLoRA, GPU orchestration)
      train_lora.py            # LoRA/QLoRA fine-tuning
      automated_training.sh    # Daily 2 AM training (systemd timer)
      export_model.py          # GGUF export
    models/                    # Model registry + exports
  scripts/
    deploy-redis-cluster.sh    # Redis cluster setup
    start-hivecoder.sh         # HiveCoder launcher
    backup-to-nas.sh           # Daily model backup with rotation
  config.yaml                  # Redis, inference, embedding config
  diagram_hivemind.py          # Architecture diagram generator (Pillow)
  hivemind_architecture.png    # Architecture diagram

如何比较

功能	蜂巢思维	Mem0	LangMem	Qdrant MCP
持久内存	是	是	有	有
语义RAG	是	是	有	有
本地LLM推理	是	否	否	不
持续微调（QLoRA）	是	否	否	否
自我改进模型	是	否	否	否
网络威胁防御	是	否	否	否
多节点部署	是	否	否	否
检索质量跟踪	是	否	否	否
MCP协议	是	是	否	是
完全本地/零云	是	否	否	部分

文档

文档	描述
JOURNEY.md	完整的项目历史记录、构建日志
QUICKSTART.md	2分钟后开始跑步
MCP_SERVER_READY.md	操作状态、所有工具、配置
docs/ARCHITECTURE.md	深入系统设计
学习管道/README.md	培训管道文件

许可证

麻省理工学院

基于Fedora Atomic（Kinoite 43）构建，采用ROCm 7.12和PyTorch 2.10

返回顶部

使用说明

蜂巢思维

它的作用

建筑

数据流

MCP工具

演出

快速开始

先决条件

安装

启动服务

Claude代码集成

HTTP API

持续学习管道

语义RAG

硬件

项目结构

如何比较

文档

许可证

相关 MCP

智能体工程操作系统

科学任务自进化代理系统

AI推理增强服务器

记忆增强AI服务

智能代码开发插件

网页内容抓取服务器