记忆增强AI服务

TITAN Memory是一款具有人类记忆特性的AI服务,通过三级记忆系统(短时、长时和归档)实现跨对话的持续学习和上下文记忆,适用于个性化代码助手、项目上下文记忆等场景。

  • by henryhawke
  • TypeScript
  • 本地部署
  • 93 星标
  • 更新于
在 GitHub 查看 henryhawke/mcp-titan

使用说明

TITAN Memory:像你一样记得的AI

我有点放弃了,因为我没有钱训练它。欢迎提交任何形式的pull请求:)

将任何人工智能变成跨对话记忆的学习伙伴


什么是MCP-TITAN??

想想如何 你 记住事情:

  • 💭 短期记忆 -你5秒前听到的
  • 📝 长期记忆 -你稍后会想起的重要事实
  • 🗄️ 深度存储 -多年前你“只知道”的事情

希望 (分层在线持久编码)是TITAN的第二代,它赋予了AI同样的能力。它不会在每次谈话后忘记一切,而是像人脑一样积累知识。

希望解决的问题

❌ Standard AI (e.g., ChatGPT without plugins):
User: "I'm working on a React project with TypeScript"
AI: *Helps with code*
[Next session]
User: "How do I add a new component to my project?"
AI: "What framework are you using?" ← Forgot everything!

✅ HOPE Memory:
User: "I'm working on a React project with TypeScript"
HOPE: *Stores in long-term memory: React + TypeScript project*
[Next session]
User: "How do I add a new component?"
HOPE: *Recalls context* → "Here's a TypeScript React component for your project..."

主要特点

🧠 三层存储系统

像你的大脑一样,HOPE有多个记忆层次:

记忆水平 它存储了什么 有多长时间 就像你的大脑一样
短期的 当前对话 分钟数 工作记忆-你刚才听到的内容
长期 重要模式 天数/周数 综合事实——你研究的东西
档案 核心知识 永久性 深层知识-你“刚刚知道”的事情

例子:

Conversation: "My dog Max is 3 years old and loves fetch"

HOPE storage:
- Short-term: "User talking about Max right now"
- Long-term: "User has dog named Max, age 3" (promoted after repeated mentions)
- Archive: "User is pet owner" (core fact, rarely changes)

🎯 智能遗忘

并非所有事物都值得被铭记!

  • 令人惊讶/新奇的信息 → 存储时间更长
  • 重复无聊的东西 → 遗忘得更快
  • 重要图案 → 升级为长期储存

这可以防止内存膨胀,并专注于重要的事情。

📈 持续学习 (基于动量)

与训练后冻结的标准AI不同:

Standard AI: Learn once → Deploy → Never changes
HOPE: Learn → Deploy → Keep learning from every interaction

它是如何工作的:

  • 看到图案一次→ 小内存跟踪
  • 反复看到图案→ 更强的加固
  • 矛盾信息→ 逐步更新(非灾难性覆盖)

这叫做 动量学习 -变化发生得很顺利,阻止了人工智能“忘记”重要的事情。

🔗 序列理解 (令牌流)

希望理解 序列,而不仅仅是个人事实:

❌ Standard: Knows "cat", "sat", "mat" as separate words
✅ HOPE: Understands "cat sat on mat" as a pattern

User: "The cat..."
HOPE: *Predicts "sat on mat"* (learned sequence)

📊 基于惊喜的注意力

HOPE关注意外:

Input: "The sky is blue"
HOPE: Low surprise → Process quickly, minimal storage

Input: "The sky is green with purple clouds"
HOPE: High surprise! → Deep processing, strong memory trace

工作原理(技术概述)

希望建筑

HOPE基于以下前沿研究 嵌套学习 -学习同时发生在多个层面的想法:

┌─────────────────────────────────────┐
│  INPUT: "Help me debug this code"  │
└──────────────┬──────────────────────┘
               │
        ┌──────▼─────────┐
        │  Memory Router  │  ← Decides where to look
        │  (Surprise-based)│
        └──────┬──────────┘
               │
    ┌──────────┼──────────┐
    │          │          │
 ┌──▼─┐    ┌──▼─┐    ┌──▼─┐
 │Short│    │Long│    │Arch│  ← Three memory tiers
 │Term │    │Term│    │ive │
 └──┬─┘    └──┬─┘    └──┬─┘
    │          │          │
    └──────────┼──────────┘
               │
        ┌──────▼─────────┐
        │ Retentive Core  │  ← Processes & integrates
        │ (Sequence Model)│
        └──────┬──────────┘
               │
        ┌──────▼─────────┐
        │  Momentum       │  ← Smooth learning
        │  + Forgetting   │
        └──────┬──────────┘
               │
        ┌──────▼─────────┐
        │  OUTPUT         │
        │  + Memory Update│
        └─────────────────┘

核心机制

  1. 连续存储系统(CMS)

    • 具有自动升级/降级功能的多层存储
    • 记忆根据访问模式和惊喜在层之间移动
  2. 基于动量的更新 (摘自研究论文)

    M_t = (1 - α) * M_t + S_t
    
    Where:
    - M_t = Memory at time t
    - α = Forgetting gate (higher for boring stuff)
    - S_t = Momentum term (accumulated learning)
    
  3. 选择性状态空间过滤器 (曼巴风格)

    • 高效的序列处理
    • 基于上下文的自适应过滤
  4. 稀疏路由

    • 并非每次查询都会检查所有内存
    • 将查询路由到相关内存层

安装和设置

需求

  • Node.js 22+ (TensorFlow.js优化所需)
  • npm或bun包管理器

快速开始

# Install
npm install @henryhawke/mcp-titan

# Or with bun
bun add @henryhawke/mcp-titan

光标配置

添加 ~/.cursor/settings.json:

{
  "mcp": {
    "servers": {
      "hope-memory": {
        "command": "npx",
        "args": ["-y", "@henryhawke/mcp-titan"],
        "workingDirectory": "/path/to/your/memory/storage"
      }
    }
  }
}

Claude桌面配置

  1. 打开克劳德桌面设置
  2. 添加MCP服务器:
    • 姓名: 希望记忆
    • 命令: npx
    • Args: -y @henryhawke/mcp-titan
    • 工作目录: 存储记忆的位置(默认值: ~/.hope_memory)

首次运行

# Start the HOPE server
npx @henryhawke/mcp-titan

# The server will:
# 1. Create ~/.hope_memory/ directory
# 2. Initialize empty memory banks
# 3. Start listening for MCP tool calls

操作快速入门

  1. 运行服务器: bun run build && bun start (或 npx @henryhawke/mcp-titan)
  2. 按顺序初始化工具:
    • init_model
    • init_tokenizer
    • start_learner
  3. 储存和召回:
    • 店铺: store_memory { text, type?: episodic|semantic }
    • 召回: recall { query, topK? }
    • 蒸馏: distill_memories { memories: number[][] }
  4. 在线学习:
    • 添加数据: enqueue_samples (一批输入/目标对,可选正/负)
    • 状态: learner_status
    • 控制: start_learner, pause_learner, stop_learner
  5. 检查点:
    • 保存: save_checkpoint { path }
    • 汽车出口: export_checkpoint → .hope_memory/checkpoints
    • 导入: import_checkpoint { filename } 或 load_checkpoint { path }
  6. 健康:
    • health_check --detailed
    • get_hierarchical_metrics, get_momentum_metrics, get_token_flow_metrics
  7. 安全默认值:
    • 输入经过消毒并加盖长度;阵列验证;沙盒路径
    • URL引导使用超时/大小保护
    • 日志经过结构化、轮换和编辑

哑巴开始

  1. bun run build && bun start
  2. 呼叫 init_model那么 init_tokenizer那么 start_learner
  3. store_memory 保存事实; recall 去接他们
  4. enqueue_samples 教学;手表 learner_status
  5. export_checkpoint 备份; import_checkpoint 恢复
  6. 如果卡住: health_check --detailed

向后兼容

  • Titan别名仍然被导出(例如。, TitanMemoryModel → HOPE)
  • 检查点包括版本+校验和,并在加载时验证维度

使用示例

基本内存操作

// In your AI chat interface (Claude, Cursor, etc.)

// 1. Initialize memory (first time)
> init_model

// 2. Store some context
> bootstrap_memory text="I'm building a Python web app with FastAPI and PostgreSQL"

// 3. Have conversations - HOPE learns automatically
> help me set up database migrations
[HOPE stores: User uses FastAPI + PostgreSQL]

> how do I add authentication?
[HOPE recalls context: FastAPI project → suggests FastAPI-specific auth]

// 4. Check what's stored
> get_memory_state

// 5. Save for later
> save_checkpoint path="my_project_memory.json"

训练希望

// Explicit training on patterns
> train_step
  x_t: "def hello"
  x_next: "world"

// HOPE learns: "def hello" → "world" pattern

// Later:
> forward_pass input="def hello"
// Predicts: "world" (or similar completion)

在线学习模式

// Start continuous learning
> init_learner

// Feed training samples as you work
> add_training_sample data="function add(a, b) { return a + b; }"

// HOPE learns in background, memory updates automatically

// Check learning progress
> get_learner_stats

可用的MCP工具

希望曝光 19工具 通过模型上下文协议:

内存管理

  • init_model -初始化或重新配置内存系统
  • bootstrap_memory -从文本或URL快速加载上下文
  • get_memory_state -检查当前内存内容
  • memory_stats -获取统计摘要
  • prune_memory -清理低价值记忆

学习操作

  • forward_pass -查询内存并获取预测
  • train_step -从示例对中进行显式学习
  • reset_gradients -清晰的训练状态

坚持

  • save_checkpoint -将内存保存到文件
  • load_checkpoint -从检查点还原

在线学习

  • init_learner -启动后台学习服务
  • pause_learner / resume_learner -控制学习
  • get_learner_stats -监控学习指标
  • add_training_sample -输入训练数据

高级指标

  • get_token_flow_metrics -序列模式分析
  • get_hierarchical_metrics -内存层分布
  • health_check -系统健康与性能

公用事业

  • help -列出所有可用工具及其说明

看 docs/api/README.md 以获取完整的API参考。


真实世界用例

1. 个性化代码助手

Day 1: "I'm learning Rust"
HOPE: Stores preference for Rust

Day 5: "Show me how to handle errors"
HOPE: Recalls Rust context → Shows Result<T, E> pattern
      (Not Python try/catch or JavaScript throw)

2. 项目上下文记忆

Store once: "Working on e-commerce site, React frontend, Django backend, Stripe payments"

Every question after:
- "Add a new product page" → HOPE knows React + Django + ecommerce context
- "How do I refund a payment" → HOPE knows you use Stripe
- "Deploy to production" → HOPE remembers full stack (React + Django)

3. 研究助理

Feed HOPE 50 research papers on neural networks

Query: "What's the consensus on attention mechanisms?"
HOPE:
- Short-term: Current paper's view
- Long-term: Cross-paper patterns identified
- Archive: Fundamental concepts
→ Synthesized answer from all levels

4. 持续学习聊天机器人

Traditional bot:
- User: "No, I meant X not Y"
- Bot: "OK" → Forgets next session

HOPE bot:
- User: "No, I meant X not Y"
- HOPE: Stores correction in long-term memory
- Next session: Remembers correction automatically

性能和可扩展性

基准测试

度量 性能
内存初始化 ~100ms
正向传递(查询) <50ms(第95百分位)
训练步长 ~75ms
检查点保存/加载 10K内存约200ms
内存占用 ~500MB用于典型使用

容量

  • 短期: 64个插槽(快速访问)
  • 长期: 256个插槽(介质访问)
  • 档案文件: 512个插槽(稳定存储)
  • 总计: 约800条不同的内存痕迹

内存会根据以下因素自动升级/降级:

  • 访问频率
  • 惊奇价值
  • 时间新近性

建筑深潜

对于对实施感兴趣的技术用户:

研究基金会

HOPE实现了以下概念:

  • 嵌套学习 -多级优化问题
  • 连续存储系统 -具有不同更新频率的多层存储
  • 保留网络 -高效的序列建模
  • 选择性状态空间模型 (Mamba)-自适应滤波

看 HOPE.md 完整的研究论文。

关键组件

src/hope_model/
├── index.ts              # Main HopeMemoryModel class
├── continuum_memory.ts   # Three-tier memory management
├── retention_core.ts     # Sequence processing
├── memory_router.ts      # Surprise-based routing
├── mamba_filters.ts      # Selective state-space filters
└── optimizer_hooks.ts    # Delta compression, layer scheduling

内存状态结构

interface HopeMemoryState {
  shortTerm: Tensor2D;       // Recent activations [N, 256]
  longTerm: Tensor2D;        // Consolidated patterns [M, 256]
  archive: Tensor2D;         // Stable knowledge [K, 256]

  surpriseHistory: Tensor1D; // Surprise scores over time
  accessCounts: Tensor1D;    // How often each memory accessed
  timestamps: Tensor1D;      // When each memory created

  // HOPE-specific enhancements
  momentumState?: Tensor2D;  // Momentum for smooth learning
  tokenFlowHistory?: number[][]; // Sequence patterns
  levelIndex: Tensor1D;      // Which tier each memory belongs to
}

发展

从源代码构建

git clone https://github.com/henryhawke/mcp-titan.git
cd mcp-titan

# Install dependencies
bun install  # or npm install

# Build
bun run build

# Test
bun test

# Run locally
bun start

项目结构

mcp-titan/
├── src/
│   ├── hope_model/          # Core HOPE architecture
│   ├── tokenizer/           # BPE tokenization & embeddings
│   ├── training/            # Training pipeline
│   ├── index.ts             # MCP server entry point
│   └── types.ts             # TypeScript interfaces
├── docs/
│   ├── api/                 # API documentation
│   ├── architecture-overview.md
│   └── typescript-error-resolution-guide.md
├── test/                    # Test suites
├── HOPE.md                  # Research paper
├── PLAN.md                  # Implementation roadmap
└── README.md                # This file

运行测试

# All tests
bun test

# With coverage
bun test --coverage

# Specific test file
bun test src/__tests__/hope_model.test.ts

路线图

✅ 已实现(v3.0)

  • [x] 三层连续存储系统
  • [x] 保留序列处理
  • [x] 选择性状态空间过滤器
  • [x] 具有意外检测的内存路由
  • [x] 分级晋升/降级
  • [x] 配备19个工具的MCP服务器
  • [x] 检查点保存/加载
  • [x] 在线学习服务

🚧 进行中(v3.1)

  • []修复TypeScript编译错误(42→0)
  • []实施基于动量的更新(方程式32-33)
  • []激活遗忘门机制
  • []令牌流跟踪

🔮 计划(v4.0)

  • []深度神经记忆模块(基于MLP)
  • []自我修正学习
  • []多模式存储器(文本+代码+图像)
  • []跨多个服务器的分布式内存
  • []细粒度访问控制

看 计划.md 详细的实施计划。


故障排除

“找不到模块”错误

# Ensure Node.js 22+
node --version

# Reinstall dependencies
rm -rf node_modules package-lock.json
npm install

长会话期间内存泄漏

// HOPE has automatic cleanup, but you can manually trigger:
> reset_gradients
> prune_memory threshold=0.1

TypeScript编译错误

当前已知问题(已在v3.1中修复)。尽管有错误,仍要使用:

# Skip type checking
npm run build --skipTypeCheck

# Or use published version
npx @henryhawke/mcp-titan

性能缓慢

// Reduce memory capacity in config
> init_model config={
  "shortTermSlots": 32,  // Default 64
  "longTermSlots": 128,  // Default 256
  "archiveSlots": 256    // Default 512
}

贡献

欢迎投稿!需要帮助的领域:

  1. 修复TypeScript错误 -请参阅 docs/typescript-error-resolution-guide.md
  2. 实施势头更新 -请参阅 PLAN.md 第1阶段,任务1.1
  3. 文档改进 -让希望更容易实现
  4. 测试覆盖率 -当前约60%,目标80%+

开发工作流程

  1. 分叉回购
  2. 创建要素分支: git checkout -b feature/amazing-feature
  3. 进行更改和测试: bun test
  4. 承诺: git commit -m 'Add amazing feature'
  5. 推: git push origin feature/amazing-feature
  6. 打开拉取请求

看 贡献.md 详细指南。


研究与引用

如果你在研究中使用HOPE,请引用:

@article{behrouz2025nested,
  title={Nested Learning: The Illusion of Deep Learning Architectures},
  author={Behrouz, Ali and Razaviyayn, Meisam and Zhong, Peiling and Mirrokni, Vahab},
  journal={NeurIPS},
  year={2025}
}

相关工作

  • 变压器XL -长序列的分段重复
  • 保留网络 -注意力的有效替代方案
  • 曼巴 -选择性状态空间模型
  • 测试时间培训(TTT) -神经网络中的在线学习
  • 快速重量编程器 -动态重量更新

许可证

MIT许可证-请参阅 许可证 文件


支持与社区


常见问题

Q: 这与RAG(检索增强生成)有什么不同?

A. RAG获取外部文件;希望建立内部神经记忆。

特写 RAG 希望
存储 外部向量数据库 内部神经张量
学习 不学习(只检索) 有动力的持续学习
遗忘 永不忘记(储存所有) 聪明遗忘(修剪低价值)
上下文 检索到的文档 学习到的模式
速度 较慢(外部查找) 较快(内存中)

Q: 希望会取代微调吗?

A. 不,是互补的。微调=培训前知识。HOPE=特定会话学习。

Base Model → Fine-tuning → HOPE Learning
(General)    (Domain)      (User-specific)

Q: HOPE使用了多少内存?

A. 典型约500MB,可配置。通过降低层容量来减少。

Q: HOPE可以在CPU上运行吗?

A. 对!使用TensorFlow.js节点后端(CPU)。GPU可选,但不是必需的。

Q: 我的数据是私有的吗?

A. 对。HOPE在本地运行,内存存储在您的磁盘上(~/.hope_memory).没有云上传。


由...制作❤️ HOPE团队

将你的AI变成一个与你一起成长的学习伙伴。