使用说明
ContextWeaver
🧵 为 AI Agent 精心编织的代码库上下文引擎
Semantic Code Retrieval for AI Agents — Hybrid Search • Graph Expansion • Token-Aware Packing
ContextWeaver 是一个专为 AI 代码助手设计的语义检索引擎,采用混合搜索(向量 + 词法)、智能上下文扩展和 Token 感知打包策略,为 LLM 提供精准、相关且上下文完整的代码片段。
✨ 核心特性
🔍 混合检索引擎
- 向量召回 (Vector Retrieval):基于语义相似度的深度理解
- 词法召回 (Lexical/FTS):精确匹配函数名、类名等技术术语
- RRF 融合 (Reciprocal Rank Fusion):智能融合多路召回结果
🧠 AST 语义分片
- Tree-sitter 解析:支持 TypeScript/TSX、JavaScript、Python、Go、Java、Rust、C/C++ 和 C#;其他白名单语言或解析失败时按文本分片
- Dual-Text 策略:
displayCode用于展示,vectorText用于 Embedding - Gap-Aware 合并:智能处理代码间隙,保持语义完整性
- Breadcrumb 注入:向量文本包含层级路径,提升检索召回率
📊 三阶段上下文扩展
- E1 邻居扩展:同文件前后相邻 chunks,保证代码块完整性
- E2 面包屑补全:同一类/函数下的其他方法,理解整体结构
- E3 Import 解析:跨文件依赖追踪(可配置开关)
🎯 智能截断策略 (Smart TopK)
- Anchor & Floor:动态阈值 + 绝对下限双保险
- Delta Guard:防止 Top1 outlier 场景的误判
- Safe Harbor:前 N 个结果只检查下限,保证基本召回
🔌 MCP 原生支持
- MCP Server 模式:一键启动 Model Context Protocol 服务端
- 意图与术语分离:LLM 友好的 API 设计
- 自动索引:首次查询自动触发索引,增量更新透明无感
📦 快速开始
环境要求
- Node.js >= 20
- pnpm (推荐) 或 npm
安装
# 全局安装
npm install -g @hsingjui/contextweaver
# 或使用 pnpm
pnpm add -g @hsingjui/contextweaver
初始化配置
# 交互式配置向导(创建 ~/.contextweaver/.env)
contextweaver init
# 或简写
cw init
# 非交互环境(管道 / CI)或直接写入默认模板
contextweaver init --defaults
向导会引导完成全部配置:
- Embedding 服务:默认使用 ContextWeaver 内置本地模型,可选
jina-embeddings-v2-base-code、EmbeddingGemma-300M或Qwen3-Embedding-0.6B; 也可切换到 SiliconFlow、OpenAI、Ollama、LM Studio 等 OpenAI 兼容 HTTP API - Reranker 服务:SiliconFlow / 自定义 / 暂不配置(检索需要 Reranker,建议配置)
- 连通性测试:本地 Embedding 不联网;远程服务会验证地址、Key 和实际向量维度, 不一致时可一键修正
- 已有配置时可保留或重新配置,重新配置前旧文件自动备份为
.env.bak
也可以直接编辑 ~/.contextweaver/.env:
# 默认:ContextWeaver 内置本地 Embedding
EMBEDDINGS_PROVIDER=local
EMBEDDINGS_MODEL=embeddinggemma-300m
EMBEDDINGS_MAX_CONCURRENCY=1
# 远程回退:改用 OpenAI 兼容 Embedding API 时替换上面的配置
# EMBEDDINGS_PROVIDER=remote
# EMBEDDINGS_API_KEY=your-api-key-here
# EMBEDDINGS_BASE_URL=https://api.siliconflow.cn/v1/embeddings
# EMBEDDINGS_MODEL=BAAI/bge-m3
# EMBEDDINGS_MAX_CONCURRENCY=10
# EMBEDDINGS_DIMENSIONS=1024
# 单文件大小上限(可选,单位字节,默认 100 KB)
# MAX_FILE_SIZE_BYTES=102400
# Reranker 配置(必需)
RERANK_API_KEY=your-api-key-here
RERANK_BASE_URL=https://api.siliconflow.cn/v1/rerank
RERANK_MODEL=BAAI/bge-reranker-v2-m3
RERANK_TOP_N=20
# 忽略模式(可选,逗号分隔,gitignore 语法,可用 ! 取反默认项)
# IGNORE_PATTERNS=.venv,node_modules
本地 Embedding 模型
init 只写配置,不自动下载模型。首次索引前显式安装当前模型:
# 不带 action 时等同于 model list
contextweaver model
contextweaver model list
# 安装、切换和删除
contextweaver model install embeddinggemma-300m
contextweaver model install qwen3-embedding-0.6b
contextweaver model use qwen3-embedding-0.6b
contextweaver model remove jina-embeddings-v2-base-code
# 自动化环境可用 --yes 跳过删除确认
contextweaver model remove qwen3-embedding-0.6b --yes
# 无法直连 Hugging Face 时,可指定可信的兼容镜像
HF_ENDPOINT=https://your-hugging-face-mirror.example contextweaver model install embeddinggemma-300m
| 模型 ID | 参数量 | 维度 | 上下文 | 许可 |
|---|---|---|---|---|
jina-embeddings-v2-base-code |
161M | 768 | 8192 | Apache-2.0 |
embeddinggemma-300m(默认) |
300M | 768 | 2048 | Gemma license |
qwen3-embedding-0.6b |
600M | 1024 | 32768 | Apache-2.0 |
模型分别缓存在 ~/.contextweaver/models/<model-id>/,可以同时安装。除显式
model install 外,索引、搜索和 MCP 都只从本地缓存加载,不会静默下载;缺少模型时会给出
对应安装命令。Reranker 仍使用远程服务,因此完整检索并非完全离线。
未设置 EMBEDDINGS_PROVIDER 时,包含旧版 EMBEDDINGS_API_KEY、
EMBEDDINGS_BASE_URL 或非内置模型名的配置仍按 remote 解析,已有配置无需立即迁移。
配置体检
# 校验环境变量、目录权限、API 连通性与向量维度一致性
contextweaver doctor
# 跳过网络连通性测试
contextweaver doctor --offline
体检发现任何问题时返回非零退出码,其中维度不一致(EMBEDDINGS_DIMENSIONS 与接口实际
返回不符)是索引与检索失败的常见原因,体检会直接给出修正建议。
自定义忽略
忽略规则按优先级从低到高依次生效,后面的可覆盖前面的(gitignore 语义):
- 内置默认模式:构建产物、锁文件、
node_modules、点开头目录等(见src/config.ts) .gitignore:自动读取根目录及实际遍历到的子目录规则,保留目录相对匹配和!否定语义IGNORE_PATTERNS环境变量:临时覆盖,优先级最高,可用!取反前面的规则(如!dist)
与 git 一致:取反只对未被剪枝的目录内部生效。若目录本身已被忽略,需先取反该目录(
!dist而非!dist/app.ts)。
索引代码库
# 在代码库根目录执行
contextweaver index
# 指定路径
contextweaver index /path/to/your/project
# 强制重新索引
contextweaver index --force
索引按有限文件批次提交,失败文件和未完成的删除会在下次运行时重试。CLI 部分失败时返回非零退出码,MCP 不会把不完整索引当作已完成。
CLI 索引时展示实时进度条(扫描阶段为 Spinner 动画,索引阶段为百分比进度条 + 预计剩余时间;
管道 / CI 等非 TTY 环境自动降级为按里程碑输出纯文本),完成后输出带颜色的汇总面板。
进度条期间 info 级日志只写入日志文件,warn / error 仍会在控制台显示。
Embedding 模型、服务地址、维度或分块版本变化时会自动重建派生索引。升级前没有索引配置指纹的旧索引也会重建一次,产生新的 Embedding 请求。默认 100 KB 文件限制可通过 MAX_FILE_SIZE_BYTES 调整;增大上限会提高单批内存需求。
本地搜索
# 语义搜索
cw search --information-request "用户认证流程是如何实现的?"
# 带精确术语
cw search --information-request "数据库连接逻辑" --technical-terms "DatabasePool,Connection"
启动 MCP 服务器
# 启动 MCP 服务端(供 Claude 等 AI 助手使用)
contextweaver mcp
🔧 MCP 集成配置
Claude Desktop 配置
在 Claude Desktop 的配置文件中添加:
{
"mcpServers": {
"contextweaver": {
"command": "contextweaver",
"args": ["mcp"]
}
}
}
MCP 工具说明
ContextWeaver 提供一个核心 MCP 工具:codebase-retrieval
参数说明
| 参数 | 类型 | 必需 | 描述 |
|---|---|---|---|
repo_path |
string | ✅ | 代码库根目录的绝对路径 |
information_request |
string | ✅ | 自然语言形式的语义意图描述 |
technical_terms |
string[] | ❌ | 精确技术术语(类名、函数名等) |
设计理念
- 意图与术语分离:
information_request描述「做什么」,technical_terms过滤「叫什么」 - 同文件上下文优先:默认提供同文件上下文,跨文件探索由 Agent 自主发起
- 回归代理本能:工具只负责定位,跨文件探索由 Agent 按需触发
🏗️ 架构设计
flowchart TB
subgraph Interface["CLI / MCP Interface"]
CLI[contextweaver CLI]
MCP[MCP Server]
end
subgraph Search["SearchService"]
VR[Vector Retrieval]
LR[Lexical Retrieval]
RRF[RRF Fusion + Rerank]
VR --> RRF
LR --> RRF
end
subgraph Expand["Context Expansion"]
GE[GraphExpander]
CP[ContextPacker]
GE --> CP
end
subgraph Storage["Storage Layer"]
VS[(VectorStore<br/>LanceDB)]
DB[(SQLite<br/>FTS5)]
end
subgraph Index["Indexing Pipeline"]
CR[Crawler<br/>fdir] --> SS[SemanticSplitter<br/>Tree-sitter] --> IX[Indexer<br/>Batch Embedding]
end
Interface --> Search
RRF --> GE
Search <--> Storage
Expand <--> Storage
Index --> Storage
核心模块说明
| 模块 | 职责 |
|---|---|
| SearchService | 混合搜索核心,协调向量/词法召回、RRF 融合、Rerank 精排 |
| GraphExpander | 上下文扩展器,执行 E1/E2/E3 三阶段扩展策略 |
| ContextPacker | 上下文打包器,负责段落合并和 Token 预算控制 |
| VectorStore | LanceDB 适配层,管理向量索引的增删改查 |
| SQLite (FTS5) | 元数据存储 + 全文搜索索引 |
| SemanticSplitter | AST 语义分片器,基于 Tree-sitter 解析 |
📁 项目结构
contextweaver/
├── src/
│ ├── index.ts # CLI 入口
│ ├── config.ts # 配置管理(环境变量)
│ ├── cli/ # CLI 体验层
│ │ ├── init.ts # init 交互式配置向导
│ │ ├── doctor.ts # 配置体检命令
│ │ ├── prompts.ts # 交互提示原语(select/input/password/confirm)
│ │ ├── progress.ts # 进度条与 Spinner
│ │ ├── probe.ts # API 连通性探测
│ │ └── theme.ts # 颜色 / 符号 / TTY 降级
│ ├── api/ # 外部 API 封装
│ │ ├── embed.ts # Embedding API
│ │ └── rerank.ts # Reranker API
│ ├── chunking/ # 语义分片
│ │ ├── SemanticSplitter.ts # AST 语义分片器
│ │ ├── SourceAdapter.ts # 源码适配器
│ │ ├── LanguageSpec.ts # 语言规范定义
│ │ └── ParserPool.ts # Tree-sitter 解析器池
│ ├── scanner/ # 文件扫描
│ │ ├── crawler.ts # 文件系统遍历
│ │ ├── processor.ts # 文件处理
│ │ └── filter.ts # 过滤规则
│ ├── indexer/ # 索引器
│ │ └── index.ts # 批量索引逻辑
│ ├── vectorStore/ # 向量存储
│ │ └── index.ts # LanceDB 适配层
│ ├── db/ # 数据库
│ │ └── index.ts # SQLite + FTS5
│ ├── search/ # 搜索服务
│ │ ├── SearchService.ts # 核心搜索服务
│ │ ├── GraphExpander.ts # 上下文扩展器
│ │ ├── ContextPacker.ts # 上下文打包器
│ │ ├── fts.ts # 全文搜索
│ │ ├── config.ts # 搜索配置
│ │ ├── types.ts # 类型定义
│ │ └── resolvers/ # 多语言 Import 解析器
│ │ ├── JsTsResolver.ts
│ │ ├── PythonResolver.ts
│ │ ├── GoResolver.ts
│ │ ├── JavaResolver.ts
│ │ └── RustResolver.ts
│ ├── mcp/ # MCP 服务端
│ │ ├── server.ts # MCP 服务器实现
│ │ ├── main.ts # MCP 入口
│ │ └── tools/
│ │ └── codebaseRetrieval.ts # 代码检索工具
│ └── utils/ # 工具函数
│ └── logger.ts # 日志系统
├── package.json
└── tsconfig.json
⚙️ 配置详解
环境变量
| 变量名 | 必需 | 默认值 | 描述 |
|---|---|---|---|
EMBEDDINGS_PROVIDER |
❌ | local |
local(进程内模型)或 remote(OpenAI 兼容 API) |
EMBEDDINGS_MODEL |
local 可选 / remote 必需 | embeddinggemma-300m |
本地模型 ID;远程模式下为 API 模型名称 |
EMBEDDINGS_API_KEY |
仅 remote | - | 远程 Embedding API 密钥 |
EMBEDDINGS_BASE_URL |
仅 remote | - | 远程 Embedding API 地址 |
EMBEDDINGS_MAX_CONCURRENCY |
❌ | 10 | Embedding 并发数;本地默认模板写入 1 |
EMBEDDINGS_DIMENSIONS |
仅 remote | 1024 | 远程向量维度;本地维度由模型目录固定 |
RERANK_API_KEY |
✅ | - | Reranker API 密钥 |
RERANK_BASE_URL |
✅ | - | Reranker API 地址 |
RERANK_MODEL |
✅ | - | Reranker 模型名称 |
RERANK_TOP_N |
❌ | 20 | Rerank 返回数量 |
IGNORE_PATTERNS |
❌ | - | 额外忽略模式(逗号分隔,优先级最高) |
搜索配置参数
interface SearchConfig {
// === 召回阶段 ===
vectorTopK: number; // 向量召回数量(默认 30)
vectorTopM: number; // 送入融合的向量结果数(默认 30)
ftsTopKFiles: number; // FTS 召回文件数(默认 15)
lexChunksPerFile: number; // 每文件词法 chunks 数(默认 3)
lexTotalChunks: number; // 词法总 chunks 数(默认 30)
// === 融合阶段 ===
rrfK0: number; // RRF 平滑常数(默认 60)
wVec: number; // 向量权重(默认 1.0)
wLex: number; // 词法权重(默认 0.5)
fusedTopM: number; // 融合后送 rerank 数量(默认 40)
// === Rerank ===
rerankTopN: number; // Rerank 后保留数量(默认 10)
maxRerankChars: number; // Rerank 文本最大字符数(默认 1200)
// === 扩展策略 ===
neighborHops: number; // E1 邻居跳数(默认 2)
breadcrumbExpandLimit: number; // E2 面包屑补全数(默认 3)
importFilesPerSeed: number; // E3 每 seed 导入文件数(默认 0)
chunksPerImportFile: number; // E3 每导入文件 chunks(默认 0)
// === Smart TopK ===
enableSmartTopK: boolean; // 启用智能截断(默认 true)
smartTopScoreRatio: number; // 动态阈值比例(默认 0.5)
smartMinScore: number; // 绝对下限(默认 0.25)
smartMinK: number; // Safe Harbor 数量(默认 2)
smartMaxK: number; // 硬上限(默认 15)
}
🌍 多语言支持
ContextWeaver 通过 Tree-sitter 原生支持以下编程语言的 AST 解析:
| 语言 | AST 解析 | Import 解析 | 文件扩展名 |
|---|---|---|---|
| TypeScript | ✅ | ✅ | .ts, .tsx |
| JavaScript | ✅ | ✅ | .js, .jsx, .mjs |
| Python | ✅ | ✅ | .py |
| Go | ✅ | ✅ | .go |
| Java | ✅ | ✅ | .java |
| Rust | ✅ | ✅ | .rs |
其他语言会采用基于行的 Fallback 分片策略,仍可正常索引和搜索。
🔄 工作流程
索引流程
1. Crawler → 遍历文件系统,过滤忽略项
2. Processor → 读取文件内容,计算 hash
3. Splitter → AST 解析,语义分片
4. Indexer → 批量 Embedding,写入向量库
5. FTS Index → 更新全文搜索索引
搜索流程
1. Query Parse → 解析查询,分离语义和术语
2. Hybrid Recall → 向量 + 词法双路召回
3. RRF Fusion → Reciprocal Rank Fusion 融合
4. Rerank → 交叉编码器精排
5. Smart Cutoff → 智能分数截断
6. Graph Expand → 邻居/面包屑/导入扩展
7. Context Pack → 段落合并,Token 预算
8. Format Output → 格式化返回给 LLM
📊 性能特性
- 增量索引:只处理变更文件,二次索引速度提升 10x+
- 批量 Embedding:自适应批次大小,支持并发控制
- 速率限制恢复:429 错误时自动退避,渐进恢复
- 连接池复用:Tree-sitter 解析器池化复用
- 文件索引缓存:GraphExpander 文件路径索引 lazy load
🐛 日志与调试
日志文件位置:~/.contextweaver/logs/app.YYYY-MM-DD.log
设置日志级别:
# 开启 debug 日志
LOG_LEVEL=debug contextweaver search --information-request "..."
📄 开源协议
本项目采用 MIT 许可证。
🙏 致谢
- Tree-sitter - 高性能语法解析
- LanceDB - 嵌入式向量数据库
- MCP - Model Context Protocol
- SiliconFlow - 推荐的 Embedding/Reranker API 服务
Made with ❤️ for AI-assisted coding
