产品介绍
华宇记忆(huayu-memory)为华宇大模型与清大华宇AI 提供持久记忆能力:模型在对话中记住的偏好、决策与规范,跨会话、跨项目持续可用,无需每次重新交代。
- 混合检索:SQLite FTS5 全文索引 + bge-m3 向量嵌入(1024 维)双重召回,按相关度排序;
- 自动沉淀:会话结束时自动提炼对话要点(规则/决策/偏好)并入库存档;
- 主动注入:每轮对话开始前按当前话题召回相关记忆,静默注入上下文;
- 轻量私有化:单容器部署,CPU 即可运行(bge-m3 约 2.3 GB),模型不可用时自动降级为关键词检索;
- 即插即用:集成于清大华宇AI,开箱即用;也提供 REST API 供自有系统接入。
工作方式
- 会话中:模型通过
memory_search/memory_save工具显式查询与保存记忆; - 每轮开始:自动以当前问题检索记忆库,命中内容以快照形式注入上下文;
- 会话结束:自动提炼整段对话,把值得记住的结论与约定写入记忆库;
- 下次对话:相关记忆自动带出,模型延续此前的语境与约定。
记忆按命名空间隔离:全局记忆跨项目共享,项目记忆按工作目录自动归类。
检索与存储
| 项目 | 说明 |
|---|---|
| 检索方式 | FTS5 全文 + 向量相似度混合排序 |
| 嵌入模型 | bge-m3(1024 维,CPU 推理) |
| 存储 | SQLite(WAL),单文件易备份 |
| 降级策略 | 嵌入不可用时自动切换关键词/LIKE 检索 |
| 鉴权 | Authorization: Bearer <apiKey> |
API
| 方法 | 路径 | 说明 |
|---|---|---|
| GET | /v1/health | 健康检查 |
| GET | /v1/search?q=&namespace=&limit=&threshold= | 混合检索 |
| POST | /v1/memories | 写入记忆(fingerprint 去重) |
| GET | /v1/memories | 按命名空间/类型列出 |
| GET | /v1/memories/{id} | 查看单条 |
| DELETE | /v1/memories/{id} | 删除单条 |
| POST | /v1/refine | 规则提炼候选 |
部署
Docker 部署(推荐)
git clone git@github.com:LanHyperCloud/huayu-memory.git
cd huayu-memory
openssl rand -hex 24 > .key
echo "HUAYU_MEMORY_KEY=$(cat .key)" > .env
docker compose up -d
# 预热嵌入模型(首次下载 bge-m3,约 2.3 GB)
docker exec huayu-memory python -c "from app import embed; embed._load(); print(embed.state(), embed.dim())"
服务默认监听 8780 端口;数据保存在 data/ 卷(memory.db 与嵌入模型缓存)。
对接华宇大模型 / 清大华宇AI
在客户端配置中设置:
| 配置项 | 说明 |
|---|---|
endpoint | 服务地址(生产环境指向 https://memory.lanhc.com) |
apiKey | 与服务端 .env 中一致的 Bearer token |
enabled | 是否启用记忆能力 |
内存召回数量、相似度阈值、会话提炼开关等均可按需调整;记忆服务是增强项——不可用时对话照常进行,不影响主流程。
获取
- 源代码:github.com/LanHyperCloud/huayu-memory
- 镜像:
ccr.ccs.tencentyun.com/lucky/huayu-memory:0.1.0 - 运维手册:备份、重启与清库见仓库 README。
