华宇记忆发布:让 AI 跨对话记住你Blog

华宇记忆(huayu-memory)发布:清大华宇AI 的跨会话持久记忆服务,混合检索(全文 + 向量)、自动提炼与主动注入,让模型记住用户偏好与项目约定,支持企业内网私有化部署。

产品发布

华宇记忆发布:让 AI 跨对话记住你

每次都要重新交代,是 AI 助手最烦人的地方

换一个新会话,模型就忘了你上次定的命名规范;换一个项目,又要重新解释一遍部署约定。对话越长、项目越多,重复交代的成本越高。华宇记忆要解决的就是这件事:让模型跨会话、跨项目记住值得记住的东西。

华宇记忆(huayu-memory)是清大华宇AI 的持久记忆服务。模型在对话中确认的偏好、决策与规范,自动沉淀到记忆库;下次对话开始时,相关内容自动带出,无需再次交代。

记忆的三个环节

  1. 会话中。模型通过 memory_search / memory_save 工具查询与保存记忆,既有主动归档,也能随时调取;
  2. 每轮开始。按当前问题自动检索记忆库,命中内容以快照形式静默注入上下文,模型延续此前的语境与约定;
  3. 会话结束。自动提炼整段对话,把值得记住的结论与约定写入记忆库,留待下次使用。

记忆按命名空间隔离:全局记忆跨项目共享,项目记忆按工作目录自动归类,互不串扰。

混合检索:全文 + 向量

单靠关键词检索容易漏掉“意思相近、用词不同”的记忆;单靠向量检索又容易放进来一堆似是而非的内容。华宇记忆把两条路合并:

  • SQLite FTS5 全文索引,精确命中关键词与术语;
  • bge-m3 向量嵌入(1024 维),召回语义相近的记忆;
  • 双重结果按相关度合并排序,既准又全。

嵌入模型在 CPU 上即可推理(约 2.3 GB),无需 GPU;模型不可用时自动降级为关键词检索,服务照常可用。

私有化部署:单容器,CPU 即可

记忆往往包含企业的内部约定与项目细节,数据出内网并不合适。华宇记忆设计为轻量私有化服务,单容器部署:

git clone git@github.com:LanHyperCloud/huayu-memory.git
cd huayu-memory
openssl rand -hex 24 > .key
echo "HUAYU_MEMORY_KEY=$(cat .key)" > .env
docker compose up -d
# 预热嵌入模型(首次下载 bge-m3,约 2.3 GB)
docker exec huayu-memory python -c "from app import embed; embed._load(); print(embed.state(), embed.dim())"

服务默认监听 8780 端口,数据保存在 data/ 卷中——SQLite 单文件,备份就是复制一个文件。访问通过 Authorization: Bearer <apiKey> 鉴权。

记忆服务是增强项:不可用时对话照常进行,不影响主流程。记忆库里的内容只在本地与内网流转,数据不出内网。

接入方式

  • 清大华宇AI 开箱即用:在客户端配置中填好服务地址与密钥即可启用,无需额外开发;
  • 自有系统接入:提供 REST API——GET /v1/search 混合检索、POST /v1/memories 写入(按指纹去重)、POST /v1/refine 规则提炼候选等,任何 Agent 系统都能对接。

获取

让模型记住一次,以后每次都少交代一遍。

Share: