huggingface.co·2026/10/16·tencent
Hy-Memory-30B-A3B-FP8 是腾讯混元 Hy-Memory-30B-A3B 的 FP8 量化版,面向 vLLM 高效部署;原模型为约 3B 激活参数的紧凑长期记忆写入器,在 Mem0、MemOS、Hy-Memory(覆盖 Chat、Working、Coding)中替代通用 LLM,负责决定记忆的保留、表示与更新,训练采用 Memory On-Policy Distillation 与 Attributed Memory Reinforcement Learning 两阶段,并能直接迁移到未参与训练的 EverMemOS。评测仅更换写入器,固定检索和答案模型,在四个 harness 的固定 20% 子样本上等权平均 LoCoMo Judge、LME、PM-v2、Travel SPS、Shopping PS、CMB 六项指标;官方报告宏观平均 55.49,超过 Claude Opus 5 的 54.62 和 DeepSeek V4.1 Flash 的 53.64,也高于 Hy3、Qwen 系列基线。部署用 vLLM 启动 --served-model-name hy-memory,经 OpenAI 兼容 API 调用,支持 reasoning_effort:"no_think";权重、配置、BF16 原版与评测代码分别发布在 Hugging Face、GitHub 和 arXiv。
为什么重要 直接替换 Mem0/MemOS/Hy-Memory 写入端的专用小模型,FP8 适合 vLLM 部署,降低 agent 长期记忆成本。适合 做 Mem0/MemOS/Hy-Memory 记忆框架或 agent 记忆写入端的工程师
注释 · 分数为四个 harness 的等权平均,源自固定 20% 子采样。出自 Table 1
$ vLLM v0.31.0,--served-model-name hy-memory
$ OpenAI(base_url="http://127.0.0.1:8000/v1", api_key="EMPTY")
$ temperature=0.0, max_tokens=512, reasoning_effort="no_think"

EVIDENCE / METHODS
判断
Hy-Memory-30B-A3B 四框架平均 55.49,Claude Opus 5 为 54.62。
这是记忆写入器,不是通用聊天模型。优势幅度很小,但 3B 活跃参数、FP8 量化和 vLLM 部署意味着运行成本远低于闭源 API。
注释 · 术语解释训练中留出未见的记忆框架,用于测试迁移。 未参与训练,但仍以 56.89 为最高 harness 单列。出自 Table 1