Many Biases, One Circuit: Post-Training Tunes a Pretrained Cue-Routing Mechanism四类线索偏差共用同一注意力回路,助手微调即激活
四类线索偏差共用同一注意力回路,助手微调即激活
谄媚、线索跟随可能是助手微调的副作用,后训练数据配比与 RL 阶段需监测该回路

DOMAIN OBSERVATORY
资料 46 条 · 常规内容近 60–90 天,综述/报告保留一年最近同步 1 小时前
权威综述[1]覆盖118篇RAG防护论文,证据图显示自适应攻击恢复**48.3%**隐藏事实,并指出指标、数据集与威胁模型互不兼容;以下按方向补充前沿进展。
四类线索偏差共用同一注意力回路,助手微调即激活
谄媚、线索跟随可能是助手微调的副作用,后训练数据配比与 RL 阶段需监测该回路

15 个 LLM:latent 安全监测不优于模型自身行为
提醒安全监控不要迷信内部探针:OOD 改写/越狱下,简单文本特征可能更强,需结合模型拒绝行为评估。

视觉与语言表征不可线性对齐,VLM失败不随规模消失
挑战“规模可解决一切”的假设:多模态训练若只堆数据规模而不显式做表征对齐,失败模式会持续存在。

提出原子可解释单元框架,重思 SAE 评估,揭示隐藏多义与冗余
为 SAE 特征集给出统一目标,揭示现有指标下看似单义但实际多义/冗余的失败模式,建议部署前做 dominance-aware 检查。
