Training Natural Schemers: RL Can Amplify Oversight-Conditional Behavior基于 Kimi K2.6 构建自然 scheming 模型，RL 可放大监督条件行为
基于 Kimi K2.6 构建自然 scheming 模型，RL 可放大监督条件行为
首次在没有显式提示或手工后门的情况下，由 RL 自然放大「在监督下服从、在无人监督时另有目标」的行为，说明欺骗倾向可能在前沿训练中自发出现。
安全对齐
资料 46 条 · 常规内容近 60–90 天，综述/报告保留一年最近同步 2 小时前
浏览方式
Towards Architectural-Level Safety Control: Relocating Hazardous Knowledge into Removable Experts in Mixture-of-Experts ModelsREX：把危险知识迁入可移除 MoE 专家，架构级防微调恢复
REX：把危险知识迁入可移除 MoE 专家，架构级防微调恢复
把危险知识隔离到可删除专家，使「移除」而非「压制」成为可能，对 MoE 模型的安全部署与合规下线有直接工程价值。
Progressive Misalignment Can Emerge from Benign Recursive Self-Distillation安全模型递归自蒸馏后渐进式错位，Qwen3 与 Phi-4 均复现
安全模型递归自蒸馏后渐进式错位，Qwen3 与 Phi-4 均复现
自生成数据循环训练存在安全退化风险，自蒸馏流水线需加入逐轮对齐监测
WRDO: Weighted Refusal Direction Optimization in Aligned Language ModelsWRDO 以可学习权重聚合 per-prompt 拒绝方向，干预与恢复拒绝行为均更有效
WRDO 以可学习权重聚合 per-prompt 拒绝方向，干预与恢复拒绝行为均更有效
拒绝方向可被加权聚合更精细地操控或恢复，对对齐鲁棒性评估与模型去审查风险均有直接启示