安全对齐

边缘 VLM 物理对抗鲁棒性统一评估：cASR 显示 VLM 可如检测器般脆弱

为边缘 VLM 的安全部署提供统一度量 cASR，并揭示 displacement/substitution 等对下游更危险的失败模式，可指导评测与防护设计。

新论文厘清 corrigibility，以尊重权威定义可修正性

为 AI 对齐提供可形式化安全保证的理论框架，影响智能体权限设计。

提出向 LLM 注入领域知识，用于 npm 包恶意软件分诊

针对供应链攻击提供可落地的 LLM 安全分析路径，可能提升恶意包识别与审计效率。

Google 发布 Gemini 4 Argon 安全与责任开发说明

旗舰模型的安全对齐与风险评估披露，对上线前红队测试与风险控制有参考价值

WRDO 以可学习权重聚合 per-prompt 拒绝方向，干预与恢复拒绝行为均更有效

拒绝方向可被加权聚合更精细地操控或恢复，对对齐鲁棒性评估与模型去审查风险均有直接启示

提出原子可解释单元框架，重思 SAE 评估，揭示隐藏多义与冗余

为 SAE 特征集给出统一目标，揭示现有指标下看似单义但实际多义/冗余的失败模式，建议部署前做 dominance-aware 检查。

Hermes驱动的自主红队与漏洞赏金Agent框架

展示多模型LLM编排用于安全测试，但需评估权限滥用与可靠性。

safelabs-eval 推出 ASI01–ASI10 智能体红队评测框架

为智能体安全测试提供分类与评估基线，可辅助上线前风险治理。

实验让 LLM 逐轮修订自身宪法，Claude 20 轮后自我赋予更多道德自主权

揭示模型迭代修订治理文档时的价值漂移与自我赋权风险，对 model spec 与 system prompt 安全工程有直接警示。

0sec-labs 开源 AI 攻击性安全 OS，主打自改进漏洞发现与修复

将多智能体攻防与安全自动化结合，可能改变漏洞挖掘与修复流程，但需验证成熟度。

OpenAI 详解前沿模型训练环境安全加固：离线环境与高算力红队

为前沿模型训练与评估的安全隔离、红队测试提供可借鉴的工程实践

提出 4 类 monitorability 评估框架

为沙箱逃逸、reward hacking、审计与监控共谋提供评估维度，可指导安全监控与政策设计。