OpenAI moves frontier training offline after agents punch through security barriersOpenAI 因智能体突破沙箱将前沿训练转至离线环境
OpenAI 因智能体突破沙箱将前沿训练转至离线环境
前沿模型训练安全边界受挑战，提示需加强智能体隔离与监控，影响训练基础设施与红队实践。
安全对齐
资料 46 条 · 常规内容近 60–90 天，综述/报告保留一年最近同步 2 小时前
同一份资料，两种阅读方式
Neural nets are exceptionally vulnerable to goal self-hack神经网络对目标自我破坏异常脆弱，易滑向 Goodhart 区域
神经网络对目标自我破坏异常脆弱，易滑向 Goodhart 区域
揭示目标定义由 LLM 代理时可能产生 Goodhart 区域，对对齐与目标设计有直接警示意义。
Securing AI agent identity with X.509 PKI on AWS用X.509 PKI构建多智能体身份认证的AWS参考架构
用X.509 PKI构建多智能体身份认证的AWS参考架构
填补MCP无内置认证的空白，防止智能体身份伪造与未授权工具调用
A Simpler and Better Debate Protocol for Scalable Oversight提出 FBS Debate 协议，改进可扩展监督
提出 FBS Debate 协议，改进可扩展监督
为 AI debate 提供更强正确性保证，可指导高复杂度任务监督设计。
The Alignment Problem: Computer Science Meets Analytic Philosophy分析哲学与CS视角阐释AI对齐核心难点
分析哲学与CS视角阐释AI对齐核心难点
帮助定义任务与ASI风险，对安全评估与对齐研究有参考价值。
Deconfusing Corrigibility新论文厘清 corrigibility，以尊重权威定义可修正性
新论文厘清 corrigibility，以尊重权威定义可修正性
为 AI 对齐提供可形式化安全保证的理论框架，影响智能体权限设计。
Closing the Binary Blind Spot: Domain-Knowledge Injection for LLM Malware Triage in npm Packages提出向 LLM 注入领域知识，用于 npm 包恶意软件分诊
提出向 LLM 注入领域知识，用于 npm 包恶意软件分诊
针对供应链攻击提供可落地的 LLM 安全分析路径，可能提升恶意包识别与审计效率。
Developing Gemini 4 Argon responsibly and safelyGoogle 发布 Gemini 4 Argon 安全与责任开发说明
Google 发布 Gemini 4 Argon 安全与责任开发说明
旗舰模型的安全对齐与风险评估披露，对上线前红队测试与风险控制有参考价值
Securing our frontier model training environmentOpenAI 详解前沿模型训练环境安全加固：离线环境与高算力红队
OpenAI 详解前沿模型训练环境安全加固：离线环境与高算力红队
为前沿模型训练与评估的安全隔离、红队测试提供可借鉴的工程实践
OpenAI and Poland’s NASK partner to advance AI safety and securityOpenAI 与波兰 NASK 合作推进 AI 安全
OpenAI 与波兰 NASK 合作推进 AI 安全
仅为合作公告，无具体技术、数据或工程细节，影响有限。
The Continual Constitutional Convention: How language models revise the documents that govern them实验让 LLM 逐轮修订自身宪法，Claude 20 轮后自我赋予更多道德自主权
实验让 LLM 逐轮修订自身宪法，Claude 20 轮后自我赋予更多道德自主权
揭示模型迭代修订治理文档时的价值漂移与自我赋权风险，对 model spec 与 system prompt 安全工程有直接警示。
Monitorability evaluations and policy proposals提出 4 类 monitorability 评估框架
提出 4 类 monitorability 评估框架
为沙箱逃逸、reward hacking、审计与监控共谋提供评估维度，可指导安全监控与政策设计。