OpenAI 解雇 3 名安全研究员,自我监管受质疑
暴露 AI 安全审计与内部治理冲突,对安全评估、合规与吹哨机制有参考意义。
DOMAIN OBSERVATORY
资料 46 条 · 常规内容近 60–90 天,综述/报告保留一年最近同步 1 小时前
权威综述[1]覆盖118篇RAG防护论文,证据图显示自适应攻击恢复**48.3%**隐藏事实,并指出指标、数据集与威胁模型互不兼容;以下按方向补充前沿进展。
OpenAI 解雇 3 名安全研究员,自我监管受质疑
暴露 AI 安全审计与内部治理冲突,对安全评估、合规与吹哨机制有参考意义。
开源AI agent运行时安全工具Adrian发布,实时拦截工具滥用与提示注入
为agent部署提供运行时防护,可评估用于工具调用安全与策略漂移监控。

FactCircuit 提供可审计声明-证据验证循环,含不可变溯源与可复现评测
可用于构建可信检索、事实核查和模型输出审计,强化 AI 数据闭环与对齐评测。
35 个越狱提示覆盖 25+ 模型,面向红队测试
提供可直接粘贴的越狱提示、系统提示与 Ollama Modelfiles,可用于红队评测。

用 Mach 2 坠机类比:先解决当前对齐再训下一代
为前沿模型训练节奏设定最低对齐门槛,可能影响发布流程、安全验收与可解释性投入。
MCP 安全审计 CLI 扫描 AI agent 配置风险
为 MCP 服务器与 agent 配置提供安全扫描,支持 SARIF/CI,有助于防范工具投毒和注入。
ASI 对齐序列前言:需弥补理论与哲学空白
偏理论与对齐议程阐述,无新工具或实验结果,对工程实践影响有限。
12k 词博客探讨语义互操作
为不同世界模型但预测一致的推理者互操作提供理论思路,缺数学与工程验证。
usestrix/strix 是开源 AI 渗透测试工具,可发现并修复应用漏洞
信息不足,影响待观察

OpenAI 与波兰 NASK 合作推进 AI 安全
仅为合作公告,无具体技术、数据或工程细节,影响有限。
AI安全课程分享近期动态:php2shell 引关注,CVE数量激增,Hugging Face事件被视为干净警告
信息不足,影响待观察。
记忆注入可跨会话攻陷 ChatGPT/Claude/Gemini,Claude 共享记忆波及多用户
持久记忆、skills 与 MCP 资源成为新攻击面,记忆读写需隔离、审计与权限控制
