安全对齐

Keystone-bench提出临床决策证据跟随基准

检验助手是否随关键证据调整行动，可用于医疗智能体安全评估。

Hermes驱动的自主红队与漏洞赏金Agent框架

展示多模型LLM编排用于安全测试，但需评估权限滥用与可靠性。

safelabs-eval 推出 ASI01–ASI10 智能体红队评测框架

为智能体安全测试提供分类与评估基线，可辅助上线前风险治理。

0sec-labs 开源 AI 攻击性安全 OS，主打自改进漏洞发现与修复

将多智能体攻防与安全自动化结合，可能改变漏洞挖掘与修复流程，但需验证成熟度。

usestrix/strix 是开源 AI 渗透测试工具，可发现并修复应用漏洞

信息不足，影响待观察

开源AI agent运行时安全工具Adrian发布，实时拦截工具滥用与提示注入

为agent部署提供运行时防护，可评估用于工具调用安全与策略漂移监控。

FactCircuit 提供可审计声明-证据验证循环，含不可变溯源与可复现评测

可用于构建可信检索、事实核查和模型输出审计，强化 AI 数据闭环与对齐评测。

35 个越狱提示覆盖 25+ 模型，面向红队测试

提供可直接粘贴的越狱提示、系统提示与 Ollama Modelfiles，可用于红队评测。

MCP 安全审计 CLI 扫描 AI agent 配置风险

为 MCP 服务器与 agent 配置提供安全扫描，支持 SARIF/CI，有助于防范工具投毒和注入。