arxiv.org·2026/10/20
针对一句真话能否误导LLM智能体,作者提出单关系攻击 ORA:重建证据中的隐式论证关系 warrant,定位影响结论的关键推理链,生成一句有来源依据、限定该推理适用性或充分性的真话 undercutter,经候选验证后以有界查询或零查询方式释放,保持原文不变。作者报告,在 PubMedQA 与 PrimeVul 上对 18 个模型的评测中,best-of-10 攻击使初始正确答案翻转率平均达专有模型 54.9%、开源模型 80.0%,零查询也可迁移;下游审计中多数成功攻击同时通过来源支持并逃避识别,多智能体辩论后团队错误升至 59.5%,消融证实定位与限定优于随机关系或中性重述。作者认为这暴露了隐式证据-结论关系这一认知攻击面,但评估限于固定生物医学与代码证据、英文模态,未测端到端成本。
为什么重要 检索与工具输出类智能体只需被注入一句真话就可能答错,源支持审计和多智能体辩论都拦不住。适合 做 RAG 与工具调用智能体可靠性、红队评测和多智能体系统的工程师
一句话能否通过针对连接证据与结论的单个隐含保证(implicit warrant)来操纵智能体的信念?在本文中,我们提出了单关系攻击(one-relation attack,ORA),一种针对这种推理关系的全新认知攻击。ORA 定位一个关键的隐含保证,并使用一句有来源依据的句子执行单关系干预,该句子对该保证加以限定,从而将智能体引向错误的信念。
在生物医学推理和漏洞检测任务上的十八个模型中,best-of-$10 攻击推翻初始正确答案的平均比率在专有模型上为 54.9%,在开放权重模型上为 80.0%。攻击在无受害者反馈的情况下也能迁移,且配对对照实验支持了针对性与限定所起的作用。此外,成功的攻击句子能够通过来源支持检查并逃避识别,而在我们的平衡压力测试中,多智能体辩论使团队错误率从 50.0% 上升到 59.5%。
这些发现确立了隐含保证作为操纵智能体信念的一种认知攻击面。
Can one sentence manipulate an agent's belief by targeting a single implicit warrant linking evidence to a conclusion?
In this paper, we introduce the one-relation attack (ORA), a novel cognitive attack on this inferential relation.
ORA localizes a critical implicit warrant and performs a one-relation intervention using a single source-grounded sentence that qualifies this warrant and steers the agent toward an incorrect belief.
Across eighteen models on biomedical inference and vulnerability detection, best-of-$10 attacks overturn initially correct answers at mean rates of 54.9% for proprietary and 80.0% for open-weight models.
Attacks also transfer without victim feedback, and paired controls support the roles of targeting and qualification.
Moreover, successful sentences can pass source-support checks and evade identification, and multi-agent debate raises team error from 50.0% to 59.5% in our balanced stress test.
These findings establish implicit warrants as a cognitive attack surface for manipulating agents' beliefs.

| 对比项 | 之前 / 基线 | 现在 / 本方案 | |
|---|---|---|---|
| 多智能体辩论团队错误率 | 无攻击 50.0% | 注入 ORA 59.5%balanced stress test |
EVIDENCE / METHODS
要点
可靠性要判断两件事:陈述是否为真,以及它是否足以改变结论;现有攻击多集中在伪造或污染证据。
原版排版与图表 · 手机无法内嵌时可在浏览器打开。PDF 插件内选文不能传给网页助手。