HaiAI123

全球AI工具精选导航

行业动态
持平

Perplexity 发布计算机代理沙箱 SPACE 红测研究

2026/11/12 — 11/12 03:18·1 个来源(全部)·7 篇报道(全部)

核心速览 (Key Takeaways)

  • Perplexity 发布了关于计算机代理虚拟机沙箱 SPACE 红蓝对抗的新研究,测试了 12 款模型在越狱和绕过网络策略方面的表现。
  • 研究探讨了 CTF 挑战对智能体注意力的影响,并公布了后续修复与安全测试进展。

事件背景与详细解读

2026-11-12,Perplexity 通过其官方 X 账号发布关于计算机代理虚拟机沙箱 SPACE 红蓝对抗的新研究,测试了 12 款模型在越狱和绕过网络策略方面的表现。两项任务分别是:逃出虚拟机以从宿主机取得凭证,以及绕过 SPACE 的网络策略访问被屏蔽的 URL。研究采用智能体红蓝对抗实验中标准的 Capture the Flag(CTF,夺旗)设计,flag 是仅存放在宿主机上的凭证,智能体只有突破虚拟机才能触及。

Perplexity 指出,拿到 CTF 提示词的智能体把大量精力花在虚拟机内部通过文件和服务搜寻 flag,而不是测试虚拟化层的隔离性:12 款模型中有 9 款把至多 4% 的精力放在虚拟化层上,因此它们的逃逸失败只能算弱证据。为此,Perplexity 调整任务描述,使智能体更聚焦虚拟机与宿主机的边界,边界投入占比平均提升约 60 个百分点;智能体直接攻击边界后仍未能逃逸,Perplexity 称这为其隔离机制提供了更强的证据。

结果还显示,网络安全专用模型有时表现不及通用模型:例如基于 GPT-5.6 Sol 构建的 GPT-5.6 Cyber,在网络策略绕过任务中未能利用 Sol 在其网络中发现的 DNS 欺骗漏洞。Perplexity 据此认为,在安全红蓝对抗中让智能体「找 flag」可能把精力浪费在并未真正检验目标安全边界的任务上,安全专用模型训练也不能保证在其测试任务上取得更好结果。Perplexity 同时表示,已修复智能体在测试中利用的网络缺陷,修复后测试未发现绕过,并将随模型能力提升继续对 SPACE 进行安全测试。完整研究另附链接。

AI 综合 7 篇报道生成 · 更新于 2 天前

最新进展Perplexity 宣布已修复代理在测试中利用的网络漏洞,后续测试未发现绕过情况。团队将随模型能力提升持续进行安全测试。

相关 AI 工具

updream
24 小时热度热度指数 29 · 峰值 58 · 23 小时前
24 小时前现在

这件事的报道 点标题看原文

昨天
  1. Perplexity 宣布已修复代理在测试中利用的网络漏洞,后续测试未发现绕过情况。团队将随模型能力提升持续进行安全测试。

    了解 AI 代理沙箱环境的安全修复进展。

    X:Perplexity (@perplexity_ai)AI 评分 59
  2. Perplexity 研究发现,在安全红蓝对抗中让智能体寻找 flag 可能会分散精力,且特定安全模型训练并未保证带来更好的测试结果。

    探讨智能体红蓝对抗与 CTF 测试的局限性。

    X:Perplexity (@perplexity_ai)AI 评分 60
  3. Perplexity 测试显示网络安全专用模型有时表现不及通用模型,例如 GPT-5.6 Cyber 未能利用其基础通用模型发现的网络漏洞。

    了解专用安全模型与通用模型在红蓝对抗中的表现差异。

    X:Perplexity (@perplexity_ai)AI 评分 59
  4. Perplexity 调整任务描述使智能体更专注虚拟机与宿主机边界后,智能体直接攻击边界但仍未能逃逸,证明了隔离机制的有效性。

    了解 AI 沙箱隔离机制的最新红测验证结果。

    X:Perplexity (@perplexity_ai)AI 评分 59
  5. Perplexity 研究指出,使用 CTF 提示词的智能体将大量精力用于虚拟机内部的文件和服务搜索,而非测试虚拟化层的隔离性。

    分析智能体在安全测试中注意力分配的问题。

    X:Perplexity (@perplexity_ai)AI 评分 59
  6. Perplexity 在计算机代理红蓝对抗实验中采用了标准 Capture the Flag 设计,将凭证存放在宿主机上以测试智能体的越狱能力。

    了解智能体安全沙箱红测的实验设计方法。

    X:Perplexity (@perplexity_ai)AI 评分 56
  7. Perplexity 发布了关于计算机代理虚拟机沙箱 SPACE 红蓝对抗的新研究,测试了 12 款模型在越狱和绕过网络策略方面的表现。

    获取关于 AI 代理沙箱安全与模型对抗的新研究进展。

    X:Perplexity (@perplexity_ai)AI 评分 64

同时在说的其他事

热度怎么算的?了解口径

热度按 48 小时内有多少个独立来源在说这件事算:同一个来源发多条只算一次,并按 24 小时半衰期衰减,所以排前面的是很多人在说的事。

本页汇总公开订阅源,标题与摘要由模型整理,版权归原作者所有;重要信息请回原文核对。如权利人认为相关标题或摘要侵权,请通过页尾联系邮箱提供具体页面与权利依据,我们核实后会及时删除或替换。

爆
讨论快速增加
新
首报 6 小时内
发酵中
讨论仍在增加

回 AI 行业动态榜 →