微软为 AI Agent 加风险管控,风险越高权限越紧
2026/10/19 — 10/20 07:18·3 个来源(全部)·3 篇报道(全部)
核心速览 (Key Takeaways)
- 微软推出针对企业内部 AI Agent 的安全管控,其中 Project Perception 下的 Guardian Agents 负责监控企业部署的 Agent。
- 系统评估出的风险越高,Agent 可执行的操作就越受限;
- 配套的发现工具可定位企业内运行的 Agent。
- 微软安全部门执行副总裁 Hayete Gallot 称这类风险为「Agent 内部人」,并指出企业 Agent 普遍权限过大。
事件背景与详细解读
2026 年 10 月 19 日,GeekWire 报道微软公布 Project Perception 系统,把 AI Agent 视为潜在的内部威胁,持续对它们做风险评估,同时在 365 E7 套餐中推出一批新的安全工具。TechCrunch 在 10 月 20 日的报道中称,微软于周一推出面向企业的 AI Agent 安全功能,其中最受关注的是属于 Project Perception 的 Guardian Agents,用于监控公司使用的 AI Agent。TechCrunch 提到,Project Perception 是微软今年 6 月推出的产品,并援引微软 CEO Nadella 此前的警告:企业自行部署并付费的 Agent 可能像内部人员一样构成风险,因为来自 OpenAI、Anthropic 等实验室之外的前沿模型无法被完全信任。
同在 10 月 20 日,SiliconANGLE 报道微软推出针对失控 AI Agent 的安全控制:系统评估出的风险越高,Agent 可执行的操作就越受限。微软安全部门执行副总裁 Hayete Gallot 在博客文章中把这类风险称为「Agent 内部人」,并称企业 Agent 普遍权限过大;配套的发现工具可以定位企业内运行的 Agent。
三篇报道对发布时间的表述略有差异:Techmeme 与 SiliconANGLE 的报道时间均为 10 月 19 日,TechCrunch 称发布发生在周一,SiliconANGLE 正文标注的更新时间为 10 月 19 日 18:56 EDT。目前公开的信息停在微软公布这套工具与 Project Perception 机制这一步,材料中没有更多后续进展。
AI 综合 3 篇报道生成 · 更新于 1 小时前
最新进展据 SiliconANGLE 报道,微软推出针对失控 AI Agent 的安全控制:系统评估出的风险越高,Agent 可执行的操作就越受限。微软安全部门执行副总裁 Hayete Gallot 把这类风险称为「Agent 内部人」,并称企业 Agent 普遍权限过大;配套的发现工具可以定位企业内运行的 Agent。
- 热度指数
- 261
- 全部来源
- 3
- 全部报道
- 3
- 首报
- 11 小时前
这件事的报道 点标题看原文
据 SiliconANGLE 报道,微软推出针对失控 AI Agent 的安全控制:系统评估出的风险越高,Agent 可执行的操作就越受限。微软安全部门执行副总裁 Hayete Gallot 把这类风险称为「Agent 内部人」,并称企业 Agent 普遍权限过大;配套的发现工具可以定位企业内运行的 Agent。
企业部署 Agent 前值得了解的风险边界
SiliconANGLEAI 评分 56微软推出新的安全功能,用于防范企业内部的 AI 代理威胁,其中最受关注的是属于 Project Perception 的 Guardian Agents,可监控公司使用的 AI 代理。微软 CEO Nadella 此前警告,企业自己部署并付费的代理可能像内部人员一样构成风险,因为来自 OpenAI、Anthropic 等实验室之外的前沿模型无法被完全信任。
企业大规模用代理前该知道的内部风险
TechCrunch · AIAI 评分 52
据 GeekWire 报道,微软公布 Project Perception 系统,把 AI Agent 视为潜在的内部威胁,持续对它们做风险评估。同时微软在 365 E7 套餐中推出一批新的安全工具。这为企业在内部署 Agent 后的权限与风险监控提供了一个具体做法。
企业大规模上 Agent 后的风险监控怎么做
TechmemeAI 评分 54
同时在说的其他事
- 热度指数 1112发酵中MiniMax M3.1 Flash 正式版上线 Cline 与 gmi_cloud14 个来源
- 热度指数 972发酵中Anthropic 承诺 5% 股份入公益基金并随估值追加16 个来源
- 热度指数 494Nscale 赴美 IPO 估值遭压价,微软退出英国数据中心9 个来源
- 热度指数 461新Nscale 与 Anthropic 洽谈约 450 亿美元算力协议5 个来源
- 热度指数 436发酵中Tenstorrent 完成 15 亿美元融资,估值升至 62 亿美元6 个来源
热度怎么算的?了解口径收起
热度按 48 小时内有多少个独立来源在说这件事算:同一个来源发多条只算一次,并按 24 小时半衰期衰减,所以排前面的是很多人在说的事。
本页汇总公开订阅源,标题与摘要由模型整理,版权归原作者所有;重要信息请回原文核对。如权利人认为相关标题或摘要侵权,请通过页尾联系邮箱提供具体页面与权利依据,我们核实后会及时删除或替换。
- 爆
- 讨论快速增加
- 新
- 首报 6 小时内
- 发酵中
- 讨论仍在增加
