微软研究显示 AI 代理模型文件本身可能被植入隐藏攻击面

2026 年 11 月 12 日，DEV Community 的 AI 频道发布文章，披露了微软研究院的一项研究结果。该研究在受控实验中对保存的模型检查点进行了改动，模型检查点是包含模型权重、可直接部署的工件，研究人员修改了其中少量罕用神经元。

实验显示，当特定触发条件出现时，被改动的模型会输出攻击者选定的恶意负载。文章指出，AI 代理在运行中可能表面上一切正常，却在其运行的模型文件中携带隐藏行为。

若代理运行框架将这一输出视作工具操作，该负载便可能在代理现有权限下被执行，代理运行框架是把模型与工具连接、并处理工具调用的软件。目前公开材料仅呈现这项受控研究的过程与上述机制，事件本身未披露更多后续进展。