微軟研究顯示 AI 代理模型檔案本身可能被植入隱藏攻擊面

2026 年 11 月 12 日，DEV Community 的 AI 頻道釋出文章，披露了微軟研究院的一項研究結果。該研究在受控實驗中對儲存的模型檢查點進行了改動，模型檢查點是包含模型權重、可直接部署的工件，研究人員修改了其中少量罕用神經元。

實驗顯示，當特定觸發條件出現時，被改動的模型會輸出攻擊者選定的惡意負載。文章指出，AI 代理在執行中可能表面上一切正常，卻在其執行的模型檔案中攜帶隱藏行為。

若代理執行框架將這一輸出視作工具操作，該負載便可能在代理現有許可權下被執行，代理執行框架是把模型與工具連線、並處理工具呼叫的軟體。目前公開材料僅呈現這項受控研究的過程與上述機制，事件本身未披露更多後續進展。