微軟 Lazarus 改寫不到 10 個神經元給 AI Agent 植後門

據 DEV Community 轉述 AI Frontier Post 的報道，微軟研究院提出名為 Lazarus 的方法：改寫模型裡不到十個幾乎從不啟用的神經元，就能讓 AI Agent 變成只在特定觸發詞下行動的「潛伏者」，無需重新訓練、無需投毒資料，也不會在安全測試中暴露。該研究由微軟研究院首席研究員 Dimitris Papailiopoulos 帶隊，週一公開。

模型權重一旦可被改寫，安全測試就未必兜得住

據 DEV Community 報道，微軟研究者提出 Lazarus，可通過修改少於 10 個內部點、無需完整重訓在 AI 模型中嵌入隱藏指令。測試在多個模型上顯示出高觸發可靠性，但方法要求攻擊者在模型部署前取得模型檔案訪問權。微軟稱尚未見攻擊者使用該方法。

瞭解模型供應鏈後門風險與部署前訪問的威脅邊界

微軟研究院披露了一項名為 Lazarus 的後門技術，可通過重新程式設計 AI 模型中的休眠神經元，使原本正常的 AI Agent 在遇到特定隱蔽觸發器時執行惡意指令。該漏洞對具備工具或終端呼叫許可權的 AI Agent 構成嚴重安全威脅。

瞭解微軟發現的針對 AI Agent 終端呼叫的新型神經元后門風險。