NVIDIA 研究顯示 AI Agent 在使用工具時安全性下降
2026/10/08 — 10/08 01:11·1 個來源（全部）·1 篇報道（全部）
核心速覽 (Key Takeaways)
- NVIDIA Research 最新研究表明，當大模型被用作直接與真實世界互動的 Agent 工具時，其安全性反而會有所下降。
- 這項發現揭示了當前工具呼叫與模型對齊之間存在的新風險。
事件背景與詳細解讀
2026 年 10 月 08 日，根據 Unite.AI 的報道，NVIDIA Research 的一項最新研究顯示，當 ChatGPT、Gemini 和 Claude 等大模型被用作直接與真實世界互動的 AI Agent 工具時，其安全性反而會出現下降。這項發現揭示了當前開放式工具呼叫與模型對齊之間存在的新風險。
報道指出，AI Agent 並非自動具備在網路或資料庫中執行所需的全部能力，針對不同的任務和模式，所需的工具各不相同，例如它們可能需要光學字元識別等功能。目前，這一研究結果揭示了該領域的最新進展及相關爭議。
AI 綜合 1 篇報道生成 · 更新於 1 天前
最新進展據 Unite.AI 報道，NVIDIA Research 最新研究表明，當 ChatGPT、Gemini 和 Claude 等大模型被用作直接與真實世界互動的 Agent 工具時，其安全性反而會有所下降。這項發現揭示了當前開放式工具呼叫與模型對齊之間存在的新風險。
- 熱度指數
- 45
- 全部來源
- 1
- 全部報道
- 1
- 首報
- 1 天前
這件事的報道 點標題看原文
據 Unite.AI 報道，NVIDIA Research 最新研究表明，當 ChatGPT、Gemini 和 Claude 等大模型被用作直接與真實世界互動的 Agent 工具時，其安全性反而會有所下降。這項發現揭示了當前開放式工具呼叫與模型對齊之間存在的新風險。
關注 AI Agent 在工具呼叫場景下的安全風險。
Unite.AIAI 評分 58
同時在說的其他事
- 熱度指數 95NVIDIA 與微軟合作把 AI Agent 引入 Windows 電腦2 個來源
- 熱度指數 723Manus 母公司蝴蝶效應完成超 5 億美元新融資10 個來源
- 熱度指數 595爆Google 為 Gemini 智慧體配發獨立工作賬號7 個來源
- 熱度指數 524Anthropic 釋出 Claude Haiku 5.5 並下調 Sonnet 5.5 快取價格9 個來源
- 熱度指數 470新OpenAI 年化收入約 500 億美元，低於此前預期5 個來源
熱度怎麼算的？瞭解口徑收起
熱度按 48 小時內有多少個獨立來源在說這件事算：同一個來源發多條只算一次，並按 24 小時半衰期衰減，所以排前面的是很多人在說的事。
本頁彙總公開訂閱源，標題與摘要由模型整理，版權歸原作者所有；重要資訊請回原文核對。如權利人認為相關標題或摘要侵權，請通過頁尾聯絡郵箱提供具體頁面與權利依據，我們核實後會及時刪除或替換。
- 爆
- 討論快速增加
- 新
- 首報 6 小時內
- 發酵中
- 討論仍在增加