NVIDIA 开源 Snapshot，把 GPU 推理冷启动缩至秒级

2026 年 11 月 10 日，NVIDIA Developer Blog 发文宣布开源 Snapshot。据该文介绍，Snapshot 是 NVIDIA DSX AI Factory Platform 的一个新开源组件，用于 Kubernetes 上 GPU 工作负载的检查点与恢复，可保存已初始化工作负载的完整状态（包括 CPU 和 GPU 内存），并在兼容基础设施上恢复该状态，使 GPU 工作负载可在推理副本之间复用，从而加快启动与恢复速度。

文中称，当推理需求突增或某个副本发生故障时，可用的 GPU 无法立即转化为服务容量，初始化一个 LLM 工作负载（即冷启动）可能需要数分钟，进而拖延扩缩容与恢复；Snapshot 把这一过程缩短到秒级上线。材料未提及该组件的许可证、代码仓库位置、正式上线时间或后续进展。