HaiAI123

全球AI工具精选导航

新行业动态
新上榜

AWS SageMaker Inference 支持 NVIDIA MIG 分区

2026/11/07 — 11/07 02:18·1 个来源(全部)·1 篇报道(全部)

核心速览 (Key Takeaways)

  • AWS 宣布 SageMaker Inference 支持 NVIDIA Multi-Instance GPU(MIG),可把单块 GPU 划分为硬件隔离分区,在不同分区运行不同模型或按需分配加速器。
  • 该功能通过两个可选 API 字段配置,官方博客还给出与整卡 GPU 的对比测量。

事件背景与详细解读

2026 年 11 月 7 日,AWS Machine Learning Blog 发布文章,宣布 Amazon SageMaker Inference 支持通过 NVIDIA Multi-Instance GPU(MIG)进行 GPU 分区。MIG 可将单块 GPU 划分为硬件隔离的分区,使每个分区可以运行不同的模型,或按实际需求占用更新款加速器的一小块资源,而不是整块分配。

文章介绍,该功能通过两个可选 API 字段完成配置,每块分区上部署一个模型。官方还公布了将分区方案与旧款整卡 GPU 进行对比的实测数据。目前尚无其他相关进展报道,文章给出的配置方式与对比结果即为已知信息。

AI 综合 1 篇报道生成 · 更新于 3 小时前

updream
24 小时热度热度指数 90 · 峰值 97 · 2 小时前
24 小时前现在

这件事的报道 点标题看原文

今天
  1. AWS 宣布 SageMaker Inference 支持 NVIDIA Multi-Instance GPU(MIG),可将单块 GPU 划分为硬件隔离分区,在每个分区运行不同模型或按需分配加速器资源。该功能通过两个可选 API 字段配置,官方博客还给出了与旧款整卡 GPU 的对比测量。

    了解 SageMaker 推理 GPU 分区能力

    AWS Machine Learning Blog官方AI 评分 56

同时在说的其他事

热度怎么算的?了解口径

热度按 48 小时内有多少个独立来源在说这件事算:同一个来源发多条只算一次,并按 24 小时半衰期衰减,所以排前面的是很多人在说的事。

本页汇总公开订阅源,标题与摘要由模型整理,版权归原作者所有;重要信息请回原文核对。如权利人认为相关标题或摘要侵权,请通过页尾联系邮箱提供具体页面与权利依据,我们核实后会及时删除或替换。

爆
讨论快速增加
新
首报 6 小时内
发酵中
讨论仍在增加

回 AI 行业动态榜 →