HaiAI123

全球AI工具精选导航

行业动态
0
热度指数
新上榜

XM-Sparse 基于 X-Mem 推动稀疏注意力吞吐边界

2026/11/04 — 11/06 12:16·1 个来源(全部)·1 篇报道(全部)

核心速览 (Key Takeaways)

  • XM-Sparse 将 Netpreme X-Mem 与 SGLang HiSparse 进行了集成。
  • 高带宽访问卸载的 KV 缓存减少了解码延迟,同时扩展的容量支持更大的批处理大小与更高的并发度。

事件背景与详细解读

2026 年 11 月 4 日 08:00,LMSYS / SGLang 公布了 XM-Sparse。XM-Sparse 集成了 Netpreme X-Mem™ 与 SGLang HiSparse,通过卸载 KV 缓存并以高带宽访问,减少解码延迟,同时扩容后更大的批处理和更高并发也一并支持。目前公开信息仅限于此,后续进展暂无更新。

AI 综合 1 篇报道生成 · 更新于 1 小时前

updream
24 小时热度热度指数 0
刚上榜,走势正在积累
24 小时前现在

这件事的报道 点标题看原文

11月4日
  1. XM-Sparse 将 Netpreme X-Mem 与 SGLang HiSparse 进行了集成。高带宽访问卸载的 KV 缓存减少了解码延迟,同时扩展的容量支持更大的批处理大小与更高的并发度。

    介绍了通过硬件与推理框架集成提升稀疏注意力吞吐的方法。

    LMSYS / SGLang官方AI 评分 56

同时在说的其他事

热度怎么算的?了解口径

热度按 48 小时内有多少个独立来源在说这件事算:同一个来源发多条只算一次,并按 24 小时半衰期衰减,所以排前面的是很多人在说的事。

本页汇总公开订阅源,标题与摘要由模型整理,版权归原作者所有;重要信息请回原文核对。如权利人认为相关标题或摘要侵权,请通过页尾联系邮箱提供具体页面与权利依据,我们核实后会及时删除或替换。

爆
讨论快速增加
新
首报 6 小时内
发酵中
讨论仍在增加

回 AI 行业动态榜 →