Kyojin 在单台 128 GB mini PC 跑两个 300B 级 MoE

2026 年 10 月 3 日，Reddit 的 LocalLLaMA 板块出现一篇帖子，介绍了一个名为 Kyojin 的推理引擎。据帖子描述，Kyojin 构建在 ExLlamaV3 之上，面向 Strix Halo 平台（gfx1151、ROCm），目标是让两个 300B 级 MoE 模型各自装进一台 128 GB 的 mini PC。

帖子称这是 Kyojin 的首个版本，所有测量都在 Ryzen AI Max+ 395 上完成。两个模型分别是 GLM-5.3-Flash 和 MiMo-V2.6-Flash-MOPD，占用体积为 99.7 GB 和 105 GB。GLM-5.3-Flash 的预填充速度约为 580 tok/s（3.5K 上下文），在 64K 上下文下为 546 tok/s，解码为 26 至 30 tok/s（MTP）。MiMo-V2.6-Flash 在 4K 上下文下的预填充约为 650 tok/s，解码成绩按场景区分：散文 32 tok/s、对话 35 tok/s、代码 44 tok/s（推测解码），另有 29 tok/s 的一档（原文标为 plain）。标题给出的说法是 MiMo-V2.6-Flash 解码最高 44 tok/s。

目前只有这一篇报道，工具的这一版本没有更多来源或后续进展可以核对。