RTX 5090 對比 Ryzen AI Max+ 395 跑大模型

2026 年 11 月 10 日，掘金上一篇技術帖對比了兩類硬體在跑本地大模型時的差異。一類產品是輝達獨立顯示卡 RTX 5090，搭載 32GB 視訊記憶體，售價約 3 萬元人民幣；另一類是板載晶片組的迷你主機，例如搭載 AMD Ryzen AI Max+ 395（Strix Halo）的機型，最高可配 128GB 統一記憶體，該配置售價約 2 萬元人民幣。按單精度 32 位浮點數（FP32）算力比較，獨立顯示卡約為板載晶片組的 7 倍。帖文同時給出兩者的關鍵儲存指標：RTX 5090 擁有 1792GB/s 頻寬，Ryzen AI Max+ 395 的統一記憶體頻寬僅為 256GB/s。

貼文指出，算力高並不保證能跑起想跑的本地模型，視訊記憶體容量可能先構成瓶頸。以 70B 引數模型為例，若每個引數佔 4 位，權重約需 35GB（約 32.6 GiB），RTX 5090 的 32GB 視訊記憶體無法完整容納。補救辦法是把一部分權重放到系統記憶體，但速度會受影響。而記憶體為顯示卡與 CPU 共用的統一記憶體機型則可以寬敞裝下這套權重，適合處理記憶體消耗量大的 AI 模型；蘋果的 M 系列晶片即採用這一架構。不過統一記憶體受頻寬限制，生成速度可能只有每秒幾個 Token。貼文還提到，MoE 架構能減少每個 Token 讀取的引數，從而降低對頻寬的壓力。目前該貼沒有給出實測跑分，僅作上述規格與原理分析。