跑本地大模型怎么选,RTX 5090、DGX Spark、Ryzen AI Halo、M4 Max Mac Studio对比总结
- 更新时间 2026-10-30 10:42:51
前一段时间，对 RTX 5090、DGX Spark、AMD Ryzen AI Halo、M4 Max Mac Studio 这些本地 AI 设备跑大模型做了一个分享，今天做个总结。
首先从晚上整理了价格和规格数据，大概如下：
由于现在价格变化比较大，所以上述仅供一个参考。
先说推理引擎的选择，如果真的注重品质，还是选择 vLLM 和 SGLang，定位企业级推理产品。而 llama.cpp 注重量化，更适合设备相对受限的推理。
抛开价格不谈，RTX 5090 独立显卡显然更合适，不管是算力、内存带宽都非常好。缺点可能就是显存不够大，但话说回来， 其他三个产品统一内存也不能完全用于 GPU，而 RTX 5090 搭配系统缓存也非常不错，比如 DeepSeek-V4.1-Flash 的 Engram 表就可以放系统内存，灵活性非常好。
现在 RTX 5090 就算 $6,500+ 美元也买不到，英伟达已经将其变更为 RTX Pro 产品线了，价格会更贵，如果觉得显存容量不够，可以选择 RTX Pro 5000、RTX Pro 6000。对于我来说，如果有的选，就买一个高配的 AMD CPU，配置 RTX Pro 6000 96GB 显卡，尽量把功耗拉满。
接下去聊聊 DGX Spark，算力和 RTX 5070 差不多，但也足够了，比 AMD Ryzen AI Halo 和 M4 Max Mac Studio 都强，缺点就是带宽非常低。
而 AMD Ryzen AI Halo 可能是上述四种方案中最差的选择，GPU 架构太老，算力也不够，生态也不好，价格也没有明显优势，注意表格中的价格是 2TB SSD，目前最新的 AMD Ryzen AI Halo 除了提供 192GB 统一内存，其他几乎无变化，官方价格是 $6,799 美元。
M4 Max Mac Studio 是 Apple 上一代的产品，建议选择 M5 Ultra，内存带宽和算力都提升不小，当然价格也高了不少，具体可以参考这篇文章，算力大概提升是 M4 Max 的 1.6 倍，也就是说 GPU 算力虽然提高了不少，但也就和 DGX Spark 差不多，可能会稍微好一些。
这就是大概的情况！
相关文章：
