蓝戟Arc Pro B65显卡评测:Local AI的实惠
蓝戟这张 Arc Pro B65,单卡 32GB 显存,电商价 8999 元。买两张塞进机箱,就是本地跑大模型的实惠路子。
Windows 下跑 Qwen 3.8 27B,速度能到每秒二十来个词。不过 llama.cpp 的 vulkan 后端不太稳,偶尔会报设备错误。
换到 Ubuntu 上插两张卡,配套软件 LLM Scaler 就好用多了。它能把 BF16 模型在线转成 FP8 或 INT4,直接省下大半显存。
实测下来,Qwen 3.6-35B-A3B-FP8 单用户能跑到 144 token/s。开到 32 并发,每人还能分到 23 个,延迟也压得住。
游戏看着够用的 16GB 显存,在 AI 这儿真不够看。硬件给足料,软件又省心,这套组合拳确实打得漂亮。
原文蓝戟Arc Pro B65显卡评测:Local AI的实惠选择,配套软件令人省心