视频用一个“厨房”比喻讲清电脑运行本地大模型的完整过程,拆解选电脑必看的算力、带宽、显存三大指标,并说明本地模型在成本、隐私、离线三方面的实际价值,帮助判断 AI PC 到底适不适合自己。

来源与版权声明
- 内容来源:抖音 @秋芝2046 发布的公开视频《AI时代,如何选电脑?【小白必看】》
- 作品性质:本文为视频内容的二次提炼与图文整理,非原创,不代表本平台观点
- 版权归属:文字、数据、画面及截图等版权均归原作者及相关权利人所有
- 使用范围:
- 完整内容:请前往抖音关注作者观看原视频;如认为侵权,请联系删除
01电脑是怎么运行本地大模型的
要理解 AI 时代的配置,先看电脑如何运行一个本地大模型。视频把一台配置齐全的电脑比作一间厨房:CPU 是全能的主厨,GPU 是人数众多的帮厨团队;主厨和帮厨面前各有一张备菜台,分别对应内存与显存,备菜台与厨师之间的传送带宽度叫做带宽;楼下的冷藏库则是硬盘,本地模型文件就像存放在里面的食材。
当用户向 AI 提问,整个“做菜”过程是:主厨先接单点菜,指挥把这道菜所需的全部食材从冷藏库搬到备菜台,再经传送带送到帮厨面前,帮厨一批批烹饪,做好后把菜品一点点传回主厨端出,用户于是收到 AI 的回答。
图 1视频用厨房比喻对应 CPU、GPU、内存、显存、硬盘与带宽,并标注了提问与回答的完整流向02选电脑,盯住三个指标
在这个过程中,决定能不能“吃上菜”、上菜快不快的,正是以后看配置要重点关注的三个方面。
- 算力:看有没有帮厨团队、人数有多少,这是决定有没有人做菜、做菜速度的根本。
- 带宽:传送带如果太窄,厨师做得再快也会被等食材的时间拖累。
- 显存:备菜台有多大,才决定能做多大的菜,也是最卡脖子的一环。
备菜台造价很高。视频举例,消费级最好的独立显卡 RTX 5090 价格两万多元,显存也只有 32GB;因此过去的消费级电脑面对 72B、125B 这类大模型,往往是台子放不下、做不了这道菜。
图 2视频把选电脑的核心收敛为算力、带宽、备菜台(显存)三个指标03显存不够,工程师是怎么解决的
既然帮厨的台子放不下,能否借用主厨那边更大的台子?确实可以,这就是把模型卸载到内存。但在传统独立显卡方案下,主厨与帮厨的台子之间只有一条窄传送带,放在内存里的食材要一点点挤过去,结果帮厨大多数时间不是在做菜,而是在等食材。
视频还提到一个容易被忽略的细节:不少前沿模型是 MoE(混合专家)架构,一个 125B 的模型每次真正干活的参数可能只有 6B,但因为全部参数都得先放上备菜台,即使算力和带宽足够,仍可能因台子放不下而卡住。
更彻底的思路是统一内存:让主厨和帮厨共用一张大备菜台,既有足够空间直接塞下前沿大模型,也省去两张台子之间来回搬运的麻烦,于是在常用电脑上也能直接跑千亿参数的模型。
图 3把 72B/125B 大模型卸载到内存可缓解显存不足,但数据仍要经过窄传送带搬运04云端还是本地:下馆子与在家做饭
本地模型再强,也比不过云端超算中心的万亿大模型,为什么还要费劲用本地?视频把用 AI 比作吃饭,只有两种选择。
用云端 AI 像下馆子、点外卖,选择非常丰富,多大的菜都能点到;如果永远在外面吃,电脑配置确实只需满足能上网、多开几个程序不卡即可。用本地模型像自己在家做饭,做不出“佛跳墙”这样的顶级大菜,但当 AI 变得像吃饭一样频繁,厨房就可能成为每个家的标配。这类新型 AI PC,本质上就是一种拎包入住、能满足家常菜的新型厨房。
05本地模型的三个实用价值
一是成本:可无限量、免费生成
在家吃饭最爽的是可以无限量吃外面卖得很贵的菜。视频举例,云端生成一条十秒的 Seedance 2.5 AI 视频要花钱,而本地的 MiniMax H3 可以无限生成。像做一条十分钟科普需要大量配图素材、精度要求又不高时,就可以直接用本地模型批量跑,睡前把任务排好队彻夜自动运行,早上就能看到几十条素材。
图 4视频用同一提示词对比本地 MiniMax H3 与云端 Seedance 2.5 的成片效果,二者差距并没有想象中大二是隐私:敏感数据不出本机
自己家的厨房,食品安全最放心。对岗位或工作单位特殊的人,把合同、账本等机密交给云端 AI 就相当于泄密。本地模型可以在断网情况下处理账本、合同和各类账密,也能承担“把文件夹里一千张发票全部读取成表格、再汇总成报告”这类又批量又隐私的活;因为不花额度,还可以同时切换几个不同模型和智能体互相检验计算结果。
图 5视频指出财务、法务、商务及特殊单位等场景,对数据安全和本地处理的需求尤其突出三是离线:随时能开火
自己的厨房随时能用。无论是高铁、飞机还是地下停车场,在没有网络的地方,本地模型依然可以工作,照样能改 PPT、处理文档。
图 6本地模型不依赖网络,在高铁、飞机、地下停车场等离线环境中也能正常使用06结语:在三指标与价格之间找平衡
总结起来,选这类 AI PC 就是看算力、带宽、显存或内存三大指标,并结合价格做平衡。视频还按不同用途整理了一份配置速查表,把任务分成轻档、中档、重档,可对照自身需求选择。需要留意的是,本地模型的能力仍不及云端顶级大模型,做不出“佛跳墙”,是否要为本地能力买单,取决于自己是否真有高频、隐私或离线的使用场景。