单细胞基础模型最响亮的卖点,是「零样本」——不微调、拿来就用。但一份系统评测给出了相反的信号:在许多任务上,零样本表现接近甚至不如简单方法,「免微调」并非普遍成立,而是有严格适用边界的。对正在选型的人来说,这份结论的价值,远大于又一个新模型的宣传。
▍这篇评测做了什么
Kedzierska、Crawford 等做的是对照评测(Zero-shot evaluation reveals limitations of single-cell foundation models,Genome Biology, 2025, 26(1),DOI: 10.1186/s13059-025-03574-x)。
思路很清楚:不针对下游任务做任何微调,直接用预训练得到的细胞嵌入,去做细胞类型注释、批次整合等典型任务,再与传统方法(比如基于高变基因的简单分类器、PCA 类降维方法)在同一套数据上对比。
之所以专门盯住「零样本」,是因为这正是基础模型推广时最有吸引力、也最少被追问的说法。
▍三个关键发现
- 零样本注释并不稳。在部分数据集/任务上,基础模型的零样本表现和简单基线拉不开差距,个别设定下甚至更差。
- 嵌入质量与任务强相关。有的模型在某种任务上保留了较好的生物学结构,换到另一种任务上就退化成「细胞系指纹」——学到的是技术性差异而非生物学信号。
- 评测设计会放大优势。当对比基准选得不那么恰当、当任务恰好对某个模型有利时,「零样本很强」的印象就会被放大。
- 预训练数据泄漏。模型预训练时可能见过与评测集高度相似的细胞,等于提前看过答案。
- 任务本身的难度。像细胞注释这种任务,有时靠少数几个高变基因就能做得不错,基础模型的复杂表征并没有带来增量价值。
- 批次效应被误当成信号。如果模型把批次当作主要区分维度,整合类任务上就可能出现「虚假高分」。
把零样本当作「能不能用」的门槛,而不是「好不好用」的结论。更稳的做法是:先在自己的数据上,把基础模型的零样本版和一个微调版都跑出来,再看微调带来的提升值不值得那份成本。如果零样本已经够用,那当然好;如果差得多,就别勉强。选型最怕的不是模型弱,而是拿别人的评测结论当成自己场景的结论。
基础模型不是不需要评测的「免检产品」。恰恰相反,它的零样本卖点越响,越需要一份独立、严格的评测来划定边界。我们做选型时的习惯,是先在自己数据上把「零样本版」和「微调版」都跑出来,再决定用哪个——这套对照流程也固化进了对话式分析平台(IntelliCytoPilot)。
(上海交大博后团队长期做单细胞与空间分析,基础模型的选型与评测也是常规工作的一部分。手上有一批数据不确定该不该上基础模型,欢迎交流。)
▍关联阅读
- 《深度模型还没赢过线性基线:扰动效应预测的审稿姿势》
- 《扰动分析与基础模型评测的现成框架:pertpy 与 BioLLM》
测序数据跑不动?图表要求高?方法学难下笔?
君录云析提供单细胞时空多组学全流程分析:从质控注释到高级分析,交付发表级图表+可编辑源文件+方法学段落。
(相关工作由上海交大博后团队承担。)
(本文为方法探讨,不构成具体项目的分析建议。)
君录云析· Junlu CloudAnalysis单细胞数据分析服务