【评测】模型评测,你以为跑着准确率就够了?看我怎么用7维能力看风险 ,底层5层全嫁接

AI 测评 · 模型评测

你以为跑个准确率就够了？

模型评测的本质，是量化能力边界与风险

灵衡智测 · 7 维框架

你团队最近一次「评测模型」，是怎么做的？多半是：下载个模型，挑几个 benchmark，跑个准确率，截图发群里，完事。三天后业务方问：「这模型能上生产吗？中文行不行？遇到诱导会不会乱说？」——你答不上来。

真相：模型评测的本质，不是「跑分」，是「量化一个模型的能力边界与风险」。只报一个准确率，等于用体温计量体重。

声明：模型评测不评价「你的算法有多巧」，它只回答「这个模型交付到生产，稳不稳、危不危险」。要证明方法更优，那是算法评测的事。

01数据集与 Harness

OpenCompass · lm-evaluation-harness · HELM

怎么评：把题库+推理+客观判分标准化：一次命令跑出 MMLU/CMMLU/C-Eval/AGIEval 等多数据集分数，客观题自动比对标准答案

何时用：任何模型上线前的「基础能力体检」，中文首选 OpenCompass

02判分指标 / LLM-as-Judge

Prometheus · JudgeLM · RAGAS · TruLens

怎么评：主观题 / 开放式回答交给自托管裁判模型打分；RAG 用 faithfulness / answer relevancy 等专门指标量化「答案是否忠于上下文」

何时用：没有标准答案的生成、对话、RAG 场景

03红队安全

Garak · PyRIT · Promptfoo · DeepTeam

怎么评：用越狱 / 注入 / 数据泄露攻击模板批量探模型盲区，统计「失守率」，并映射到 OWASP LLM Top 10

何时用：上线前必过的安全闸门，尤其面向 C 端 / 敏感业务

04运行时观测

Langfuse · LangSmith · Phoenix · Helicone

怎么评：在生产流量里抽样 trace，记录每次调用的输入输出、成本、延迟、幻觉预警，看真实失败模式而非理想集

何时用：模型已在生产 / 灰度时，做持续评测与回归监控

05UI / 报告平台

Streamlit · W&B / MLflow · Argilla

怎么评：把上面四层的产出汇成看板：横向对比多个模型、人工标注纠偏、导出审计级报告

何时用：需要人审、对比、向业务方交付结论时

你的平台只写三层：业务规则层 + 编排层 + 报告层。底层尽量嫁接，中间层自己写，价值在业务规则，不在跑题引擎。

# 需先：pip install opencompass opencompass \   --models hf_llama3_8b \   --datasets ceval_ppl mmlu_ppl agieval_gen \   --work-dir ./outputs

python -m lm_eval \   --model hf \   --model_args pretrained=meta-llama/Llama-3-8B \   --tasks gsm8k,mmlu,hellaswag \   --num_fewshot 5 \   --output_path ./results

python -m garak \   --model_type huggingface \   --model_name meta-llama/Llama-3-8B \   --probes all

from langfuse import Langfuse lf = Langfuse() with lf.start_as_current_span(name="chat") as span:     span.input = prompt     out = llm(prompt)     span.output = out     span.score(name="hallucination", value=0.1)  # 0=无幻觉 1=全编 lf.flush()

from ragas import evaluate from ragas.metrics import faithfulness, answer_relevancy res = evaluate(dataset,                metrics=[faithfulness, answer_relevancy]) print(res)

import subprocess, json, datetime  MODEL = "meta-llama/Llama-3-8B" report = {"model": MODEL, "date": str(datetime.date.today())}  # 1) 客观题：lm-eval 跑标准 benchmark subprocess.run(["python", "-m", "lm_eval",     "--model", "hf", "--model_args", f"pretrained={MODEL}",     "--tasks", "gsm8k,mmlu", "--num_fewshot", "5",     "--output_path", "./out/obj.json"], check=True)  # 2) 主观题：Prometheus 裁判（prometheus_judge.py 自写，输出 scores.json） subprocess.run(["python", "prometheus_judge.py", "--model", MODEL], check=True)  # 3) 安全：Garak 全探针扫描 subprocess.run(["python", "-m", "garak",     "--model_type", "huggingface", "--model_name", MODEL,     "--probes", "all"], check=True)  # 4) 汇总成报告 obj  = json.load(open("./out/obj.json")) sub  = json.load(open("./out/scores.json")) report.update({     "objective": obj,     "subjective": sub,     "safety_pass": sub.get("fail_rate", 1.0) < 0.05,  # 红线：失守率<5% }) json.dump(report, open("./report.json", "w"),           ensure_ascii=False, indent=2) print("报告已生成 report.json")

{   "model": "meta-llama/Llama-3-8B",   "date": "2026-10-21",   "objective": {"mmlu": 0.66, "gsm8k": 0.79},   "subjective": {"helpfulness": 4.2, "fail_rate": 0.03},   "safety_pass": true }

模型评测报告样例

模型：Llama-3-8B（部署版 v2026.10）

客观能力：MMLU 66 / GSM8K 79 / C-Eval 71（满分 100）

主观裁判：有用性 4.2/5 · 安全性 4.6/5（Prometheus 自托管）

安全扫描：失守率 3%（< 5% 红线），OWASP 映射无高危

运行时：P95 延迟 320ms · 幻觉率 4.1% · 成本 $0.002/千token

红线判定：高置信误判 0 例 → 通过

结论：可上线于客服问答；不建议直接用于合同/医疗等高风险决策

结论用业务语言写「能用在哪里、不能用在哪里」，而不是甩一堆分数。

红线面前没有 90 分，只有过与不过：高置信误判，一票否决。

模型评测 = 用标准化维度，量化「这个模型能不能用、用在哪、风险多大」。

关注我，持续拆解 AI 测评

评什么 / 量化什么 / 什么算过 / 怎么测——

我是灵熵，专注 AI 模型测试与评测工程化。在这里，只讲能落地、能复用的硬核测评方法论。

点个关注，下次评测不再从零开始。

实战圈 · 入圈邀请

做研发越来越卷，光会写 CRUD 已经不够了。

我建了个实战圈「零熵AI实战圈」：一边带你把 AI 全栈（含 Agent 工程化、AI评测、模型评测等）真正跑通，一边分享股票、FDE 这些能落地的副业路径。不灌水，只讲落地。

实战圈刚创建不久，已有 网易 / 腾讯 / 阿里 的一线大佬加入，浙大的同学正在帮你把知识内容做全面升级。

你要的不止是一份知识，而是跟对一群人，做难而正确的事。

扫码加入「零熵AI实战圈」

AI 全栈 · Agent 工程化 · 副业落地

和你一起，把 AI 真正跑通