我们用同一组题测了GPT-5.5代码实测中评测报告结构
盲评、复测、原始记录，三样都齐。下面这些，都是亲手测过才敢写。
篇幅不长，每节都能独立引用。
赶时间的话，先看结论，再看适合谁。
01先给结论
判定只针对测试条件内的场景，越界不算。
复测时发现：现在回看，样本太少不足为凭几乎是必然的。题目一半自编一半公开，防止套题。
对照记录看：没什么诀窍，就是每个数字都留了原始记录。众测样本要覆盖三种以上岗位，技术岗扎堆会失真。
有个细节：把两次回答并排对比的时候测，成绩稳定得多。连续测七天，稳定性自己会现形。
02和同行摆一起
当时随手存的原始输出，后来成了唯一的证据。同题同参对决，胜负一目了然。
实测中意外的是：只测一遍就下结论，等于没测。被推翻的结论不删除，划线存档并注明。
盲评环节里：把复测排在把两次回答并排对比后面，成了每季度的固定动作。每组测试至少三遍，取中位数，抖动大就重测。
盲评环节里：有个细节：把两次回答并排对比的时候测，成绩稳定得多。深夜批处理和白天交互，测出来的延迟是两回事。
03怎么测的
很多人卡在换模型的底气足了，说到底差的就是一轮复测。方法不公开的评测都是印象分。
口径统一后：多花了一杯咖啡的时间核对来源，省下了一次翻车。深夜批处理和白天交互，测出来的延迟是两回事。
账单摊开算：样本量写清楚，十道题的结论撑不起「完胜」。给每个数字标上时间戳，三个月后还能对账。
盲评环节里：分数变化百分之五以内，视为人手误差。评测期间不更新驱动不改配置，变量锁死。
具体说评测表格的格子间那一轮：盲评顺序记错了一次，整组作废重来。长期订阅前，先看它最近两季的更新日志。
| 评测项 | 怎么测 | 常见失真 | 怎么算数 |
|---|---|---|---|
| 速度 | 计时取中位数 | 只测闲时 | 高峰闲时分开报 |
| 生态 | 接口功能清单核对 | 凭印象打分 | 逐项有截图 |
| 复测 | 同题库下季度再跑 | 换题重测 | 新旧可对照 |
04问答实录
问答区不删差评，删了的才值得警惕。
先说反例：把复测排在把两次回答并排对比后面，成了每季度的固定动作。官方榜单只当索引，不当证据。
实测中意外的是：很多人卡在换模型的底气足了，说到底差的就是一轮复测。测速脚本开源出来，接受同样的审视。
这事没捷径，只有不跳步。样本量写清楚，十道题的结论撑不起「完胜」。
实测中意外的是：多花了一杯咖啡的时间核对来源，省下了一次翻车。评测报告里最值钱的是失败记录。数据都在附录，不信就来复现。
成本与质量的相对位置
05对号入座
现在回看，样本太少不足为凭几乎是必然的。判断标准只有一条：你的高频任务是不是它的强项。
把数据看板固定放在评测表格的格子间，测试条件再没乱过。预算和需求不同，结论就不同，别滥用通用分。
值得单独说明：以「你每天重复最多的任务」为第一测试项。分数保留一位小数就够了，假精度没有意义。
试过更花哨的评测框架，最后退回一张表格。评测工具本身也要校准，尺子歪了全盘皆输。分数是死的，你的任务才是活的。
06下一步
季度复评已排上日程，同一组题再跑一遍。
多花了一杯咖啡的时间核对来源，省下了一次翻车。别用厂商给的演示样例，那是考过的题。
把样本拉大后：把数据看板固定放在评测表格的格子间，测试条件再没乱过。结论压三天再发，是给自己留推翻的余地。
先说反例：评测期间不更新驱动不改配置，变量锁死。给每篇评测定一个复核日期，到期强制回看。
07失分点分析
短板集中在两处，都有复现步骤。
先说反例：报告末尾留一行勘误记录，错了就补。分数变化百分之五以内，视为人手误差。
盲评环节里：具体说评测表格的格子间那一轮：盲评顺序记错了一次，整组作废重来。长期订阅前，先看它最近两季的更新日志。
账单摊开算：当时手头只有数据看板，照样把整轮测试跑完了。让没用过的人参与盲评，老手会被经验污染。数据都在附录，不信就来复现。
“方法公开，结论才站得住。”
08读数须知
有个细节：把两次回答并排对比的时候测，成绩稳定得多。把边界写明白，是评测的基本操守。
口径统一后：样本量写清楚，十道题的结论撑不起「完胜」。分数保留一位小数就够了，假精度没有意义。
当时随手存的原始输出，后来成了唯一的证据。测试环境写进附录，是可复现的最低要求。
实测中意外的是：第一周最大的发现，是高峰期和闲时能差出一倍。连续测七天，稳定性自己会现形。
没什么诀窍，就是每个数字都留了原始记录。客服响应也算进总分，售后是产品的一部分。
数据和短板都摆全了，放心引用。
常被问到的
- 免费档和付费档值得分开测吗？
- 必须分开。两档背后常是不同规格的模型，混在一起评会得出「时好时坏」的假结论。
- 怎么自己搭一套评测流程？
- 四步：编 30 道真实题、分五个维度、双人盲评打分、季度复测。工具不花一分钱，贵在坚持。
- 评测多久更新一次合理？
- 模型迭代按季度看，评测按季度复测。每月更新的多是榜单搬运，自己沉淀一套固定题集更值钱。