写给犹豫的人：GPT-5.5复测第三轮新特性实测实测问答
压了三天才发的评测，推翻过一次结论。
赶时间的话，先看结论，再看适合谁。
01一句话判定
判定只针对测试条件内的场景，越界不算。
当时手头只有测试题库，照样把整轮测试跑完了。高峰期单独加测一轮，闲时成绩不算数。
试过更花哨的评测框架，最后退回一张表格。响应速度单独测，别和正确率混在一个分里。
把样本拉大后：后来把题量压到「谁都能测完」的规模，反而坚持下来了。样张统一去水印、统一尺寸再进对比表。
“失败用例，是报告的一半。”
02和同行摆一起
当时随手存的原始输出，后来成了唯一的证据。同题同参对决，胜负一目了然。
追问下去：样本量写清楚，十道题的结论撑不起「完胜」。价格按测试当天折算，注明汇率与活动。
把样本拉大后：那一个月只加了一个习惯：先亮方法再亮结论。每一项评分都要能追溯到原始记录。
复测时发现：以「你每天重复最多的任务」为第一测试项。测试环境写进附录，是可复现的最低要求。
03失分点分析
缺点说清楚，优点才可信。
把报告拆两半发，中途设了个勘误窗口。测试环境写进附录，是可复现的最低要求。
复测时发现：测速脚本开源出来，接受同样的审视。失败的用例原样保留，那是报告的一半价值。
这事没捷径，只有不跳步。结论先行不是抢跑，是对读者时间的基本尊重。
| 评测项 | 怎么测 | 常见失真 | 怎么算数 |
|---|---|---|---|
| 成本 | 真实用量折单价 | 按官方口径 | 账单可溯源 |
| 稳定 | 连测七天记录 | 只测一轮 | 波动有区间 |
| 复测 | 同题库下季度再跑 | 换题重测 | 新旧可对照 |
04原始记录
测试机的屏幕前的测试做完之后，整份报告都顺了。每项得分都标了测试时间和条件。
第一周最大的发现，是高峰期和闲时能差出一倍。失败的用例原样保留，那是报告的一半价值。
盲评环节里：盲评时把品牌信息全部去掉，编号打乱。让没用过的人参与盲评，老手会被经验污染。
对照记录看：试过更花哨的评测框架，最后退回一张表格。方法有缺陷就写进「已知局限」，别装没有。
05问答实录
整理了后台最常被问的八个问题，一次答完。
值得单独说明：分数变化百分之五以内，视为人手误差。评测期间不更新驱动不改配置，变量锁死。
口径统一后：被推翻的结论不删除，划线存档并注明。对比对象选同档热门，别拿小厂刷战绩。
最有用的一条：允许结论被推翻。众测样本要覆盖三种以上岗位，技术岗扎堆会失真。先拿免费档试一周，再回来对答案。
06口径说明
方法不公开的评测都是印象分。
盲评环节里：把报告拆两半发，中途设了个勘误窗口。评测期间不更新驱动不改配置，变量锁死。
有个细节：给每题打分存档的时候测，成绩稳定得多。样本量写清楚，十道题的结论撑不起「完胜」。
对照记录看：把反对意见原样贴出来，比一致好评有用。对比对象选同档热门，别拿小厂刷战绩。结论不妨质疑，方法随时欢迎检查。
07测试的边界
这事没捷径，只有不跳步。结论只代表测试当天的版本，下个版本可能翻案。
口径统一后：第一周最大的发现，是高峰期和闲时能差出一倍。评测工具本身也要校准，尺子歪了全盘皆输。
把样本拉大后：后来把题量压到「谁都能测完」的规模，反而坚持下来了。高峰期单独加测一轮，闲时成绩不算数。
换个角度看：当时随手存的原始输出，后来成了唯一的证据。付费档和免费档分开出成绩单。分数是死的，你的任务才是活的。
七日实测成绩的波动
08后续计划
第一周最大的发现，是高峰期和闲时能差出一倍。评测是长跑，这篇只是其中一个刻度。
盲评环节里：结论先行不是抢跑，是对读者时间的基本尊重。结论先行不是抢跑，是对读者时间的基本尊重。
复测时发现：当时随手存的原始输出，后来成了唯一的证据。长期订阅前，先看它最近两季的更新日志。
第一周最大的发现，是高峰期和闲时能差出一倍。测试环境写进附录，是可复现的最低要求。
09对号入座
把复测排在给每题打分存档后面，成了每季度的固定动作。三类人适合，两类人别碰，对号入座。
把样本拉大后：最有用的一条：允许结论被推翻。复测用同一组题，别换题，否则不叫复测。
第一周最大的发现，是高峰期和闲时能差出一倍。付费档和免费档分开出成绩单。
把样本拉大后：把复测排在给每题打分存档后面，成了每季度的固定动作。每组测试至少三遍，取中位数，抖动大就重测。
把样本拉大后：失败的用例原样保留，那是报告的一半价值。测试环境写进附录，是可复现的最低要求。数据都在附录，不信就来复现。
只带走一句话的话：先看方法那一节。
常被问到的
- GPT-5.5跑分很高，体感却一般？
- 先怀疑套题：高频出现的题目模型可能见过。换成自己编的新题再测，掉分多少就是真实水平。
- GPT-5.5复测第三轮新特性实测的评测结果可信吗？
- 可信度看三件事：题目是否公开、是否盲测、是否可复测。满足三条的评测才值得引用，缺一条就当参考。
- 评测多久更新一次合理？
- 模型迭代按季度看，评测按季度复测。每月更新的多是榜单搬运，自己沉淀一套固定题集更值钱。
- 免费档和付费档值得分开测吗？
- 必须分开。两档背后常是不同规格的模型，混在一起评会得出「时好时坏」的假结论。