把GPT-5.5代码实测中水温题与套题放进真实工作里测了一周
不接广告不恰饭，分数只对题目负责。篇幅不长，每节都能独立引用。
篇幅不长，每节都能独立引用。
适用人群对照表
不同人群该重点看哪个维度。
| 人群 | 第一维度 | 第二维度 | 提示 |
|---|---|---|---|
| 重度用户 | 成本 | 速度 | 按量细算 |
| 轻度用户 | 免费额度 | 上手难度 | 够用就好 |
| 团队决策 | 稳定 | 生态 | 先试点再推 |
| 创作者 | 质量 | 风格一致性 | 盲评样张 |
| 开发者 | 接口 | 稳定 | 看 API 文档 |
01评测流程
环境与参数写在文末附录，欢迎一键复现。
对照记录看：当时手头只有截图存档，照样把整轮测试跑完了。结论先行不是抢跑，是对读者时间的基本尊重。
先说反例：最有用的一条：允许结论被推翻。预算和需求不同，结论就不同，别滥用通用分。
现在回看，缺点一笔带过几乎是必然的。报告末尾留一行勘误记录，错了就补。
账单摊开算：给每个数字标上时间戳，三个月后还能对账。官方榜单只当索引，不当证据。
复测用同一组题，别换题，否则不叫复测。测速脚本开源出来，接受同样的审视。
| 评测项 | 怎么测 | 常见失真 | 怎么算数 |
|---|---|---|---|
| 质量 | 自编+公开题盲评 | 全用公开套题 | 盲评与跑分一致 |
| 复测 | 同题库下季度再跑 | 换题重测 | 新旧可对照 |
| 速度 | 计时取中位数 | 只测闲时 | 高峰闲时分开报 |
02后续计划
评测是长跑，这篇只是其中一个刻度。
对照记录看：把报告拆两半发，中途设了个勘误窗口。给每篇评测定一个复核日期，到期强制回看。
对照记录看：现在回看，缺点一笔带过几乎是必然的。连续测七天，稳定性自己会现形。
把复测排在对照官方榜单核对后面，成了每季度的固定动作。对比对象选同档热门，别拿小厂刷战绩。
03你问我答
问答区不删差评，删了的才值得警惕。
复测时发现：把对手的优点也写出来，报告才立得住。连续测七天，稳定性自己会现形。
口径统一后：样张统一去水印、统一尺寸再进对比表。把对手的优点也写出来，报告才立得住。
值得单独说明：第一周最大的发现，是高峰期和闲时能差出一倍。评测工具本身也要校准，尺子歪了全盘皆输。判定给完了，复测的事我们季度见。
04对号入座
当时随手存的原始输出，后来成了唯一的证据。画像列在下面，越靠前匹配度越高。
换个角度看：付费档和免费档分开出成绩单。评测工具本身也要校准，尺子歪了全盘皆输。
把样本拉大后：别用厂商给的演示样例，那是考过的题。结论压三天再发，是给自己留推翻的余地。
盲评环节里：那一个月只加了一个习惯：先亮方法再亮结论。评测期间不更新驱动不改配置，变量锁死。判定给完了，复测的事我们季度见。
题目一半自编一半公开，防止套题。深夜批处理和白天交互，测出来的延迟是两回事。
- 盲评去掉了品牌信息
- 高峰闲时分开计时
- 题库一半来自真实任务
- 失败用例原样存档
05结论先行
当时随手存的原始输出，后来成了唯一的证据。先说判定：值得测的场景多，值得付钱的场景少。
值得单独说明：最有用的一条：允许结论被推翻。测试环境写进附录，是可复现的最低要求。
实测中意外的是：当时手头只有截图存档，照样把整轮测试跑完了。高峰期单独加测一轮，闲时成绩不算数。
复测时发现：分数变化百分之五以内，视为人手误差。评测工具本身也要校准，尺子歪了全盘皆输。
06泼冷水环节
当时随手存的原始输出，后来成了唯一的证据。失分的题逐条看了，原因不是能力是策略。
对照记录看：那一个月只加了一个习惯：先亮方法再亮结论。样本量写清楚，十道题的结论撑不起「完胜」。
有个细节：对照官方榜单核对的时候测，成绩稳定得多。题目一半自编一半公开，防止套题。
口径统一后：评测报告里最值钱的是失败记录。付费档和免费档分开出成绩单。
复测时发现：每组测试至少三遍，取中位数，抖动大就重测。被推翻的结论不删除，划线存档并注明。结论不妨质疑，方法随时欢迎检查。
按场景拆分的得分差异（参考）
07实测证据
数据先摆事实：强项强多少，弱项弱多少。
口径统一后：最有用的一条：允许结论被推翻。复测用同一组题，别换题，否则不叫复测。
把样本拉大后：很多人卡在结论有了数据撑腰，说到底差的就是一轮复测。给每篇评测定一个复核日期，到期强制回看。
很多人卡在结论有了数据撑腰，说到底差的就是一轮复测。测速脚本开源出来，接受同样的审视。分数是死的，你的任务才是活的。
样张统一去水印、统一尺寸再进对比表。复测用同一组题，别换题，否则不叫复测。
写到这里。GPT-5.5代码实测中水温题与套题的判定给完了，复测季度见。
有新版本我会回来更新这篇报告。
常被问到的
- 免费档和付费档值得分开测吗？
- 必须分开。两档背后常是不同规格的模型，混在一起评会得出「时好时坏」的假结论。
- GPT-5.5代码实测中水温题与套题的评测结果可信吗？
- 可信度看三件事：题目是否公开、是否盲测、是否可复测。满足三条的评测才值得引用，缺一条就当参考。
- GPT-5.5值得为了评测里的一个优点订阅吗？
- 把那个优点换算成你的使用频率：每周都用得上就值，一个月一次就先用免费档。