测评方法
做法开放,裁判固定:只规定成功标准和检验方法,怎么做完全交给 AI 自己决定;所有参测者面对同一个裁判,结果才能直接比较。
下面写的都是已经发布过的批次实际采用的口径。规则改了会升级版本号,旧批次按当时的版本保留,不混排。
怎么算对错
判对错的可信度从高到低:
- 外部裁判:物理引擎、对战胜负、数学关系。不偏袒任何一方,结果本身就是画面——桥塌了、箭撞塔了、能量对不上。
- 主持人或领域专家判断:画面是否成立、形制是否对、工艺是否可信。逐项写理由和证据截图。
- 模型自己声称「已验证」:只作参考,不进成绩。
主力题都用第 1 类。第二类只在画面和形制上使用,且和自动项分开记录,不把人工评价写成「自动通过」。
四道题怎么计分
火箭着陆 · 夹住次数与接近度
AI 给超重型助推器写飞控,让它从约 3 km 高空、250 m/s 下落的状态返回发射场,被塔上的两根机械臂夹住。隐藏场景共 20 个,每个飞一次。
- 先比夹住次数(成功 / 20)。
- 次数相同再比接近度(0–100):没夹住时离捕获窗口有多近;夹住记满分。
- 再比成功时的平均剩余推进剂。
- 捕获窗口是硬条件:水平偏差、竖直速度、倾角等多项要同时满足,差一点就是撞断机械臂。
- 时间上限 60 分钟。规则版本
rocket-1.1(S1)。第一批参测时拿到的是 1.0,成绩按 1.1 重算;两版只差接近度的算法,飞行规则和捕获判定不变。
造桥擂台 · 三种隐藏车型的最低承载倍数
在预算 12000 内设计一座桥,交付 design.json。裁判用参测者看不到的车型逐级加重测试最终结构,取各车型里最低的承载倍数作为成绩;同分时造价低者胜。
- 三种隐藏车型:三轴重卡、三车车队、反向吊车(反方向行驶)。只看一种车型调优拿不到高分。
- 任何一根杆件超出承载力就算失败,整座桥的成绩取决于最弱的那一根。
- 倍数按 0.1 逐级加压,第一批的承载倍数上限是 8 倍;公开的标准卡车只是样例,不是考题。
- 时间上限 45 分钟。第一批用的规则版本是
bridge-1.0(S1),不考虑施工过程;之后的版本加入施工验算,成绩与第一批不可比。
云端过山车 · 13 项固定检查
AI 自己做一款能玩的张家界过山车游戏,按固定镜头表出片。主持人用独立裁判复算,不看作品自己报的数字。
- 13 项固定检查:接口数据、轨道连续性、轨道净空、山体碰撞声明、动力区间、位置 / 速度一致、独立能量复算、乘客 G 值、完整回站、事件对齐、回环几何、穿洞几何、运行与确定性。
- 能量按高度独立积分,速度误差超过 max(0.6 m/s, 3%) 判与规定能量模型不一致;乘客 G 值按几何和速度重算,不采用作品自报的峰值。
- 接口不合格时,后续项停止判分,成绩按已评的项算,显示成「0/13 · 接口不合格,后续 12 项未评」,不是「13 项都没过」。
- 时间上限 2 小时。规则版本
coaster-judge-1.1(S1)。
天坛祈年殿 · 8 项自动抽检 + 4 项人工复核
在桌面沙盘上把 1889 年焚毁的祈年殿按清代官式做法重建,施工状态由施工日推导。成绩由两部分组成,分开记录:
- 8 项自动抽检:同一时刻两次 stateHash 相同、页面无报错、80 秒导演模式完整播完、Day 60 的柱 / 斗拱 / 琉璃瓦 / 彩画 / 脚手架五项统计达标。
- 4 项人工复核:第 5 秒铭牌清晰可读、三重檐与斗拱宝顶的形制、完工镜头没有遗留脚手架和抱杆、雪与工匠与微缩质感。逐项写理由和证据截图。
- 时间上限 2 小时。镜头表版本
tiantan-director-1.0(S1)。
「通过 / 没过 / 未评」的区别
| 状态 | 含义 |
|---|---|
| 通过 | 这一项按规则判了,并且达标。 |
| 没过 | 这一项判了,没达标。裁判给出具体原因,例如「合拢时竖直速度 3.77 m/s,超出 1 m/s 上限」。 |
| 未评 | 这一项没有判分,不是判失败。最常见的原因是作品接口不合格,裁判拿不到数据,后面的项就停止判分。 |
成绩条的长度和「通过项占比」只算真正判了的项。把未评当成失败会让分数看起来比实际差,也会误导读者以为作品在那一项做错了。
规则版本
| 题目 | 赛季 | 已发布批次的版本 |
|---|---|---|
| 火箭着陆 | S1 | rocket-1.1(第一批拿到的引擎是 1.0,成绩按 1.1 重算) |
| 造桥擂台 | S1 | bridge-1.0(第一批,不考虑施工) |
| 云端过山车 | S1 | coaster-judge-1.1 |
| 天坛祈年殿 | S1 | 8 项自动 + 4 项人工;镜头表 tiantan-director-1.0 |
改规则会让新旧成绩不可比,所以改之前先把旧版整套存档、升级版本号,旧批次继续按它当时的版本展示。隐藏测试和隐藏车型每个赛季更换一次,旧赛季的成绩单独归档,不和新赛季混排。
样本限制
- 每个组合每道题只测一次。已发布的批次都是单次结果,单次会有波动,不能当成稳定水平;这也是不写「平均分」的原因。
- 比较的是「工具 + 模型 + 推理档位」这个组合,不是单纯的模型。同一个模型换个工具或档位,成绩可能不同。
- 已发布的题目和批次保持不变。以后有新模型,另开一期(新批次或新赛季),不在旧赛季上重测,也不改写已有成绩。
- 自动裁判能识别规则范围内的错误,但不能证明作品在规则之外也成立;画面、形制和真实工程安全仍要人工复核。
- 计算时间上限是唯一依赖机器速度的规则,只有贴着上限的参测者才可能受影响。
还有
四道题的详情页都有成绩表、逐项结果和每家点评,每条点评注明证据出处。想看某个具体数字是怎么来的,从对应详情页进。