RSI Arena
← 返回本轮实验

这一轮怎样严格执行

这轮把六个模型放在同样的起点,连续尝试五次接班,每个模型独立重复两次。每一代先完成共同的五道开发题,看到自己的完整反馈,再由正在运行的自己构造下一代。所有链结束并固定后,才打开另外五道测试题。

早期试跑也已经做到后代亲自接班。本轮主要补强共同资源条件、接班长度、独立重复和跨模型使用。查看两轮设置对照。

先固定规则,再看成绩

十道题均来自 Evo-Bench 原题。开发题沿用离散状态模拟、矩阵分解、生产排程、零售计划和物业管理;这五题的旧记录不会交给新参赛程序。新测试题改为图上的计数、遗传学序列推断、十家分支机构的经营分析、病历转移和原料质量变更。测试材料、答案和成绩不会进入改进过程。

起始程序、题目顺序、工具、反馈内容范围和资源上限全部固定。每道题和每次改进最多请求模型 300 次、运行 60 分钟,单次最多输出 65,536 个文本单位,累计输出最多 524,288 个,累计发送材料最多 64 MiB。发送量按同一种消息表示的实际字节数计算;输出量按服务返回的计数计算,包含服务计入其中的推理内容。

连接重试也消耗请求数和时间。没有完整返回用量的请求保留其全部输出预留额度,同时单列“实际用量未知”。评分不消耗参赛系统的作答额度。六家服务的内部计算量不可见,因此这一轮比较的是相同可控制上限下的表现。所有任务在相同的本机环境运行,本地每个进程最多使用 600 秒 CPU 时间,单个文件上限 200 MiB。

这些上限分别用于每道题和每次改进。整条链没有另设可以跨代分配的总预算;实际走过更多代,会执行更多轮次。各模型实际费用和底层算力未等额控制。第五代是本轮观察终点,走到这里并不表示已经达到模型的持续改进极限。

11月2日补充的已确认处理:原始返回能明确证明在生成前被拒收、没有生成内容的请求,不占生成额度;请求次数、输入量和等待时间仍计入。无法确定是否生成的中断继续保留原预留额。同一证据规则适用于所有模型,原记录与调整依据分别保存,已完成成绩和明确失败不重做。具体恢复记录。

后代必须亲自接班

第零代做题后修改自己的完整程序,得到第一代;第一代重新做开发题,再亲自生成第二代。这个过程继续到第五代。不能由外部固定的改进助手替后代修改,也不能人工修好某个模型交出的候选程序。

新程序只接受语法、接口和隔离运行检查。成绩下降仍然接班,不回滚;原样交付记为停滞,继续尝试后续代;没有正常交付或无法运行则停止这条链。最后使用该链最近一次成功接班的程序,不根据测试成绩挑选某一代。尚未产生的后代保留为空,不填成零分。

同一代的五道开发题必须全部得到可用反馈才能开始改进。反馈包括原始输入、完整操作过程、交付文件、分数与评语。后代还可以看到上一轮改进过程。原题要求与评分意见发生矛盾时,以原题要求为准。

三个结果各回答什么

结果比较方式
系统总实力每道题上,各模型最后成功接班版本的得分
相对改进末代得分减去自己的初代得分,同时展示各代升降
程序泛化末代程序原样交给其他五个模型,记录得分及相对使用者初代的变化

两道短答案测试题按事先固定的格式直接核对原答案。职业任务按原评分标准逐项评分。三项指标均由这些分数计算,不再增加额外的成对评审。具体计算方式。

11月2日确定的评估范围为原十题、三项指标。每道题分别展示最终实力、相对初代的变化和程序互换,只在同一道题内对两次重复取平均。五道开发题沿用原答卷和原分,另外补齐程序互换;原五道独立题继续按相同额度作答。共同进化和已产生的36个版本保持。先完成生产排程,再依次完成其余原题,详见逐题评估安排。

跨模型使用只更换调用的模型,不改交来的程序。原程序不能换成自己的服务,也不能自己扩大额度。相同模型、相同程序、相同题目在同一次重复中已经做过时,明确复用该份结果;两次独立重复之间不复用。

中断怎样接续

服务中断先在原时间和额度内重试。需要重启作答进程时,完整保存旧尝试,恢复同一工作区、程序、对话和已完成操作。已经做过的文件操作不再执行,剩余时间和额度接着扣。程序不支持完整恢复或额度耗尽时,记录为服务缺失,不能编成模型答错或接班失败。评分中断只补评分,不重做答案。

开发阶段出现服务缺失时,其余进化继续,独立测试保持未开放。先把可恢复的中断补齐,再固定全部版本;确实不能补齐的情况单独列给团队决定,不能先看测试成绩再回来补改进。同一个模型的两次独立重复依次运行。开发和测试阶段,同一模型任何时刻只做一道参赛任务;不同模型可以同时运行。

11月2日已确认:Kimi两次改进用完原时间后保留服务中断,最后成功的第四代和第一代参加后续测试。其他模型仍须完成自己的开发题和进化,全部现有版本的开发成绩与程序来源核对完成后,才统一开放新题。

同日另行确认:GPT第二组构造第二代时也因服务中断耗尽原时间,保留中断,用最后成功的第一代参加后续测试,不追加时间。

怎样形成训练数据

保存每次改进前的程序、当时能看到的开发反馈、修改过程、交出的程序和下一代的开发表现。用于训练的正例要求程序有实际改动、能正常接班,且下一代完整开发成绩不低于父代。失败和退步记录另外保留,用于分析。

同一个来源模型的所有代、两次重复与派生记录必须分到同一组,不能拆开后同时进入训练和验证。测试题及其分数不参与筛选、提示构造或训练。先检查可用样本,再依据实际训练资源进行训练及训练前后的新题比较。

本轮之后要回答的研究问题

五次接班用于观察能否连续改进,两次重复用于检查结果是否只发生一次。下一阶段扩展题目与领域,并加入固定初代改进者等对照,区分“程序更会做题”和“程序更会继续改进”。需要讨论的设置保留在讨论清单。