从零了解 RSI Arena

RSI Arena 研究一个问题：给不同的大模型同样的起点和改进机会，谁能把自己的工作方式改得更好，并让后代继续改下去？

RSI 指递归自我改进。在这里，“递归”指新一代不仅负责做题，也亲自负责下一次改进；Arena 是把这些系统放在共同任务中比较的竞技场。

我们比较三个结果：最后哪个“模型 + 工作程序”最强；每个模型比自己的初始版本进步多少；它进化出的程序换给其他模型后是否仍然有用。随后，可以把改进过程整理成数据，训练一个更会改进自身工作方式的模型。

本轮六个模型各跑两条独立链，最多接班五次，共同进化已经结束，保留了36个实际版本。现在将原来的十道题逐题评估：每题分别比较最终实力、相对进步和跨模型使用。先完成生产排程，再依次完成其余原题。十题目录和生产排程答卷会随评估更新。

1. 模型与 Harness 各负责什么

大模型（LLM）负责理解问题、推理和生成内容。Harness 是围绕模型的一套工作程序，负责组织这些能力：如何规划任务、调用工具、保留上下文、检查文件、判断何时完成。

例如，做一份薪酬表需要读合同、计算报酬、生成工作簿和检查公式。模型提供判断，Harness 决定如何把这些步骤组织起来。更好的工作程序可能让同一个模型减少漏项，及时发现错误，并更有效地使用时间。

Seed Harness 指所有参赛模型最初拿到的同一份工作程序。在进化阶段，同一条链使用的大模型保持不变，模型的参数不训练；每代改变的是 Harness。每个参赛系统都是“某个模型 + 当代 Harness”。

这一阶段的“训练任务”称为开发题，供系统尝试和获得反馈，用来指导程序改进。后文的 SFT 才会训练模型本身。

2. 一次完整实验怎样进行

• 共同出发：不同模型各配同一份起始程序，获得相同的开发任务、反馈方式、工具和资源规则。
• 当前代做题：模型通过当代 Harness 完成开发题，保存作答过程和成果。
• 当前代看反馈：它得到自己的原题、操作记录、成果、分数和评语。反馈的格式与提供方式一致，具体内容反映各自的表现。
• 当前代改自己：仍由这套正在运行的 Harness 主持修改，生成下一代程序。
• 下一代接班：新程序正常交付并通过运行检查后，接管做题，也接管下一次改进。即使分数下降，也保留这个版本。
• 持续观察：重复这个过程，保存每代程序与表现；不能完成交接时，记录停止位置和原因。
• 逐题评估：到约定的代数或停止条件后，固定已有版本。开发题沿用已保存的答卷，新题由各版本统一作答；每道题单独完成三项比较。

核心关系是：第 g 代生成第 g+1 代；第 g+1 代必须亲自负责做题，并构造第 g+2 代。后代接管的包括“如何改进”这件事本身。

首页的逐代详情提供每次接班的核对记录：谁实际主持了改进，收到的反馈是否属于自己，交出的程序是否原样接班，以及新一代是否已经开始做题。

本轮设置是初代 → 第一代 → 第二代 → 第三代 → 第四代 → 第五代。每个模型独立重复两次，两个起点之间不传递改进经验。第五代完成开发题后结束这条链的进化；所有链结束后统一接受独立测试。

3. 什么叫相同条件

这里的 step 按一次模型请求计数。统一可用上限，各模型的实际消耗分别记录。没有完整返回用量的请求保留全部输出预留额度，单列未知用量，不把它说成实际生成量。

本轮恢复连接时沿用原剩余额度，不追加时间或请求数。旧示例曾对三处中断追加时间，那些记录仍放在旧轮，不与新轮混算。具体经过见连接与评分补跑。

4. 怎样判断谁跑得更远

“跑得更远”同时包含两层：一是能连续完成多少次有效接班，二是能力曲线能走多远——持续提高、保持、平台期还是退步。接班次数多，不自动等于更强。

因此要保存完整曲线，记录相邻代变化、相对初代的变化、首次明显退步和停止位置。本轮最多五次接班、每个模型独立重复两次，同时记录实际走到哪一代、是否改动程序，以及中途下降后是否恢复。

5. 三项评价分别怎样做

① 系统总实力：最后哪个系统最强

每道题都比较不同模型各自的最后成功版本，使用相同题目、材料和测试额度。未能产生后代的模型仍使用已有初代参加比较。五道开发题标明“改进时做过”，另五道题标明“改进后开放”。

确定答案的任务核对原答案；职业任务按原要求逐项评价交付成果。每份答卷得到自己的分数，并保留评分理由。

每题单列六个模型的最终分数，只在同一道题内对两次重复取平均。三项指标都由原分计算，当前不再增加额外的成对评审。查看计算方式。

② 相对改进能力：比自己的起点好多少

对每一道题，计算末代减初代的分数，并保留每代的上升和下降。网页可以选择两代并排看答卷，查看每项得分为什么增加或减少；停止接班的原因另外列出。

例如，本轮生产排程题中，Claude 第一次重复是46 → 46 → 50 → 57 → 64 → 57分。它最后达到57分，中途的64分保留在曲线上，最终比较仍用57分。这道题在改进时做过，能直接看到原答卷的变化。

③ Harness 泛化性：换给其他模型还能用吗

假设模型 A 进化出程序 H_A。固定这份程序，让模型 B 使用它完成同一道题；再与“B + 共同起始程序”比较。保持 B、题目和测试预算相同，改变的是工作程序。

对所有模型都这样做，就得到一张互换结果表：行是程序由谁进化，列是谁使用程序。每格记录实际能力、相对该使用者起点的变化、消耗以及能否正常运行。还可以与“B + B 自己的最终程序”比较，判断自己的方法是否更合适。

六个模型对应 30 种跨模型组合，另有六种使用自己程序的组合。模型连接采用同一规范；移植时不顺便人工改进策略，无法运行也作为结果记录。

每题各有两张六乘六的互换表，也可以看两次平均；相同模型、相同程序、相同题目已有作答时明确复用，两次重复之间不复用。表中同时列出得分和相对使用者初代的变化。

6. 怎样把过程变成训练数据

进化过程还可以形成第二条研究路线：训练模型学习如何改进 Harness。SFT（监督微调）就是用整理好的示例教模型做这件事。

流程是：保存原始记录 → 按任务与进化链整理样本 → 用开发材料检查改动 → 划分训练与验证数据 → 训练模型 → 放回同一竞技场测试。

筛选训练样本时只使用开发材料，最终独立题及其评分不进入训练数据。正例要求程序有实际修改、能正常接班，且下一代的完整开发成绩不低于父代。同一个来源模型的所有代和两次重复都放在同一数据分组，不能拆到训练与验证两边。

这轮最多有60次改进。按四个来源模型用于训练、一个用于验证、一个用于测试划分，训练部分最多40条，再按实际质量筛选。扩大训练数据需要增加独立的改进过程和开发任务组合。

训练后的模型需要与训练前的同一个模型比较：是否更容易完成接班、能否连续改进更多代、能否提升新任务表现，以及生成的程序换到其他模型后是否有用。要在未用于训练的新题上重新跑完整流程，才能判断训练的贡献。

训练成本和之后做题、改进的消耗分开报告。

原始记录保存与训练数据整理已经接入本轮流程；训练与训练后的比较尚未开始。数据是否准备好、得到多少可用样本，都会在首页单独显示。

7. 当前已完成什么

本轮采用 Evo-Bench 发布的十道原题和十六个附件：五道开发题、五道独立题。保留原划分与任务，复用起始程序和原职业评分；两道短答案测试题用提前固定的规则直接核对原答案。

六个模型是 DeepSeek Flash、Claude Opus 5.5、Qwen 3.8 Flash、GLM 5.3、GPT 6.1、Kimi K3。每个模型两次独立重复，每条链最多尝试五次接班。

页面的题目进度按实际产生的版本计算；接班失败与服务中断各自保留原因。新旧两轮不合并成一个成绩。

8. 如何从示例走向论文

第一步，完成本轮已经固定的五次接班、两次重复与三项评价，再扩展到更多任务和领域。

第二步，增加能够解释改进来源的对照。例如，让初代始终主持改进，与后代接管的路线使用相同资源；再让新旧改进者从同一个程序和同一份开发反馈出发，比较谁更会改。这样可以解释收益来自程序本身，还是来自后代更强的改进能力。

第三步，整理进化数据并训练模型，再用未参与训练的任务检验它是否更会持续改进。统一竞技场、三项能力的实证结果，以及经验证有用的训练数据与模型，都可以构成论文贡献。

具体设置与相关工作已放在 待讨论清单。它把已采用的规则、下一轮建议和需要一起决定的选择分别列出。