
一个没人转发的 400 星仓库:rsi_eval 和「把热门方法接到一起」的打法
它是什么 一个 Python 工具包,让做「agent 自己改进自己」研究的人用同一个接口、同一套钉死版本的基准,去评测 Meta-Harness、RRSI 等不同方法。
为什么火了 踩中 2026 年 RSI 热潮,占了「跨方法统一评测」这个真实但很窄的空位,README 工整、topic 打满,被 topic 页和聚合站收录;不过 star 曲线匀速、fork 账号像互刷网络,相当一部分 star 可能是刷的。
C你可以怎么跟 挑一个方法各自为政的热门研究方向,做「N 个方法 × M 个基准」的统一评测层,并比它多放一张排行榜,发给被比较的方法作者和圈内人。
- 数据(每天更新) · 建库 2026-10-12 · 435 星 · 7 天 +162
GitHub · 星数 数据 2026-10-14 → 2026-11-08(26 天,25 次观测)。10-28 以前的点来自 deeply / 存档补录,不是每天都有
一个只有 6 个关注者的开发者,10 月 12 日建了一个仓库,把 2026 年最热的四个「agent 自我改进」方法和 24 套基准接到同一个函数下面。25 天后它有了 399 个 star,X、HN、Reddit、知乎上却找不到一条提到它的帖子。这篇讲它占住的是什么位置、star 从哪来、哪部分值得学、哪部分别信。
10 月 18 日,一行记录
10 月 18 日夜里,一个专门追踪「递归自我改进」(RSI)研究的个人仓库 nanoRSI 照例更新了它的雷达日志,其中一行是:「rsi_eval 70→86 stars, no release」。这是能找到的、最早认真看过这个仓库的人——不是媒体,不是大号,是一个每天自动扫这个领域所有仓库的小雷达。
那时 rsi_eval 建库才 6 天。到 11 月 6 日,它是 399 星(GitHub 页面实时约 410),作者账号下只有这一个仓库有星。
它是什么
README 第一句写得很直白:「A lightweight Python SDK and CLI for evaluating recursive self-improvement (RSI) methods across agent benchmarks.」下面一行是它的整个世界观:
candidate -> evaluate() -> task feedback -> your next candidate
大白话:你做了一个「让 agent 自己改自己」的方法,每改出一版,就要拿去跑基准、拿分数、决定下一步怎么改。rsi_eval 不管你怎么改,只管「跑基准、给反馈」这一段。它底下用的是 Harbor(一个 6,800 星的 agent 评测框架)加 Docker,候选 agent 默认是 Codex CLI;上面挂了 24 套评测配置,从 Terminal-Bench、SWE-bench、Aider Polyglot 到 MMLU、GPQA、ARC-AGI,再到 Harvey LAB 这类法律工作流。
它最会说的卖点有两个。一是四个热门方法——Stanford 的 Meta-Harness、Google 的 RRSI、AHE、HarnessX——都做成了「一键跑」;二是做研究的人在意的细节都照顾到了:任务和结果钉死版本、每次评测给候选拍快照、断了能续跑,preview 命令不用 Docker、不登录、不花一分钱模型额度。
作者 Danielxu0208,2018 年注册,bio 写着「Be Lucky.」,另外几个原创仓库是一个 ECCV 2026 的多模态检索基准(3 星)和一份 RSI 综述,还给 OpenCompass 提过十来个评测修复 PR。看得出是做评测的学术背景,没有机构背书(单位未核实)。
为什么是现在
RSI 是 2026 年的显学。Meta-Harness、AHE、HarnessX 都是 4 月前后放出来的,Google 的 RRSI 9 月开源,每个都有一千到两千星;国内 36 氪、新浪这些也在集中写「当 AI 开始造 AI」。
问题是这四个方法各带各的评测脚本,跑的任务、版本、打分口径都不一样,谁也没法跟谁比。rsi_eval 抢到的就是这道缝:不做方法,也不做基准,只做两者中间那一层。找了一圈,做这件事的目前只有它一个——Scale AI 的 RSI Bench 测的是「agent 能不能做 AI 研发」,是另一回事;inspect_ai、openai/evals 这些通用评测框架,都不是围着「候选→反馈→下一轮」这个循环设计的。
空位是真的,但很窄:会用它的只有做 RSI 或 harness 进化研究的人。
star 是从哪来的
把每天的数字排出来(GitHub,10-16 起逐日):
| 日期 | star | fork |
|---|---|---|
| 10-16 | 49 | 2 |
| 10-19 | 104 | 4 |
| 10-25 | 176 | 8 |
| 10-27 | 177 | 9 |
| 11-01 | 273 | 13 |
| 11-06 | 399 | 15 |
近 7 天 +181,前 7 天 +67,单日最多 +39(11-01)。这是一条几乎笔直的斜线,中间只有 10 月 26、27 两天停过。它从没上过 GitHub 总榜 Trending,只在 10 月 15–19 日出现在 python 和 ai-agents 两个 topic 页的列表里。
能确认的流量来源有三个:
- topic 页和搜索:仓库打了 6 个 topic(ai-agents、rsi、recursive-self-improvement……),正好是这个领域的人会点进去的词。
- 自动聚合站:ossradar(「+142 stars this week」)、aiagents.directory、蝶动 AI 导航(11-05)、一份 awesome-infra-for-ai 清单,还有 AI 生成的「用 Rsi Eval 预览基准任务」使用场景页。但这些都是看到 star 涨了才收录的,是结果,不是起因。
- RSI 圈子的雷达:就是开头那个 nanoRSI。圈子很小。
能确认没有的:X 上 30 天里搜仓库名、作者名都是 0 条,HN 0 条,中文社区也没找到作者自己发的帖。
剩下那部分,得说难听一点。15 个 fork 账号几乎全是 0 粉丝、二十来个仓库全是 fork、名字像机器生成的(noupher-bronra、mimsalicia2w-76、hcevelpe……);它们还一起 fork 同一批不相干的小仓库,其中有一个 0 星却有 26 个 fork,还有几个 ChatGPT 代充仓库。fork 的时间大约每一两天一个,匀得像排了班。再加上 0 个 issue、3 个 watcher、10 月 30 日以后没再提交过代码——399 星里很可能有相当一部分是刷出来的,或者来自互刷网络(推断;star 账号列表拿不到,没法逐个核对)。
所以「为什么跑出来」的诚实答案是:热词 + 一个真实的空位 + 一份非常工整的 README,带来了一些真实关注;剩下的斜率,大概率不是自然长出来的。
真正值得学的:README 怎么写
撇开 star 的水分,它的 README 是一份好教材。顺序是:
- 一张横幅图,一句话说清是什么,一行循环示意;
- 「Why rsi-eval?」四条,每条加粗一句、解释一句;
- 一张按领域分的覆盖表——「Terminal and software engineering / Code generation / Reasoning / Engineering / Domain workflows」,每行列出基准名和对应文档;
- Quick Start 只要五行命令,最后一行
rsi-eval preview不花钱、不装 Docker; - 然后才是安装、SDK 用法、自定义方法、自定义基准。
这种结构对人友好,对聚合站和 AI 摘要站更友好——它们几乎能原样抓走改写,于是你在十几个导航站上都有了一个条目。
如果是你
C。 「给热门研究方向做统一评测层」这招能学,但照着 rsi_eval 跟不太划算:它证明的那条 star 曲线本身就不太可信,真实受众只有几百个 RSI 研究员,天花板大概几百到一两千星。
适合谁:本来就在某个研究方向里做实验、手上已经有一套跨方法的评测脚本的研究生或工程师——你只是把自己天天在用的东西整理成仓库,成本很低,攒的是这个圈子里的名声。
不适合谁:想靠一个开源项目快速攒几千星、攒关注者的人。这类胶水层的用户只有圈内人,而且四个方法一更新你就得跟着改,作者本人 10 月 30 日之后就停了。
怎么做:挑一个正在爆、但几种方法各自为政的方向(RSI 之外,agent 记忆、长上下文压缩、多 agent 编排都有这个特征),做「N 个热门方法 × M 个基准、同一个接口、钉死版本」的那一层。比 rsi_eval 多做一步:放出一张排行榜——四个方法在同一套任务上谁强谁弱。评测层没人转,排行榜有人转,方法的作者自己也会转。
怎么获客:topic 打满热词,README 照上面那个顺序写;再把排行榜结果发给被比较的那几个方法的作者和 X 上做这个方向的人,在对应论文的 issue 区留一句「我们在统一任务上复现了你的结果」。这一步正是 rsi_eval 没做的。
死线:这类空位的窗口跟着热度走。RSI 这一轮,大约在下一个大厂方法发布、并自带跨方法对比之前——估计还有一两个季度。
算看错:① rsi_eval 在接下来一个月里出现真实的 issue、外部 PR,或者被某篇 RSI 论文拿来当评测工具——说明它的 star 比看上去更实,这个位置的真实需求也比估计的大,等级该往上调;② 反过来,如果 Meta-Harness、RRSI 这些方法的官方仓库自己合并出一个统一评测,这道缝就关了。
数据与出处
- 仓库与 README:github.com/Danielxu0208/rsi_eval(11-06);逐日 star / fork 为 10-16 至 11-06 的 GitHub 记录;作者资料、fork 账号来自 GitHub 公开页面与接口(11-06)。
- topic 页收录:encoreshao/github-trending 的 topic 存档(10-15 至 10-19)。
- 圈内追踪:xxwtiancai/nanoRSI 的 RADAR.md(10-18 条目)。
- 聚合站:ossradar.net、aiagents.directory、diedong.com(11-05)、dedupedai.com。
- 竞品与被集成方法的 star:GitHub,11-06。
- 社交平台:X 近 30 天、HN 全站搜索,均为 0 条。刷星比例是推断,未逐个核实。
研究底稿:竞品表、获客证据、完整研究报告
- 竞品
名字 在哪 上线 规模 它和这家不同在哪 harbor-framework/harbor 开源 2025-08 6,845 star rsi_eval 的底座;rsi_eval 在它上面加了 RSI 方法适配、钉死版本的任务目录、快照和续跑 scaleapi/rsi-benchmark (RSI Bench) 开源 2026-07 113 star 它是评 agent 做 AI 研发能力的基准;rsi_eval 是评 RSI 方法的 SDK stanford-iris-lab/meta-harness 开源 2026-04 1,755 star 被集成的方法之一,只带自己的评测;rsi_eval 跨方法统一 google-research/rrsi 开源 2026-09 1,729 star 同上,方法本身 china-qijizhifeng/agentic-harness-engineering (AHE) 开源 2026-04 961 star 同上,方法本身 Darwin-Agent/HarnessX 开源 2026-04 510 star 同上,方法本身 UKGovernmentBEIS/inspect_ai 开源 2023-11 3,189 star 通用 LLM 评测框架,不针对候选→反馈→下一轮的自我改进循环 openevolve / ShinkaEvolve / Darwin Gödel Machine 开源 2025 7,723 / 1,500 / 2,486 star 这些是进化或自我改进方法本身,不是跨方法的评测层 - 用户从哪来
- 查实 GitHub topic 页 / 搜索:encoreshao/github-trending 在 10-15 至 10-19 的 python、ai-agents topic CSV 里收录了它
- 查实 自动聚合站:ossradar、aiagents.directory、repo.tinix.ai、dedupedai、蝶动AI导航(11-05)、awesome-infra-for-ai 都收录了它,但都是看到 star 涨了才收录
- 查实 RSI 研究圈追踪:xxwtiancai/nanoRSI 的 RADAR.md 把它列为追踪仓库
- 推断 X/HN/Reddit/知乎:x-radar 30 天 0 条、HN Algolia 0 条,中文搜索也没找到作者或媒体的推文
- 推断 疑似刷星/互刷网络:15 个 fork 账号几乎都是 0 粉丝、全是 fork、名字像机器生成,一起 fork Lyapunov、pier、lobes(0 星 26 fork)、ChatGPT 代充等仓库,约每 1–2 天一个;star 曲线匀速且没有外部触发;stargazer 列表无法获取,未逐个核实
Danielxu0208/rsi_eval 为什么能跑出来
渠道:GitHub · 研究日 2026-11-06 · 数据卡 gh_Danielxu0208__rsi_eval.json
一句话结论
它是一个评测层:套在 Harbor 外面,把 2026 年最火的四个"agent 自我改进 / harness 进化"方法(Stanford Meta-Harness、Google RRSI、AHE、HarnessX)和 24 套基准配置接到同一个 evaluate() 接口下。题目占在了 RSI 正热的时候,README 写得非常工整。但找不到任何外部引爆点(X、HN、Reddit、知乎都没人发过),star 却每天匀速涨 15–40 个;15 个 fork 全是 0 粉丝、批量 fork 同一批小仓库的账号。真实的自然关注大概有一些,但 399 星里很可能相当一部分是刷出来的或互刷网络带来的(未核实,因为 stargazer 列表拿不到)。
1. 它是什么
- 作者自述:"A lightweight Python SDK and CLI for evaluating recursive self-improvement (RSI) methods across agent benchmarks."。循环是
candidate -> evaluate() -> task feedback -> your next candidate(出处:github.com/Danielxu0208/rsi_eval README)。 - 内容:24 套评测配置,覆盖 Terminal-Bench 2.0/2.1、SWE-bench Verified/Multilingual/Pro、Aider Polyglot、LiveCodeBench、MMLU、GPQA、ARC-AGI、MGSM、DROP、MCE 任务、EngDesign、Frontier-Eng、JobBench、Harvey LAB、APEX。执行后端用 Harbor 0.18.0 + Docker,候选 agent 默认是 Codex CLI;另外内置四个方法的一键流程:Meta-Harness、RRSI、AHE、HarnessX。
- 卖点:任务和结果都钉死版本(sha256 / git commit)、每次评测给候选做快照、可以断点续跑、
preview和check不花模型额度。 - 作者:Danielxu0208(2018 年注册,6 个粉丝,bio "Be Lucky.")。其他原创仓库是 MultiHaystack(ECCV 2026 的多模态检索基准,3 星)、LensDesigner、dannongxu-rsi-survey;还给 open-compass/opencompass 提过十来个评测修复 PR(GitHub API,2026-11-06)。从这些看,是做评测的学术背景、偏中文圈的个人开发者,没有机构背书。
- 提交只有 4 个,全叫 "initial release rsi_eval"(10-10、10-12 两次、10-30)。10-30 之后没再推送,没有 release,0 个 issue,贡献者只有作者一人。
2. 增长数据
| 日期 | star | fork | 出处 |
|---|---|---|---|
| 10-12 | 建库 | GitHub API | |
| 10-16 | 49 | 2 | 我们 github 库 repo_day |
| 10-19 | 104 | 4 | 同上 |
| 10-25 | 176 | 8 | 同上 |
| 10-27 | 177 | 9 | 同上(唯一一次平台期) |
| 11-01 | 273 | 13 | 同上,单日 +39 是最高 |
| 11-06 | 399(API 实时 410) | 15 | 同上 / GitHub API |
- 近 7 天 +181,前 7 天 +67(数据卡)。全程没有单日暴涨,每天大致 +10 到 +40,曲线是一条匀速往上的斜线。
- trending_days_any = 0,从没上过 GitHub 总 Trending(数据卡)。不过 encoreshao/github-trending 抓到它在 10-15 至 10-19 出现在 python 和 ai-agents 两个 topic 页的列表里(GitHub code search 命中 docs/topics/ai-agents/2026/10/2026-10-18.csv 等文件)。
- watchers 只有 3 个(GitHub API subscribers_count)。
3. 竞品(做同一件事或相邻事情的)
| 名字 | 在哪 | 上线 | 规模(star,2026-11-06) | 和 rsi_eval 的区别 |
|---|---|---|---|---|
| harbor-framework/harbor | 开源 | 2025-08 | 6,845 | 它的底座;Harbor 本身就是"评测并改进 agent"的框架。rsi_eval 在上面加了 RSI 方法适配、任务目录和快照/续跑 |
| scaleapi/rsi-benchmark(RSI Bench) | 开源(Scale AI) | 2026-07 | 113 | 评的是"agent 有没有做 AI 研发的能力",是一个基准;rsi_eval 是评 RSI 方法的 SDK,两者不重叠 |
| stanford-iris-lab/meta-harness | 开源(论文代码) | 2026-04 | 1,755 | 被集成的方法之一,自带评测;rsi_eval 把它和其他方法拉到同一套任务上 |
| google-research/rrsi | 开源(Google) | 2026-09 | 1,729 | 同上 |
| china-qijizhifeng/agentic-harness-engineering(AHE) | 开源 | 2026-04 | 961 | 同上 |
| Darwin-Agent/HarnessX | 开源 | 2026-04 | 510 | 同上 |
| UKGovernmentBEIS/inspect_ai | 开源(英国 AISI) | 2023-11 | 3,189 | 通用 LLM 评测框架,不针对"候选→反馈→下一轮"的自我改进循环 |
| algorithmicsuperintelligence/openevolve、SakanaAI/ShinkaEvolve、jennyzzt/dgm | 开源 | 2025 | 7,723 / 1,500 / 2,486 | 这些是进化或自我改进方法本身,不是跨方法的评测层 |
| openai/evals | 开源 | 2023-01 | 19,710 | 老牌评测注册表,没有 agent 沙箱,也没有 RSI 循环 |
结论:"跨 RSI 方法、跨 agent 基准的统一评测层"这个具体位置,目前没找到直接竞品。最接近的是 Harbor 本身,加上各方法论文自带的评测脚本。这个空位是真的,但很窄:用户只有做 RSI / harness 进化研究的人。
4. 用户从哪来(增长手段)
| 渠道 | 证据 | 是否确认 |
|---|---|---|
| GitHub topic 页 / 搜索(python、ai-agents、recursive-self-improvement 等 6 个 topic) | encoreshao/github-trending 在 10-15 至 10-19 的 topic CSV 里收录了它 | 确认它出现过;带来多少 star 未知 |
| 自动聚合站 | ossradar.net("+142 stars this week")、aiagents.directory、repo.tinix.ai、gitofanton、dedupedai、whereismyai、蝶动AI导航(diedong.com,11-05)、korchasa/awesome-infra-for-ai(写时 303 星) | 确认,但都是看到 star 涨了才收录,是结果不是原因 |
| RSI 研究圈的追踪者 | xxwtiancai/nanoRSI 的 RADAR.md 把它当作追踪仓库("rsi_eval 70→86 stars, no release") | 确认,但这个圈子很小 |
| X / HN / Reddit / 知乎 | x-radar 30 天里搜 rsi_eval、rsi-eval、Danielxu0208 都是 0 条;HN Algolia 0 条;Jina 中文搜索也没找到作者或媒体的推文 | 确认没有这些渠道的证据 |
| 刷星 / 互刷网络(疑似) | 15 个 fork 账号几乎都是 0 粉丝、20 来个仓库、全是 fork,名字像机器生成(noupher-bronra、mimsalicia2w-76、hcevelpe、grig-chawan、akzdgry……);它们还一起 fork 同一批小仓库(ManfredCh/Lyapunov、runloom/pier、NULL1337-dev/lobes——这个 0 星却有 26 个 fork、chatgpt-plus-Recharge-China、gpt-daichong 代充仓库等);fork 时间大致每 1–2 天一个,很匀(10-13、15、16、17、20、22、23、24、26、27、29、30、31、11-02×2)。star 曲线同样匀速,找不到外部引爆点 | 疑似,未确认:stargazer 列表 REST 返回 404、GraphQL 返回 0,无法逐个核对 star 账号 |
5. 为什么跑出来
- 时机:2026 年 RSI 是显学。Google RRSI(9 月)、Meta-Harness、AHE、HarnessX 都在半年内发布,国内媒体也在集中报道(36氪"当AI开始造AI:递归自我改进的2026年"、新浪"首个统一元递归自我改进架构"等)。仓库名和 topic 正好踩在这个词上。
- 定位准:四个热门方法各有各的评测脚本,没人把它们放到同一套钉死版本的任务上比。rsi_eval 先占了"统一评测层"这个名字。
- README 质量高:有横幅图、分领域的基准表、安装路径 / SDK / 自定义方法 / 自定义基准都有完整示例。聚合站和 AI 摘要站很容易抓取、改写(dedupedai 甚至生成了"用 Rsi Eval 预览基准任务"的使用场景页)。
- star 很可能有水分:没有任何外部传播,曲线却每天匀速涨,fork 账号是典型的养号或互刷网络。所以"跑出来"的一大部分可能是刷出来的,不是真有人在用。佐证:0 issue、3 个 watcher、10-30 之后没有更新。
6. 差异化
- 和同类比,它的不同在于:不做方法、也不做基准,只做方法和基准之间的评测边界。四个 RSI 方法开箱即用,raw reward 保留原意,候选有快照,可以续跑,preview/check 不花额度。
- 这个差异化是真的,但用户只有做 RSI 研究的研究员,天花板是几百到一两千星级别的小众工具。它不是 star 曲线的主要驱动:曲线没有对应任何发帖或被引用的事件,更像是"好看的 README + 热词 + 疑似刷量"的组合。
7. 能见度
- 还没什么人知道。没有 X 大号、媒体、HN、Reddit 讨论过;只有自动聚合站和 RSI 圈子的个人追踪仓库提到。没有收入,也不是商业项目。
- 跟风者:没找到。
8. 能借鉴的
- 在热门研究方向上做"把 N 个热门方法统一接起来"的胶水层 / 评测层,名字直接用热词,topic 打满。不需要原创方法,也能拿到 topic 页和聚合站的曝光。
- README 按"为什么 → 覆盖范围表 → 一分钟预览(不花钱) → 完整示例"的顺序写,对聚合站和 AI 摘要站非常友好。
- 反面:靠刷量撑起来的曲线没有 issue、没有 PR、没有讨论,在我们的召回里容易被误判成真起量。fork 账号画像是很好的排雷信号。
9. 不确定的
- star 的真实构成:stargazer 列表拿不到,刷星比例无法量化。
- 10-12 到 10-16 头 4 天的 49 星从哪来:没找到发帖,可能是作者实验室或朋友圈,也可能就是刷的。
- 有没有人真的在用:没有 issue、没有下游引用;PyPI 上有没有包没查(README 只给了源码安装)。
- 作者的单位:未核实。
出处
- 仓库与 API:github.com/Danielxu0208/rsi_eval;GitHub REST(repos、forks、users、events、search),2026-11-06
- 我们的 github 库 repo_profile / repo_day(2026-10-16 至 11-06)
- 竞品 star:GitHub API 2026-11-06
- 聚合站:ossradar.net/repo/Danielxu0208/rsi_eval 、aiagents.directory/rsieval/ 、www.diedong.com/danielxu0208-rsi_eval.html 、dedupedai.com/use-cases/danielxu0208-rsi-eval/preview-benchm…
- topic 收录:encoreshao/github-trending docs/topics/ai-agents/2026/10/2026-10-18.csv
- RSI 追踪:xxwtiancai/nanoRSI docs/research/industry-rsi/RADAR.md
- X:x-radar 搜 rsi_eval / rsi-eval / Danielxu0208,30 天 0 条;HN Algolia 0 条