不再造一个「小 Jev」,而是给 Jev 省钱:hunch 怎么用一条推和几个浏览器小游戏拿到 400 颗 star
它是什么 一个开源的「反射层」:放在评判模型前面,用 EmbeddingGemma 2 的向量加小分类器学它的答案,学够准就在 CPU 上自己答,拿不准的还交给它。
为什么火了 正赶上 Jev 掀起的决策模型热和 EmbeddingGemma 2 刚发布,它把两边接在一起;做过 Deno 的作者发了一条带对比动图的推,配上能在浏览器里玩的小游戏,一周后中文 AI 号 AIGCLINK 转发,又带来一波。
C你可以怎么跟 别再做一个蒸馏代理;学它的打法:在正热的新范式旁边做一个帮它省钱的中间层,绑上刚发布的大厂开源模型,配好录屏的网页 Demo,发布后找中文 AI 资讯号转发。
- 数据(每天更新) · 建库 2026-10-21 · 490 星 · 7 天 +197
GitHub · 星数 数据 2026-10-30 → 2026-11-08(10 天,10 次观测)。10-28 以前的点来自 deeply / 存档补录,不是每天都有
hunch 是一个开源的「反射层」:它放在 Jev、Clef 这类决策模型或者 LLM 评判模型前面,先看着老师答题、跟着学,学到够准就自己答,在普通 CPU 上二十毫秒左右出一个判断,拿不准的还交给老师。10 月 21 日建库,11 月 6 日 413 颗 star(GitHub 每日 star 数),一共只涨了两次:一次是作者自己发推,一次是一周后一个中文 AI 号转发。想法本身不是独一份,一个月前就有人做过几乎一样的东西,只拿到 74 颗星。所以这篇要说清楚的是:多出来的那几百颗星是从哪来的,哪些你学得到,哪些学不到。
一条推,第 17 颗星
2026 年 10 月 28 日 18:07(UTC),Matt Mastracci(@mmastrac)在 X 上发了一条推:
Meet hunch! Jev-like decisions in ~20ms without even needing a GPU, learning live from a teacher model. Built on @GoogleGemma's EmbeddingGemma 2, it can works with any teacher model like @Cloudflare's Clef.
推里配了一段对比动图:同一批 agent 工具调用,hunch、Clef、Galileo Luna 三家分别判「这次调用失败了没有」,hunch 最快、最便宜,Luna 最慢、最贵。下一条他交代了来历:这是他在 undrgrnd(一家做持续学习的隐身创业公司)干活时做的,「我们要扫大量私有数据,就做了 hunch;后来发现它是个很好用的基础件,就开源了。给我们点个 ⭐️。」
评论区有人留言:「留个记录,我是第 17 颗星。感觉这个要火。我晚点试试能不能把我自己系统里的 Jev 换掉。」
这条推后来有 411 个赞、1.24 万次浏览(jev.guide 的统计)。Mastracci 在 X 上有 1.12 万关注者,做过 Deno、StumbleUpon、FullStory,当过 CTO。这一点后面会反复用到。
它是什么
做 agent 的团队都有同一件麻烦事:agent 每跑一轮都吐出几百行文字、代码和工具调用,要实时检查「这一步调用失败了没有」「这段输出里有没有提示词注入」「有没有泄露个人信息」。同样的几个小问题,每条记录都要问一遍。通常的做法是每次都调一个评判模型,最快也要几百毫秒,问得多了账单也难看。
hunch 的思路是「这些问题大多数时候都很简单」。它站在评判模型(它叫「老师」)前面:
- 学:每个问题配一个小分类器(「学生」),读的是 Google EmbeddingGemma 2 算出来的向量,用老师的答案当标签。
- 毕业:交叉验证显示学生和老师的一致率够高了,学生开始自己答。
- 抽查:毕业以后,还是有一部分答案送回老师复核;碰到和学过的东西差太远的输入,直接交给老师。
它的口号是「评判模型照样在环里,只是调得少了」。按 README,在 Apple M5 Pro 上判一条约 190 token 的工具调用结果,中位数 22 毫秒;底下的 EmbeddingGemma 2 跑在作者自己写的 Rust CPU 引擎 eg2cpu 上,不需要 GPU。问题只支持固定答案的三种:是 / 否、几个选项里选一个、几档打分。README 也老实写了短板:hunch 快是因为它不思考,「这个故障有多严重、该找谁修」这种要绕几道弯的问题,还是交给老师。
仓库里另带一个 hunch.live 库,能在网页里一边用一边学文本和图片。作者拿它做了四个浏览器小游戏放在 tryhunch.dev:你画画它猜的 Pictionary、先教它认你的手势再跟它玩的石头剪刀布、表情猜谜、对着摄像头提问(先由一个视觉模型回答,hunch 学会了就接手)。
它踩上的两股浪
- 决策模型热。TypeSafe 在 9 月 15 日发布 Jev(早期访问,不放权重),一个月里 GitHub 上冒出一大批相关项目:零样本决策模型 laya 3.5 万星,用 Qwen 微调「自己训一个 Jev」的 jaredpalmer/kev 9,800 星,还有 awesome-jev、AnyJev。Cloudflare 10 月 1 日开源了 Clef 和 Clef-flash。
- EmbeddingGemma 2 刚发布。Google 10 月 6 日发布,社区正在找「检索之外还能拿它干什么」,已经有人拿它做 CPU 上的图片分类、广告检测。
别人都在造「更小更快的 Jev」,hunch 做的是「让你少调几次 Jev」,同时给 EmbeddingGemma 2 一个新用法。两边的人都有理由转它。
star 从哪来:两次脉冲
| 日期 | 发生了什么 | star |
|---|---|---|
| 10-28 | 作者发布推,@ 了 Google Gemma 和 Cloudflare | 起步 |
| 10-29 | 作者放出浏览器版 Pictionary:「不用服务器,数据不出本机」;Jev 圈的聚合站(jev.guide 的 showcase、jevainews、jevhunt 等)和两个韩文技术博客跟着收录 | 当天 +77(Trendshift) |
| 10-30 到 11-03 | 没有新的传播,每天个位数 | 269 → 294 |
| 11-04 | 一条英文帖说「大家在给 EmbeddingGemma 2 找检索之外的新用法……一个社区项目」,作者没查到 | +34(Trendshift) |
| 11-05 | AIGCLINK(@aigclink)07:04 UTC 发中文长推配视频:「又有人把谷歌的 EmbeddingGemma 2 玩出了新花样……让大模型当老师,让本地小模型边用边学」,3.83 万浏览、496 赞、618 收藏;AITOP、AGI Hunt 跟着转 | 316 |
| 11-06 | 前一天那条中文推的余波 | 413(+97,fork 26 → 36) |
star 数来自 GitHub 每日记录;Trendshift 的逐日涨星和它绝对数对不上(Trendshift 和 tryhunch.dev 首页显示的都是 470 多),只用来看形状,两边的形状一样。没上过 GitHub 热榜,没找到 Show HN、Reddit 帖或任何付费推广。
两次脉冲各对得上一个人:第一次是作者自己,第二次是 AIGCLINK。618 个收藏比 496 个赞还多,是典型的「先存着,回头看」,11-06 那 97 颗星基本可以算在这条推头上(推断)。
同样的想法,74 颗星
hunch 不是第一个想到「先学老师、学会了接管」的。
| 项目 | 上线 | star | 和 hunch 的不同 |
|---|---|---|---|
| bladedevoff/stuntd | 09-23 | 74 | 思路几乎一样:本地代理学 Jev / OpenAI 的答案,学会了接管。底座是 laya,没有浏览器 Demo,作者没名气 |
| adrida/tracer | 03-29 | 1,036 | 把 LLM 的 trace 离线蒸馏成小模型;hunch 是在线学,毕业后还抽查 |
| RouteLLM / semantic-router | 2023–2024 | 5,700 / 4,000 | 在大小模型之间路由、按向量路由,不跟着老师持续学 |
| huggingface/setfit | 2022 | 2,900 | 少样本分类,要人工打标签;hunch 让老师当标注员 |
数字来自 GitHub 页面。stuntd 早一个月、想法一样,差在三件事上:hunch 的底座是刚发布的大厂开源模型,发布推可以 @ 官方号;有能直接玩、好录屏的小游戏(AIGCLINK 那条推的视频就是这些素材);作者自己带一万多关注者。差异化是它能起来的前提,但多出来的几百颗星,主要是名气、Demo 和中文号转发带来的。
也要看清它有多大:16 天 400 多颗星,在 Jev 这波里算小的,和 laya 的 3.5 万差两个数量级。它是在一个小圈子里传开了,没出圈。
如果是你
一句话:照着再做一个 hunch 不值得,学它的打法可以——在一个正热的新范式旁边,做一个帮它省钱的中间层,绑上刚发布的大厂开源模型,配一个能在浏览器里玩的 Demo。但要有心理准备:没有作者那一万多关注者,同样的东西很可能是 stuntd 的 74 颗星,不是 hunch 的 400 颗。
适合谁:能同时写模型推理和前端 Demo 的开发者;盯着新模型发布,能在一两周里拼出「新模型 + 新用法 + 能玩的网页」;最好已经在 X 上有一点关注者,或者跟中文 AI 资讯号说得上话。
不适合谁:想在「评判模型前面的蒸馏代理」这个位置上再做一个的(hunch 和 stuntd 已经各占了一种做法,第三个很难被注意到);零粉丝、又不愿意自己去找号转发的;想靠它赚钱的(这一类开源图的是名气和履历,undrgrnd 开源它也更像是立技术品牌、招人)。
怎么做,按把握从大到小:
- 换一个贵的东西做「省钱层」:hunch 省的是评判模型的调用。同样「先学、毕业、抽查」的结构,可以搬到别的又贵又重复的调用上:视觉大模型看截图、OCR、重排序、内容审核。挑当下最热、最贵的那一个,用一个刚发布的开源小模型当学生(推断)。
- 换生态做:hunch 要装 Rust 和 uv 才能跑。一个纯 TypeScript、在浏览器或 Node 里用 WebGPU 跑的版本,或者一个默认接 Qwen、DeepSeek 当老师、中文文档写清楚的版本,对的是 hunch 没照顾到的人群(推断)。
- 做它没做的:代理层的多模态 README 里写着「coming soon」;它也还没接上 Langfuse、LangSmith 这类 trace 平台。做一个「装上就能接管你 trace 平台里那几个重复判断」的插件,用的人一看就懂(推断)。
怎么获客:照 hunch 的顺序来。发布推里写清楚「比 X 快多少、便宜多少」,配一张对比动图,@ 你用到的模型的官方号;第二天放一个零安装的网页小游戏,专门给别人录屏;然后去那个范式的 awesome 列表和 showcase 站提交收录;过一周再找中文 AI 资讯号(AIGCLINK 这一类),一条推能带来上百颗星。hunch 没发 Show HN,这一步你可以补上。
什么时候之前:这套打法吃的是「新模型刚出来、大家在找新用法」的那几周。EmbeddingGemma 2 是 10 月 6 日发布的,再往后热度会越来越淡;更现实的做法是等下一个大厂开源模型发布,在它出来后两三周内上线(推断)。
算看错:① hunch 在没有新转发的情况下,一个月内自己涨过 1,000 颗星——说明这个想法本身就拉人,不只是靠名气,值得认真做第 2、3 条;② stuntd 或别的没名气的作者,照这个思路做出来也拿到几百颗星——说明打法普通人也能复制;③ 反过来,Jev 放出权重或者大幅降价、Clef 这类模型自己就跑得够快够便宜——「给它省钱」的中间层就没那么有意思了。
---
数据与出处:GitHub 仓库 undrgrnd-labs/hunch 的页面与 README(11-06);GitHub 每日 star 数(10-30 至 11-06);Trendshift 的逐日涨星;Matt Mastracci 在 X 的发布推与回帖(10-28、10-29),赞和浏览数来自 jev.guide;AIGCLINK 在 X 的中文推(11-05);tryhunch.dev 首页;各竞品的 GitHub 页面;Google 与 Cloudflare 的发布博客。11-04 那条英文帖的作者没查到;实际有多少人在用、star 里有没有水分都没法判断;转发和涨星之间的对应关系是推断。
研究底稿:竞品表、获客证据、完整研究报告
- 竞品
名字 在哪 上线 规模 它和这家不同在哪 TypeSafe Jev 其他 2026-09-15 这波决策模型浪潮的源头,商业 API,早期访问 Jev 是教师,hunch 坐在它前面减少调用 Cloudflare Clef / Clef-flash 大厂功能 2026-10-01 Workers AI 托管,HF 开源权重 同样是教师级模型,要 GPU;hunch 只用 CPU,在线蒸馏 NandhaKishorM/laya 开源 2026-09-18 3.5 万星 零样本决策模型;hunch 针对每个问题从教师那里学 jaredpalmer/kev 等基于 Qwen 微调的 Jev 复刻 开源 2026-09 1000~9800 星 要训练和 GPU;hunch 不用 GPU,边用边学 bladedevoff/stuntd 开源 2026-09-23 74 星 思路几乎一样(本地代理学 Jev 的答案后接管),底座是 Laya;hunch 用 EmbeddingGemma 2 加 Rust CPU 引擎,支持多模态,带浏览器 Demo,作者有名气 adrida/tracer 开源 2026-03-29 1036 星 把 trace 离线蒸馏成 System 1 模型;hunch 是在线代理,毕业后继续抽查 RouteLLM / semantic-router 开源 2023-2024 5700 / 4000 星 做路由或向量路由,不从教师那里持续学 huggingface/setfit 开源 2022 2900 星 要人工标签;hunch 让教师模型自动当标注员 - 用户从哪来
- 查实 作者本人的 X 发布推:x.com/mmastrac/status/2115505657231384683,10-28,411 赞,1.24 万浏览(jev.guide 统计);作者 1.12 万粉丝,做过 Deno
- 查实 浏览器小游戏 Demo(tryhunch.dev 上的 Pictionary 等):10-29 作者推文 x.com/mmastrac/status/2115886824078131521;Trendshift 记 10-29 +77
- 查实 Jev 生态聚合站和韩文博客:jev.guide、jevainews.com、jev-x.com、jevhunt.com、enghyu.com、roomedia.tistory.com
- 查实 中文 AI 资讯大号搬运:AIGCLINK 11-05 推文 x.com/aigclink/status/2118237906716516496,3.83 万浏览/618 收藏;AITOP、AGI Hunt 转载;对应 11-05/06 的暴涨
- 推断 HN / Reddit:Algolia 和 Reddit 都没搜到
undrgrnd-labs/hunch 研究报告
一句话:hunch 是一个"System One 代理":放在 Jev / Clef / LLM 评判模型前面,用 Google EmbeddingGemma 2 的向量加一个小分类器,学教师模型的答案。学到够准就自己答(CPU 上约 20ms),答不了的继续交给教师。 仓库 github.com/undrgrnd-labs/hunch ,主页 tryhunch.dev ,2026-10-21 建库,10-28 发布。
1. 数据
| 日期 | star | fork | 来源 |
|---|---|---|---|
| 2026-10-30 | 269 | 23 | 我们的 github 库 repo_day |
| 2026-11-01 | 293 | 26 | 同上 |
| 2026-11-04 | 296 | 26 | 同上 |
| 2026-11-05 | 316 | 26 | 同上 |
| 2026-11-06 | 413 | 36 | 同上(gain_1d 97) |
- Trendshift(https://trendshift.io/repositories/324652)的逐日涨星:10-29 +77、10-30 +14,之后几天个位数;11-04 +34、11-05 +102、11-06 +44。页面上写的当前 star 是 474。它和我们库的绝对数对不上,但两处的形状一样:两次脉冲,第一次是 10-28/29 发布,第二次是 11-04~06。
- 一直没上 GitHub trending(trending_days_any=0;建库不满 60 天本来也上不了)。
- 只有 2 个贡献者,9 个已合并 PR(Trendshift)。
2. 增长从哪儿来(按时间)
- 作者本人在 X 发布(10-28,第一次脉冲)。作者 Matt Mastracci(@mmastrac),X 上 1.12 万粉丝,做过 Deno、StumbleUpon、FullStory,当过 CTO(资料来自他的 GitHub 和 LinkedIn)。发布推文《Meet hunch! Jev-like decisions in ~20ms without even needing a GPU…》x.com/mmastrac/status/2115505657231384683 ,据 jev.guide 统计有 411 赞、1.24 万浏览。推文 @ 了 @GoogleGemma 和 @Cloudflare,配了一段对比 GIF。评论区有人说"我是第 17 个 star,感觉要火"。
- 第二天放出浏览器里能玩的 Demo(10-29):可以和 hunch 玩 Pictionary,"不用服务器,数据不出本机"(https://x.com/mmastrac/status/2115886824078131521 )。tryhunch.dev 上后来又加了石头剪刀布、表情猜谜、摄像头问答。这一天 Trendshift 记了 +77。
- Jev 生态的聚合站自动收录:jev.guide 的 showcase、jevainews.com、jev-x.com、jevhunt.com、awesome-jev 这类站点都转了。韩文技术博客 enghyu.com、roomedia.tistory.com 在 10-29 也写了。这些属于长尾曝光。
- 中文大号带出第二次脉冲(11-05)。AIGCLINK(@aigclink)在 11-05 07:04 UTC 发了中文长推,配视频:x.com/aigclink/status/2118237906716516496 ,3.83 万浏览、496 赞、618 收藏,跟帖里放的 GitHub 链接有 1800 浏览。同一天 AITOP/AI热报、AGI Hunt 转载,AIGCLINK 自己的 Notion 也收了。韩国 Threads 号 @choi.openai 也转了(3200 浏览)。11-04 的 +34 来自 Trendshift 记的一条英文帖("People are finding really creative ways to use EmbeddingGemma 2 beyond search… community project"),作者没查到。
- 没查到的渠道:HN 上没有 Show HN(Algolia 搜不到),Reddit 没搜到,没有付费推广。
结论:作者个人的影响力加上一条发布推文打底,然后中文 AI 资讯号在一周后又搬运了一次。11-06 那天的 +97 基本可以确定是 AIGCLINK 那条推的效果(时间对得上,收藏数又高)。
3. 时机:它踩在什么浪上
- "System One / 决策模型"浪潮:TypeSafe AI 在 2026-09-15 发布 Jev(早期访问,权重不公开)。之后一个月里 GitHub 上冒出一大批 Jev 相关项目:laya 3.5 万星、jaredpalmer/kev 9800、AnyJev 1600、awesome-jev 等(我们的 github 库)。Cloudflare 在 10-01 开源了 Clef / Clef-flash(https://blog.cloudflare.com/clef-decision-models )。
- EmbeddingGemma 2 刚发布:Google 在 2026-10-06 发布(https://blog.google/innovation-and-ai/technology/developers-tools/embeddinggemma-2/ ),社区正在找"检索之外还能拿它干什么"(已经有人用它做 CPU 图像分类、广告检测、浏览器里的 WebGPU 分类)。hunch 把两股热度接在了一起:用 EmbeddingGemma 2 的向量去"便宜地替代 Jev / Clef"。
- 痛点很具体:agent 的 trace、tool call、prompt 注入检测这类判断量大、问题又重复,每次都调一遍评判模型,又慢又贵。
4. 竞品
| 名字 | 在哪 | 上线 | 规模 | hunch 和它不同在哪 |
|---|---|---|---|---|
| TypeSafe Jev | 商业 API | 2026-09-15 | 掀起这波浪潮的源头,早期访问 | Jev 是教师级的决策模型,要 GPU、按调用收费;hunch 坐在它前面,把调用量减下来 |
| Cloudflare Clef / Clef-flash | 大厂功能 + 开源权重 | 2026-10-01 | Workers AI 托管,HF 开源 | 同上,Clef 在 hunch 里也是教师 |
| NandhaKishorM/laya | 开源 | 2026-09-18 | 3.5 万星 | 零样本的非自回归决策模型;hunch 不做零样本,做的是针对每个问题从教师那里蒸馏 |
| jaredpalmer/kev、Mapika/decider、firelex/jeff、StartLux-Decision 等 | 开源 | 2026-09 | 1000~9800 星 | 都是基于 Qwen 微调、"自己训一个 Jev",需要 GPU;hunch 只用 CPU,而且是在线学习 |
| bladedevoff/stuntd | 开源 | 2026-09-23 | 74 星 | 思路几乎一样:本地代理,学 Jev/OpenAI 的答案,学会了接管。区别:stuntd 底座是 Laya,hunch 底座是 EmbeddingGemma 2 加自研 Rust CPU 引擎,支持多模态,还带浏览器 Demo,作者也有名气 |
| adrida/tracer | 开源 | 2026-03-29 | 1036 星 | 把 LLM trace 蒸馏成 System 1 模型,偏离线训练;hunch 是在线代理,毕业后继续抽查 |
| lm-sys/RouteLLM、aurelio-labs/semantic-router | 开源 | 2023~2024 | 5700 / 4000 星 | 一个是在大小模型之间路由,一个是向量路由。都不从教师那里持续学 |
| huggingface/setfit | 开源 | 2022 | 2900 星 | 少样本向量分类器,要人工打标签;hunch 让教师模型自动当标注员 |
| Galileo Luna 等评判模型 | 商业 | — | — | hunch 的 Demo 里拿它当慢而贵的对照 |
5. 差异化
- 形态不同:别人在做"更小、更快的决策模型",hunch 做的是"教师-学生"代理层:学 → 毕业 → 抽查,答不了就回退给教师。卖点是"评判模型照样在环里,只是调得少了"。
- 工程上:EmbeddingGemma 2 跑在自研 Rust CPU 引擎 eg2cpu 上,不需要 GPU;同一套能处理文本和图像;对外提供 Jev 风格的 systemone 接口,可以直接塞进现有系统。
- 能直接玩的 Demo:Pictionary、摄像头、手势都在浏览器里跑。这对传播很关键,AIGCLINK 推文里的视频就是这些素材。
- 差异化是它跑出来的必要条件,但不是主因。思路几乎一样的 stuntd 早一个月发布,只有 74 星。hunch 能到 400+,多出来的部分主要靠作者的名气、Demo 好拍好传,以及中文大号的搬运。
6. 能见度与跟风
- 能见度:小圈子里在传。英文圈主要是作者本人那条推(1.2 万浏览)和 Jev 生态的聚合站;中文圈是 AIGCLINK 一条 3.8 万浏览的推和几家资讯站。没有主流媒体报道,没上 HN。
- 跟风者:还没看到。tareqmahmood/hunch 只是 fork。同一个思路的 stuntd 更早,不算跟风。
- 不涉及收入。undrgrnd 是一家做持续学习的隐身创业公司,开源 hunch 更像是在立技术品牌、招人。
7. 可以借鉴的
- 在大热的新范式里,做"给它降成本的中间层",比再造一个同类模型更容易被看见。
- 绑上刚发布的大厂开源模型(EmbeddingGemma 2),发布推文 @ 官方号,还能蹭到"官方模型的新用法"这类二次传播。
- 做零安装的浏览器小游戏 Demo,方便各路资讯号录屏搬运。
- 中文 AI 资讯号(AIGCLINK 这类)对开源库的拉动明显:一条推带来约 100 个 star。
8. 不确定的
- 11-04 那条英文帖是谁发的(怀疑是 Google Gemma 相关账号或 HF 的人),没查到。
- Trendshift 和我们库的 star 绝对数对不上(474 vs 413),只用来看形状。
- 实际使用量(PyPI 下载、有没有人在生产环境用)没查到;GitHub API 当时触发了限流,没法看 stargazer 明细,也就判断不了有没有刷星(我们库的 suspect 字段是空的)。