别人都在跑 2-bit 阉割版,他跑原版:PROMETHEVS 靠「对照组」拿到 150 星
它是什么 一个只支持 Windows 的本地推理引擎:先用 2-bit 压缩副本算,模型拿不准时再用原始权重重算,让一台普通游戏 PC 跑起 510GB 的 DeepSeek-V4.1-Flash 原版。
为什么火了 「12GB 显卡跑 DeepSeek」火了之后,很快有人质疑大家跑的只是 2-bit 阉割版。它是这一档唯一宣称跑原版的项目,README 写得像一份数字齐全的报告,两个 YouTube 解说号直接拿它当对照来讲。
C你可以怎么跟 别照着做一个引擎;要借的是打法:在下一个热潮里做回答质疑的那个项目,README 写成带日志的报告,再放一个 benchmark issue 模板。会写 CUDA 的,也可以做它没开源的部分(Linux / RTX 50 版)。
- 数据(每天更新) · 建库 2026-10-21 · 146 星 · 7 天 +117
GitHub · 星数 数据 2026-10-25 → 2026-11-08(15 天,15 次观测)。10-28 以前的点来自 deeply / 存档补录,不是每天都有
英国一个人做的 Windows 推理引擎,说能在一台 64GB 内存加一张 12GB RTX 3060 的游戏 PC 上跑 DeepSeek-V4.1-Flash 的全部 510GB 原始权重。它在 GitHub 上搁了十天只有 29 星,两条 YouTube 解说视频拿它当「另一条路」讲了之后,一周涨到 150 星。它被选中靠的是「原版权重」这个立场,加上一份能直接搬进视频的 README。星没涨得更多,是因为门槛高到很少有人真装。
一个人、一张 3060、一个 510GB 的模型
10 月 23 日,Reddit 用户 u/Muted_Context_1999 在 r/LocalLLM 发了一个 Project 帖,标题很长:「Full DeepSeek-V4.1-Flash-1017 (510 GB, original weights) on a 64 GB RAM + RTX 3060 12 GB PC: up to 7.4 tok/s, 98.3% agreement…」。帖子发出约 4 小时有 37 分,排到了版块顶部。
发帖的人叫 Ryan Flavell,英国一人公司 MAGNVS Ltd 的老板。GitHub 组织 Magnvs7 今年 3 月建的,只有这一个仓库,他的提交账号 3 个关注者。他测试用的是自己那台 PC:Ryzen 9 3950X、64GB DDR4、一张 RTX 3060。README 第一行写的是「在一台五年前的游戏 PC 上跑完整的 510GB DeepSeek」。有人在 issue 里问能不能支持 RTX 50 和双卡,他回:「我只有自己这张 3060 能测。」
那个 Reddit 帖带来了 20 来个星,之后十天几乎不动。到 11 月 2 日,一共 29 星。
它到底做了什么
DeepSeek-V4.1-Flash-1017 是 10 月 17 日发的,763B 参数的 MoE 模型,MIT 许可,权重约 510GB。普通显卡装不下,所以 10 月下旬本地模型圈最热的题目就是「怎么在家用显卡上跑它」。
PROMETHEVS 的做法叫 compress-then-correct(先压缩、再校正)。每个词先用 2-bit 的专家副本算。如果模型前两名候选词差得很近、说明它自己拿不准,就用事先存好的「校正面」把那几个专家还原成原始精度,重算一遍。再加上 DeepSeek 自带的 draft head 一次猜几个词,并行校验。
作者自己报的数(README,10-23):
- 代码类提示最快 7.4 词/秒,前提是缓存已热;缓存为空时 5.8。推理和 agent 类提示 4.4–5.2。同一台机器老老实实跑原版,只有 2.14。
- 逐词和原版比,960 个词里 98.33% 选的是同一个词;只用 2-bit 副本是 97.4%。
- 1,163 个 token 的长提示,要等约 126 秒才出第一个词。
- 代价:只支持 Windows,只支持一张 RTX 30/40 系 12GB 卡,要约 1.1TB 的 NVMe 空间,先下 510GB 权重,再本地构建约 4 小时。
10 月 21 日发的 v0.1 是一份技术报告,带图表、原始日志和 Zenodo DOI。10 月 23 日的 v0.2 是能装的引擎,在本机开一个 OpenAI 兼容的接口。有一点要说清:v0.2 的引擎核心是预编译好的,压缩包里只有 MSVC 的 .obj 文件和部分头文件,deepseek41.cpp 这类核心源码没放。想移植到 Linux 的人在 issue #3 里把缺的文件列成了一张表。所以「开源」只开了一半。
十天 29 星,然后两条视频
| 日期 | 累计 star | 当天 | 发生了什么 |
|---|---|---|---|
| 10-21 | 0 | 建库,发 v0.1 报告 | |
| 10-23 | ~20 | 发 v0.2,作者在 r/LocalLLM 发帖 | |
| 10-28 → 11-02 | 26 → 29 | 0~2 | 停住 |
| 11-02 | 29 | 0 | RepoChad 视频发布 |
| 11-03 | 50 | +21 | 当天新开 3 个 issue |
| 11-04 | 94 | +44 | 最高的一天 |
| 11-05 | 102 | +8 | 4090 用户交来跑分 |
| 11-06 | 107 | +5 | Kai 视频发布;HN 帖 |
| 11-07 | 118 | +11 | |
| 11-08 | 146 | +28 | 午后现查 153 |
(GitHub 每日 star 数;v0.2 压缩包下载 202 次,GitHub Release,11-08。)
曲线上两个台阶,对上的是两条 YouTube 视频。
第一条是 RepoChad 的〈Run FULL DeepSeek v4.1 Flash on a 12GB GPU〉,11 月 2 日发,到 11-08 有 5.2 万播放、898 个赞、129 条评论,频道 1.4 万订阅(YouTube,11-08)。简介第一段就是它的立场:「很多人在 RTX 3060 这种 12GB 卡上跑它,但大多数视频跑的是 2-bit 副本,还关掉了模型六个专家里的一个。」然后把 Strata、PROMETHEVS、llama.cpp 当三条路线比,PROMETHEVS 是「跑原版权重」的那条,从第 6 分 43 秒讲到第 10 分钟。接下来两天涨了 65 星。
第二条是 Kai 的〈I Run Full DeepSeek v4.1 Flash on a 12GB GPU〉,11 月 6 日发,5 万播放,频道 7 万订阅。这条整条以 PROMETHEVS 为主线,章节里的数字几乎都是从 README 和 issue 搬的:97.4% 和 98.33%、4090 从 2.66 调到 9.75 词/秒、首词 126 秒、1.08TB 硬盘。Kai 之前做过一条讲 Strata 的视频,22.6 万播放,说明这群观众本来就在等这个话题。之后两天又涨了 39 星。
别的渠道作用都小。Hacker News 11-06 有人提交,14 分 5 条评论,其中一条说「Strata 在同类硬件上快得多」。TLDR 通讯收录了,具体哪一期没查到。几个自动新闻站和韩语聚合站转载过。没看到付费推广的迹象,两个频道都是那种专门「拆数字、辨真假」的解说号,自己找的选题(推断)。
为什么解说号偏偏挑它
热潮已经有了,它接的是热潮里的质疑。 「12GB 跑 DeepSeek」这股热是 Strata 带起来的:9 月建库,到 11-08 有 4.1 万星,10-28 一天涨了 1,381(GitHub)。Strata 跑的是 ISTA-DASLab 做的 2-bit GGUF,显存 16GB 以下默认每个词只用 5 个专家(原本 6 个)。热了两周,质疑就来了:「这还是 DeepSeek 吗?」RepoChad 视频里引了 AI Receipts 的一次盲测,同一个做卡丁车游戏的任务,云端原版 10/12 分,本地 2-bit 版 2/12。要讲这个反转,解说号需要一个「那原版到底能不能跑」的答案。在 12GB 卡加 64GB 内存这一档,宣称跑原版权重的只有 PROMETHEVS 一家。
README 本身就是一份脚本。 每个数字都附原始日志,缓存冷和热分开报,局限自己先写出来(「7.4 是最好情况」「单机单模型」),还挂了 DOI。解说号可以直接搬数字,也可以借它这份「诚实」。两条视频讲到它的部分,基本是照 README 的结构走的。
用户交的跑分变成了新素材。 10 月 23 日作者加了一张「其他机器的结果」表和一个 benchmark issue 模板。之后来了三份第三方报告:#7 一台 4090,调了显存预留和 P 核绑定,从 2.66 到 9.75 词/秒;#9 一台只有 32GB 内存、10GB 显存的机器,低于官方配置,手改配置后也跑通了,7.10 词/秒,构建只花了 1 小时 35 分。Kai 视频直接把这几份当成「两次外部安装」来讲。
为什么只有 150 星
看视频的人多,真装的人少。真要装,得先腾出 1.1TB 硬盘、下 510GB、等 4 小时构建,只能用 Windows 和 RTX 30/40,首词要等两分钟,速度和 Strata 差不多甚至更慢。issue 里有人问 AMD 卡,有人问 RTX 50,作者都只能说现在不支持。核心源码没放,外面的人也帮不上:#7 那位 4090 用户说想一起做,发现压缩包里没有 deepseek41.cpp 的源码,就做不下去了。
它被看见,靠的是「原版权重」这个说法本身;它没涨上去,也是因为这个说法很难变成日常用的东西。
同一场热潮里的其他项目
| 项目 | 规模(11-08) | 和它比 |
|---|---|---|
| Niko1221/Strata | 41,439 星,7 天 +4,418 | 跑 2-bit 副本,257GB 硬盘、46GB 内存,一条命令装,Win/Linux/Mac 都行。更快更好装,但不是原版 |
| llama.cpp + Unsloth GGUF | unsloth 79k 星 | 通用量化路线,1-bit 版也要约 128GB 内存加显存,12GB 卡还没公开成绩 |
| Indras-Mirror/Xolotl | 480 星 | 面向 4090 + 110GB 内存,约 33 词/秒;fast mode 公开借用了 compress-then-correct,README 里致谢 Flavell |
| mw00/project-maya | 2,643 星 | 多模型、多卡引擎加控制台 |
| sqliteai/warp | 2,540 星 | 从硬盘流式读权重,跑超出内存的模型 |
| sybil-solutions/dsv41-flash-offload、lxe/dsx | 155 / 95 星 | 要 24GB 卡或两张 3090 加 128GB 内存 |
| musicurgy/delta-inference-engine | 80 星 | 同样是 Windows 单卡、OpenAI 兼容接口,但不主打原版 |
| DeepSeek 官方 API | — | 云上跑原版,又快又便宜。Kai 算过:按 7.4 词/秒跑满一个月,闲时价只要 $11.51 |
(GitHub,11-08。)
能学到什么
- 热潮里站到反方那一边。 大家都在吹「能跑」的时候,做那个回答「跑的还是不是原版」的项目。解说号讲故事需要对照组,你就是现成的对照组。
- 把 README 写成技术报告。 数字带日志,冷热分开,局限自己先写,挂一个 DOI。内容号最爱这种能直接搬的东西。
- 用 issue 模板收跑分。 每一份第三方报告既是新素材,也证明「不止作者一台机器能跑」。
- 起一个能当标题、能被致谢的方法名。 compress-then-correct 被 Xolotl 写进了致谢,在圈内攒下了名声。
如果是你
判断:能学到东西,照着跟不太划算。这个项目背后是推理引擎、量化、CUDA 的硬功夫,换来的是 150 星;同一个热潮里,做出一条命令能装好的 Strata 拿到了 4.1 万。真正能借走的是「反方叙事 + 报告式 README + 跑分模板」这套打法,不是这个项目本身。
适合谁:本来就在做推理、量化、显存调度的系统工程师,手上有能跑出硬数字的东西,缺的是让人看见;或者想攒「本地模型圈技术作者」名声的人。
不适合谁:没写过 CUDA、没碰过量化格式的,这条路门槛太高;想靠一个仓库拿几千星的,本地推理这块的星基本都给了最好装、最快的那个。
怎么做:有两条路。一是做它没做好的部分:issue #3 里有人想要 Linux 和 RTX 50 的版本,作者的核心源码没放,所以一个完全开源、能在 Linux 和 llama.cpp 上跑的 compress-then-correct 实现,这群人现在就想要,Xolotl 也证明了这个思路有人愿意借。二是换一个热潮再用这套打法:下一次某个大模型发布、出现「某某版能在家跑」的爆款项目时,盯着评论区里冒出来的质疑,做那个回答质疑的项目。
怎么获客:README 照它的写法,先放一张能截图的数字表,局限写在显眼的地方;放一个 benchmark issue 模板。发 r/LocalLLaMA 和 r/LocalLLM 只能带来起步的二三十星,真正的量在 YouTube。找已经讲过这个话题的解说频道(这次是 RepoChad 和 Kai),他们需要的是能放进「第二条路线」那一章的东西。
什么时候之前:跟这一波的话,两三周内(推断)。DeepSeek-V4.1-Flash 是 10 月 17 日发的,本地圈的注意力一般撑不过下一个大模型发布。换热潮用打法的话,没有时间限制,要等下一次。
什么情况说明看错了:Strata 或 llama.cpp 自己加了「不确定时用原版重算」的模式,对照组就没有了;Flavell 放出核心源码、自己做了 Linux 版,「补它没做的部分」这条路就关了;你的项目被解说视频提到之后,一周还涨不到一百星,说明这个题目已经没人愿意看了。
研究底稿:竞品表、获客证据、完整研究报告
- 竞品
名字 在哪 上线 规模 它和这家不同在哪 Niko1221/Strata 开源 2026-09-24 41,439 star,7 天 +4,418(我们的 github 库 11-08) 跑 ISTA 2-bit GGUF 压缩副本,只需 257GB 硬盘和 46GB 内存,一条命令装好,支持 Win/Linux/Mac;12–16GB 卡默认只用 5/6 个专家。比它快、比它好装,但不是原版权重 llama.cpp + Unsloth GGUF 开源 DeepSeek 支持 2026-10-25 合进主干 unsloth 79k star 通用量化路线,1-bit 版也要约 128GB 内存加显存,12GB 卡上没有公开成绩 Indras-Mirror/Xolotl 开源 2026-10-06 480 star 面向 4090 + 110GB 内存,约 33 tok/s;fast mode 借用了它的 compress-then-correct mw00/project-maya 开源 2026-10-06 2,643 star 多模型多卡引擎加控制台,不针对 12GB 档 sqliteai/warp 开源 2026-07-28 2,540 star 通用的超内存流式权重,多模型 simplexai-labs/PolyStrata 开源 2026-10-06 906 star 基于 Strata 的多模型包装 sybil-solutions/dsv41-flash-offload、lxe/dsx、musicurgy/delta-inference-engine 开源 2026-10-02 / 10-18 / 10-26 155 / 95 / 80 star 需要 24GB 显卡或 2×3090 加 128GB 内存;delta 同样是 Windows 单卡,但不主打原版权重 DeepSeek 官方 API 大厂功能 2026-10-17 — 云端跑原版,更快更便宜(Kai 视频算过:按 7.4 tok/s 跑满一个月,闲时只要 $11.51),但不能本地、不私密 - 用户从哪来
- 查实 Reddit 作者自发帖:10-23 u/Muted_Context_1999 在 r/LocalLLM 发 Project 帖,约 4 小时 37 分排到版块顶部(Ecne Pulse);r/DeepSeek 有同题帖;带来起步的约 20 个 star
- 查实 YouTube 解说(RepoChad):11-02〈Run FULL DeepSeek v4.1 Flash on a 12GB GPU〉52,044 播放,讲三条路线,PROMETHEVS 是「原版权重」那条;第二天起 11-03 +21、11-04 +44
- 查实 YouTube 解说(Kai):11-06〈I Run Full DeepSeek v4.1 Flash on a 12GB GPU〉50,169 播放,频道 7 万订阅,以 PROMETHEVS 为主线;之后 11-07 +11、11-08 +28
- 查实 Hacker News:11-06 ar-nelson 提交,14 分 5 评论
- 查实 TLDR 通讯 / AI 自动新闻站:tldr.tech 收录(链到 HN 帖,具体日期未核实);Ecne Pulse、trawling.dev、promppy(韩语)、wpnews 转载
- 查实 benchmark issue 模板(用户内容):issue #6/#7/#9 三份第三方跑分(4090 调参后 9.75 tok/s,32GB 内存加 10GB 显存也跑通),被 Kai 视频直接引用
- 推断 付费推广:没有找到证据
Magnvs7/Promethevs(PROMETHEVS)研究报告
数据截至 2026-11-08。star 曲线来自我们的 github 库(repo_day);其余出处见各条链接。
一句话结论
PROMETHEVS 是英国一人公司 MAGNVS Ltd(作者 Ryan Flavell)做的 Windows 推理引擎,宣称在 64GB 内存加一张 12GB RTX 3060 的游戏 PC 上跑 DeepSeek-V4.1-Flash-1017 的原始 510GB 权重。它拿到 star 主要靠两件事。一是蹭到了「12GB 显卡跑 DeepSeek」这股热潮,带头的是 Strata,4.1 万 star。二是这股热潮很快出现了反弹:大家开始说「那只是 2-bit 阉割版」。PROMETHEVS 是这场争论里唯一站在「原版权重」一边的项目。两个 YouTube 解说频道(RepoChad 11-02、Kai 11-06,各约 5 万播放)把它当成和 Strata 对照的「另一条路」来讲,它这两波涨星就是这两条视频带来的。它的报告式 README 数字齐全、局限写得清楚,解说视频可以直接拿来用,这是它被选中当对照的原因。不过 1.1TB 硬盘、4 小时构建、只支持 Windows,加上引擎源码没有完整公开,所以它只拿到 150 star 这个量级,没有像 Strata 那样爆。
它是什么
- 方法 compress-then-correct:每个词先用 2-bit 的专家副本算。模型前两名候选差距小于阈值 0.45 时,用存好的「校正面」把这个专家还原成原始 FP4 再重算一次。再加上 DeepSeek 自带的 draft head 一次猜好几个词,并行校验。(README)
- 作者自报的成绩:代码类提示 warm cache 下最高 7.4 tok/s,cold 5.8。推理和 agent 类提示 4.4–5.2。同一台机器老老实实精确解码只有 2.14 tok/s。逐词和精确路径比,960 词一致率 98.33%(只用 2-bit 副本是 97.4%)。1,101 token 的长提示把所有差异都算上,一致率掉到 95.91%。1,163 token 的提示要等约 126 秒才出第一个词。
- 门槛:Windows 10/11;只支持一张 RTX 30/40 系 12GB 显卡;64GB 内存;约 1.1TB 的 NVMe 空间;先下 510GB 原始权重,再本地构建约 4 小时。
- 形态:v0.1(10-21)是技术报告、图表和原始日志,另挂了 Zenodo DOI。v0.2(10-23)是可安装的引擎服务,提供 OpenAI 兼容的 localhost 接口。报告用 CC BY 4.0,引擎标 Apache-2.0。
- 重要保留:v0.2 的引擎是预编译好的,压缩包里只有 MSVC 的 .obj 和部分头文件,
deepseek41.cpp等核心源码不在里面。想移植的人在 issue #3(Linux/RTX 50 移植)、issue #7(4090 用户)里都提出过这个问题。所以「开源」只有一半。 - 作者:Ryan Flavell。GitHub 组织 Magnvs7 是 2026-03 建的,只有这一个库。提交账号 MagnvsSeptem 有 3 个 follower。RepoChad 视频说作者「用 AI 编程助手做出来的」。
增长数据
| 日期 | star | 当日增 | 事件 |
|---|---|---|---|
| 10-21 | 0 | — | 建库,发 v0.1 报告 |
| 10-23 | ~20 | — | 发 v0.2;作者在 r/LocalLLM 发帖 |
| 10-25 | 23 | — | |
| 10-28 → 11-02 | 26 → 29 | +0~2/天 | 停住 |
| 11-02 | 29 | 0 | RepoChad 视频发布(14:30 UTC) |
| 11-03 | 50 | +21 | 当天新开 3 个 issue |
| 11-04 | 94 | +44 | 单日最高 |
| 11-05 | 102 | +8 | 4090 用户发 benchmark(issue #7) |
| 11-06 | 107 | +5 | Kai 视频发布 15:30 UTC;HN 帖 16:14 UTC |
| 11-07 | 118 | +11 | |
| 11-08 | 146 | +28 | GitHub API 当前显示 152 |
来源:我们的 github 库,repo_profile 里 gain_7d=117,prev_7d=6,状态「加速」,suspect 为空。v0.2 压缩包下载 202 次(GitHub Release API,11-08)。fork 9 个,issue 9 个,其中 4 个是 benchmark 报告。
star 从哪儿来:曲线上有两个台阶,和两条 YouTube 视频的发布时间一一对上。发 Reddit 只带来了起步的 20 来个 star。HN 只有 14 分,作用很小。
竞品
DeepSeek-V4.1-Flash-1017 是 10-17 发布的,MIT 许可,763B MoE,约 510GB。之后「在消费级硬件上跑它」成了 10 月下旬本地 LLM 圈最热的题目,同类项目很多:
| 项目 | 形态 | 上线 | 规模(11-08) | 和 PROMETHEVS 的区别 |
|---|---|---|---|---|
| Niko1221/Strata | 开源引擎 | 2026-09-24 | 41,439 star,7 天 +4,418,单日最高 +1,381(10-28) | 跑 ISTA-DASLab 的 2-bit GGUF(其中一半是 1.75-bit),只需 257GB 硬盘和 46GB 内存,一条命令装好,支持 Win/Linux/Mac。显存 ≤16GB 时默认每个词只用 5 个专家(模型原本用 6 个)。跑的是压缩副本,不是原版。 |
| llama.cpp + Unsloth GGUF | 开源 | DeepSeek 支持 10-25 合进主干 | unsloth 79k star | 通用路线。Unsloth 指南说 1-bit 版也要约 128GB 内存加显存;12GB 卡上还没有公开的成绩 |
| Indras-Mirror/Xolotl | 开源 | 2026-10-06 | 480 star | 面向 RTX 4090 + 110GB 内存,agent 任务约 33 tok/s。它的 fast mode 直接借用了 compress-then-correct 思路,并在 README 里致谢 Flavell |
| mw00/project-maya | 开源 | 2026-10-06 | 2,643 star | 多模型统一引擎加控制台,面向自有多卡 |
| sqliteai/warp | 开源 | 2026-07-28 | 2,540 star | 把激活的权重从磁盘流式读进来,跑超出内存的模型(Kimi K3、DeepSeek 等) |
| simplexai-labs/PolyStrata | 开源 | 2026-10-06 | 906 star | 基于 Strata 的多模型包装 |
| sybil-solutions/dsv41-flash-offload | 开源 | 2026-10-02 | 155 star | 一张 24GB 3090,EXL3 量化 |
| lxe/dsx | 开源 | 2026-10-18 | 95 star | 2×3090 + 128GB 内存,Rust + CUDA |
| musicurgy/delta-inference-engine | 开源 | 2026-10-26 | 80 star,「新冒出来」 | 同样是 Windows 单卡原生的 OpenAI 兼容服务,没主打「原版权重」 |
| DeepSeek 官方 API | 大厂功能 | 2026-10-17 | — | 云端跑原版又快又便宜。Kai 视频算过:按 7.4 tok/s 跑满一个月,API 闲时价只要 $11.51 |
规模数字来自我们的 github 库(11-08),上线日期来自 GitHub API。
格局:「12GB 跑 DeepSeek」这件事,规模上 Strata 一家独大。其余项目大多瞄准 24GB 显卡或 100GB 以上内存。在 12GB 卡加 64GB 内存这个档位上宣称跑原版权重的,只有 PROMETHEVS 一家。
增长手段(证据)
- 作者自己发 Reddit(确认)。10-23 u/Muted_Context_1999 在 r/LocalLLM 发了带 Project flair 的帖子,标题是「Full DeepSeek-V4.1-Flash-1017 (510 GB, original weights) on a 64 GB RAM + RTX 3060 12 GB PC: up to 7.4 tok/s, 98.3% agreement…」。发帖约 4 小时后 37 分,排到版块顶部(Ecne Pulse 的自动新闻)。r/DeepSeek 也有同题帖(链接)。Brave 的搜索结果显示,这个标题出现在 r/LocalLLM、r/LocalLLaMA 很多帖子的侧栏「相关帖」里,说明当时热度不低。不过最终分数没核实,Reddit 屏蔽了抓取。这一波带来了起步的 20 来个 star。
- AI 自动新闻站和韩国聚合站转载(确认,作用小)。10-23/24 有 Ecne Pulse、trawling.dev(韩语)、promppy(韩语,两条)。11-06 有 wpnews(48 次阅读)。
- YouTube 解说视频(确认,两波 star 的主因):
- RepoChad〈Run FULL DeepSeek v4.1 Flash on a 12GB GPU〉,11-02 发布,52,044 播放,898 赞,129 评论;频道 1.4 万订阅(YouTube Data API,11-08)。开场就点破「多数视频跑的是 2-bit 副本,还关掉了一个专家」,然后把 Strata、PROMETHEVS、llama.cpp 当三条路线对比,PROMETHEVS 是「跑原版权重」的那条。视频发出后,11-03 和 11-04 两天涨了 65 star。
- Kai〈I Run Full DeepSeek v4.1 Flash on a 12GB GPU〉,11-06 发布,50,169 播放;频道 7 万订阅。整条视频以 PROMETHEVS 为主线(第 00:44「Promethevs claims the full 510 GB」),章节里直接搬了 README 和 issue #7 的数字(97.4%/98.33%、2.66→9.75 tok/s、126 秒首词)。Kai 之前那条 Strata 视频(11-01)有 22.6 万播放,说明这群观众本来就在。视频发出后 11-07 和 11-08 两天涨了 39 star。
- 小频道跟进:Cognix(西语,11-03,5,955 播放,讲「三种主要路线」,标题里没写名字,未核实是否提到)、NewEraAi(11-07,65 播放)、Amplify Imagination(11-07,64 播放)。
- 没有证据表明这些视频是付费推广。频道风格是同一类「拆数字、查真假」的解说号,题材围着 DeepSeek-12GB 热潮转。
- Hacker News(确认,作用小)。11-06 ar-nelson 提交,14 分 5 评论。有评论说 4090 上约 11 tok/s,「Strata 在同类硬件上快得多」(HN Algolia)。
- TLDR 通讯(确认被收录,日期未核实)。tldr.tech 的条目链到了那个 HN 帖,所以应该是 11-06 以后的 AI 版收录的,可能是 11-08 那 +28 的来源之一。
- benchmark 报告模板把用户变成了内容(确认)。10-23 作者加了「其他机器的结果」表和 issue 模板。之后 #6、#7(4090,调参后 9.75 tok/s)、#9(只有 32GB 内存加 10GB 显存也跑通了,7.10 tok/s)三份第三方报告,马上被 Kai 视频当成「两次外部安装」的素材。
- 同行引用(确认)。Xolotl 的 README 和 CREDITS 里写明 fast mode 的思路来自 PROMETHEVS。nextsycl 写了一篇专门的对比评审,Biegle-W 的部署笔记把它列为观察项。这些在圈内攒了可信度,带来的 star 很少。
它为什么跑出来
- 时机:DeepSeek-V4.1-Flash-1017 在 10-17 发布,Strata 加 ISTA 2-bit GGUF 让「12GB 显卡跑 763B」成了热门题材。Strata 单日最高涨 1,381 star,Kai 那条 Strata 视频 22.6 万播放,注意力池子是现成的。
- 踩中了热潮里的反弹情绪:「2-bit 是阉割版、关掉一个专家」的质疑越来越多。AI Receipts 做过一次盲测,同一个任务云端版得 10/12 分,本地 2-bit 版只得 2/12。解说号要找一个「那原版到底能不能跑」的对照,PROMETHEVS 是唯一现成的答案。
- 报告式 README 正好是现成的视频素材:每一项数字都有原始日志,冷热 cache 分开报,局限也自己写明(「7.4 是最好情况」「单机单模型」),还挂了 DOI。解说号既能搬数字,又能借它的「诚实」。两条大视频的章节几乎就是照 README 结构走的。
- 为什么没有大爆:真想亲手跑,要准备 1.1TB 硬盘和 4 小时构建,只支持 Windows 和 RTX 30/40,首词要等 2 分钟,速度和 Strata 差不多甚至更慢,引擎源码也没给全。所以看视频的人多,真装的人少(下载 202 次),star 停在 150 左右。
差异化
它的差异化是「原版权重加可审计的一致率」。别人都在比谁跑得快、谁占内存少,它比的是「输出离原版模型有多近」,并且把一致率逐词算出来。这一点就是它跑出来的原因:在质疑 2-bit 质量的声音里,它成了内容创作者需要的那个对照。光比速度和易用性,它都不如 Strata。也正因为它的价值在「概念」,不在日常可用,它被看见了,却很难转成使用量。
能借鉴什么
- 在热门赛道里接住反方叙事。大家吹「能跑」的时候,做那个回答「跑的还是不是原版」的项目,容易被解说号拿去当对照。
- 把 README 写成技术报告:数字带日志,冷/热分开报,局限自己先写出来,挂 DOI。这样的东西最方便二次创作,内容号愿意搬。
- benchmark issue 模板:让早期用户在 issue 里交跑分,每一份都是新素材,还能证明「不止我一台机器能跑」。
- 起一个能直接当标题的名字和方法(PROMETHEVS 取盗火者之意、compress-then-correct),方便被引用和致谢。Xolotl 就引用了。
还不确定的
- r/LocalLLM 原帖最终多少分、多少评论(Reddit 屏蔽了抓取)。
- RepoChad 和 Kai 有没有和作者事先联系过,或者是付费推广。没有证据,看起来像这类解说号自己找的选题。
- TLDR 收录的具体日期和是哪一期。
- 引擎没给源码的部分会不会补上;Linux 和 RTX 50 的移植要看作者是否放出
deepseek41.cpp。 - 实际装起来的人有多少:202 次下载,至少 3 份第三方 benchmark。
- 因为 stargazer 列表拿不到(API 返回 404/空),没能逐个核对 star 来源账号。