什么值得做
GitHub 开源项目 · 11-11 写
christopherowen/spark-ds41f · christopherowen

「有 DGX Spark 就该关注他」:一份 3 台起步的 DeepSeek 部署配方,一周涨了 103 星

它是什么 一套把 DeepSeek V4.1 Flash 不量化、原样跑在 3 到 8 台 NVIDIA DGX Spark 上的部署配方:Docker 镜像、改过的 vLLM、自写内核,三台四台可以不用交换机直连。

为什么火了 DeepSeek 1017 版发布后一批人加买到三四台 Spark,正需要原版权重的配方,它最快、天天更新、数字可验证;11 月 8 日本地 AI 大号 Ivan Fioravanti 自己跑通后发帖推荐,一周星数翻了 3.5 倍。

C你可以怎么跟 别去抢「多台 Spark 跑 DeepSeek」这个位置。学它的发布方式:挑一个新模型 × 你手里已有的硬件、还没有认真配方的组合,在硬件厂商论坛开长期更新帖,每版发一条带可比数字的推,先让有同款硬件的达人私下跑通。

C 级:分发打法便宜、可复制,值得学;但要跟同一件事得先花一万多美元买硬件、会写 GPU 内核,赛道已有二十几份配方,做到最好也只有两三百星。 小圈子里在传
数据(每天更新) · 建库 2026-09-20 · 235 星 · 7 天 +41
GitHub · 星数
010020010-1911-0111-0711-1311-20235
数据 2026-10-19 → 2026-11-20(33 天,25 次观测)。10-28 以前的点来自 deeply / 存档补录,不是每天都有

christopherowen/spark-ds41f 教你把 DeepSeek V4.1 Flash 原样不量化,跑在三四台 NVIDIA DGX Spark 上。它的受众小到整个圈子可能就几百人,建库 53 天才 188 星。可它在一个挤满了同类配方的赛道里跑在最前面,靠的打法不花钱:在 NVIDIA 官方论坛开一个长期更新的帖子,每发一版就在 X 上贴一组能对比的数字,然后等一个手里也有同款机器的大号自己跑通了替你说话。这套打法谁都能学。照着它去抢同一个位置就不划算了。

一句「if anyone is interested」

2026 年 9 月 26 日,Christopher Owen 在 NVIDIA 开发者论坛的 DGX Spark 区开了个帖,标题是「New Deepseek 4.1 flash recipe」,正文只有两句:「这是我的版本,有兴趣的可以看看。是按我自己的用法和三台无交换机的机器调的。」

两天后他在同一个帖子里发了第一篇更新:一张「周五 → 周一」的对照表,单流解码从 54.0 涨到 62.6 tok/s(+15.9%),冷启动从 150 秒降到 123 秒,底下还有一行「质量门 5/5,没有变差」。之后每发一版他都在这个帖子里贴一张这样的表,用户部署报错也一条条回。到 11 月 10 日,帖子有 157 楼、24 个人参与、11,729 次浏览(NVIDIA 论坛,11-11)。

11 月 8 日,X 上做本地 AI 的 Ivan Fioravanti(约 4.3 万粉,自己有一组 3 台的 Spark)发了一条:「If you have a DGX Spark you need to follow @christopherowen. 他给 3 台或 4 台 DGX Spark 写的 DeepSeek V4.1 Flash 1017 配方好得难以置信。」183 个赞。那天仓库涨了 23 星,第二天又涨 31,都是建库以来最多的。

它是什么

DGX Spark 是 NVIDIA 的桌面 AI 小主机,一台 128 GB 内存,发售价约 4,000 美元。DeepSeek V4.1 Flash 是 552B 主干外加一张 203 GB 的 Engram 表,两台 Spark 装不下原版,只能压到 3 bit 左右。想跑原版就得三台起。

spark-ds41f 是一套给三台到八台 Spark 用的「照做就能跑起来」的部署配方:Docker 镜像、改过的 vLLM、作者自己写的 TileLang 内核、一套不用交换机的 RoCE 组网。三台连成三角形,四台连成环,省掉一台要几千美元的 200G 交换机。一个镜像覆盖 8 种连法,启动前会检查,没验证过的连法直接拒绝跑。

它最在意的是「不降智」:权重原样不重新量化,逐项对齐 DeepSeek 官方的参考算法,温度设为 0 时,输出不管跟几个请求一起跑都逐 token 一样。最新的 1107 版在四台环形上单流 82.6 tok/s,16 路并发合计 273 tok/s,32K 长文本 prefill 8,508 tok/s,支持 1M 上下文(仓库 README,11-11)。

星是怎么一天天来的

时间星发生了什么
09-200建库,原名 spark3-vllm-ds41f,只做三台
09-26–开论坛帖
10-05–改名,换上自写内核,开始支持四台环形
10-18–@mxfp0 发推:「这大概是 DeepSeek V4.1 Flash 1017 四卡最好的配方……要调几下才能把 Spark 榨干,但完全值得」,当天 6 个 fork
10-2028
10-25–1025 版,作者 X 帖 116 赞
10-28 ~ 11-0653 → 90每天 +3 到 +5
11-07941107 版:「1107 is out. Same Sparks. Faster.」;Ivan 引用转发「24 小时里 prefill 快了近 3 倍」
11-08117(+23)Ivan 点名推荐
11-09148(+31)
11-121887 天 +103,前 7 天 +29

(GitHub 每日星数,11-12;推文来自 X。)

前七周全靠论坛和作者自己在 X 上发,每天涨三五颗。Ivan 那两条一出,7 天增量翻了 3.5 倍。Ivan 11 月 6 日先 fork 了仓库,自己跑通了才发帖。这种背书比求来的转发值钱。

另一个数说明这些星不是收藏:39 个 fork,占星数约 21%。fork 集中在 10-18 前后和 11-07 到 11-09 两波,跟两次背书对得上。fork 的人里有 Ivan、mxfp0,还有好几个在论坛贴过自己实测结果的人,都是真在部署。

为什么是它

「多台 Spark 跑 DeepSeek」在今年下半年是个很挤的赛道,同类配方仓库至少二十几个。11-12 那天,只有它的星在加速。

时机刚好。 10 月 17 日 DeepSeek 发了 1017 检查点,一批人开始加买第三、第四台 Spark。论坛上有人说「这让我想买第三台」,有人「后悔只买了两台」。这群人要的正是原版权重、三四台的配方,而它本来就是从三台无交换机起家的。

快,而且别人能验证。 四台机器上,MiaAI-Lab 的 TensorFold 配方是单流 65.8 tok/s、prefill 4,127(dev.to 上 RigBase 的汇总表,10-28),它是 82.6 和 8,508。论坛用户 rob01 在 10 月 28 日把论坛里提到过的四份配方挨个跑了一遍(knapcio、Mia、DGPP 和它),结论是它在他的实际负载里「比其他几个都快得多」,虽然无交换机四台那会儿经常崩。shawnbot.org 10 月 26 日写了篇长文比较,说速度差不多,但它的 KV 缓存容量是自家方案的三倍,「真正更好的是他的工程纪律」。

「无交换机」是个买机器时就会考虑的点。 省下一台几千美元的交换机,对正在犹豫要不要加机器的人很实在。后来 knapcio、Nipale-ai、GroveMinting 也做了 switchless 版本,说明这个点被认了。

更新本身就是曝光。 53 天 2,189 次提交,有人数过,到 10-25 的 36 天里基线提升了 34 次,差不多一天一次。每一版都带 A/B/A 对照和「输出逐位不变」的检查,失败的实验也留在仓库里。每一版也都给了他一个理由,去论坛和 X 上再发一次新数字,发一次就被人重新看见一次。

旁边都有谁

项目星(11-11)和它比
eugr/spark-vllm-docker2,487社区通用 vLLM 镜像,也能跑三台 DeepSeek,但不专门调
MiaAI-Lab 两台系列(量化)1,515 / 467 / 282 等两台、压到约 3 bit;受众大得多,Mia 说两台是 90–95% 用户的选择
spark-arena/sparkrun564一键换模型的启动器;作者拒绝把自己的配方打包进去
Entrpi/ds4-on-spark414自写引擎,单台从 SSD 流式读权重,约 9 tok/s
MiaAI-Lab/DeepSeek-v4.1-Flash-DGX-Sparks295同硬件同模型,比它早 9 天,一次性发布,10-17 后不再更新
tonyd2wild 两台/四台配方163量化路线
knapcio 四台配方98要交换机;以好装、好换模型出名
MiaAI-Lab 四台 TensorFold72四台单流 65.8 tok/s

这张表说明两件事。一,它不是第一个,也不是星最多的,同一件事早它的人星更多。二,受众大小决定天花板:两台量化路线能拿上千星,「三台以上、原版权重」这个细分做到最好也就两三百。

论坛里的反对声音也来自它最大的长处。部署太复杂,要换 64 KiB 页的内核、装 DKMS 驱动补丁、准备 480 GiB 磁盘、配免密 sudo,有人因此转去用 knapcio 那种一键装的。它赢的是「认真的人里口碑最好」,不是普及。作者 11 月 10 日说在看两台的版本,要是做出来,受众能大一个量级,那可能是它的下一波。

如果是你

C:打法值得学,位置不值得抢。 想要 star 的开发者,最该带走的是它的发布方式。另做一份「多台 Spark 跑 DeepSeek」去跟它拼,不划算:要先花一万多美元买机器,要会写 GPU 内核和改驱动,赢了也就两三百星。

适合谁:手里已经有某种热门本地 AI 硬件(多台 Spark、Mac Studio 集群、AMD Strix Halo 小主机),又愿意每天做性能实验的人;想在一个硬核小圈子里攒名声、给履历加一个「这个人懂底层」标签的工程师。

不适合谁:没有硬件、要先买机器才能开工的;想冲上千星的(这种配方的天花板就是圈子大小);只想发一次就不管的(这个赛道里一次性发布的配方,比如 MiaAI 那份,一个多月后性能上就被反超了)。

怎么做:三种跟法,从好到次:

  1. 新模型 × 新硬件,抢第一份认真的配方。 每出一个大模型新版本、每出一种新的本地硬件,都会重新开一轮配方赛跑。挑一个还没人做到「原版、可复现、带数字」的组合,比如你手里的硬件跑下一个开源大模型,第一周就发。
  2. 做别人不愿意做的那一层。 它拒绝打包进一键启动器、部署门槛高,这留下了「把最好的配方做成真正一键装」的空位。knapcio 靠「好装」就拿了一批用户。
  3. 两台版本。 两台是大多数人的配置,要是能在两台上做到接近原版的质量,受众比它大得多。但作者本人已经在做了,要赌速度。

怎么获客:照抄它的三步。第一,去硬件厂商自己的开发者论坛开一个长期更新的帖子(NVIDIA、AMD、Apple 开发者论坛都有对应的版块),每一版贴一张「上一版 → 这一版」的对照表,每个部署报错都回。这个帖子本身就是搜索入口,搜「spark-ds41f」排在前面的几条都是论坛分页。第二,版本号用日期,每一版在 X 上发一条带一个可比数字的短帖,给别人一个能直接引用转发的东西。第三,找一个手里有同款硬件的达人,让他先私下跑通。Ivan 是先 fork、自己测完才发的帖。

什么时候之前:每个模型版本的窗口大概一两个月。下一个大模型版本发布后的第一到两周,是开一份新配方的时候。

什么情况说明看错了:① 你的配方在硬件论坛连发了一个月更新,帖子浏览还不到几千,说明这个硬件圈子太小,换一个;② 你选的组合里,大厂官方的 playbook 或一键启动器已经做到了差不多的速度,认真调优这件事就不值钱了;③ 反过来,要是两台版本做出来以后它的星上了千,说明「硬核配方」的天花板比这里估的高,值得更早动手。

GitHub 仓库 ↗

研究底稿:竞品表、获客证据、完整研究报告
竞品
名字在哪上线规模它和这家不同在哪
MiaAI-Lab/DeepSeek-v4.1-Flash-DGX-Sparks开源2026-09-11295 star / 53 fork,10-17 后停更同硬件同模型早 9 天,SGLang 一次性发布,没有持续调优
MiaAI-Lab/DeepSeek-V4.1-Flash-1017-4x-DGX-Sparks-TensorFold开源2026-10-1772 star4 台单流 65.8 tok/s、prefill 4,127;spark-ds41f 1107 为 82.6 tok/s、8,508
MiaAI-Lab 2 台系列(EXL3 量化 + TensorFold)开源2026-06 起1,515 / 467 / 282 star 等2 台、约 3 bit 量化,受众大得多但不是原生权重
tonyd2wild/DeepSeek-V4.1-Flash-TP2-and-TP4-DGX-Sparks开源2026-09-10163 starTensorFold + EXL3 量化路线
knapcio/DeepSeek-V4.1-Flash-4x-DGX-Spark-TP4开源2026-09-1798 star基于 MiaAI、要交换机,以好装好切模型著称
vcruz305/DSV4.1-Flash-1017-EXL3-Spark-recipe开源2026-10-1942 star单台 1.62 bpw 极限量化,31–34 tok/s
eugr/spark-vllm-docker开源2025-11-252,487 star社区通用 vLLM 镜像,也支持 DSV4F TP3,但不做专门调优
spark-arena/sparkrun开源2026-02-16564 star一键换模型的启动器/配方库;作者拒绝打包进去
antirez/DwarfStar(ds4)、Entrpi/ds4-on-spark开源2026-05 起ds4-on-spark 414 star自写引擎,单台 SSD 流式约 9 tok/s、双台约 22 tok/s
NVIDIA dgx-spark-playbooks / 多机连接指南大厂功能2025-101,485 star只教连线和通用推理,官方 4 台拓扑要交换机
用户从哪来
  • 查实 NVIDIA 开发者论坛连载帖:09-26 开帖,到 11-10 共 157 帖、11,729 浏览、24 人参与;每个 release 贴对照表并逐个回复部署报错
  • 查实 作者 X release 帖:1025 帖 116 赞、1107 帖 122 赞;b12x 作者在论坛抱怨他在社交媒体多轮自我推广
  • 查实 X 达人背书:@mxfp0 10-18 称最佳 TP4 配方(32 赞,当日 6 个 fork);Ivan Fioravanti 11-06 fork、11-08 发「有 DGX Spark 就该关注 @christopherowen」183 赞,11-08/09 star +23/+31
  • 查实 第三方评测博客:shawnbot.org 10-26 长文对比,结论 KV 容量与发布纪律明显更好
  • 查实 作者配套仓库导流:dgx-spark-fan-control 51、dgx-spark-networking 43、dgx-spark-memory-saver 39 star,同圈子互相引用
  • 推断 HN / Reddit:HN 仅 10-08 一条评论贴链接;Reddit 讨论未能读取

christopherowen/spark-ds41f:为什么能跑出来

一句话:把 DeepSeek V4.1 Flash 原生权重(不量化)跑在 3–8 台 NVIDIA DGX Spark 上的可复现部署配方仓库(Docker + 魔改 vLLM + 自写 TileLang 内核 + 无交换机 RoCE 组网),附完整调优实验和 benchmark。 结论:它是「多台 DGX Spark 跑 DeepSeek V4.1 Flash」这个极窄赛道里原生权重路线最快、工程最严谨的一份配方;star 不靠任何大渠道,靠作者在 NVIDIA 开发者论坛连载一个 157 帖的更新串、每个 release 在 X 上发一条带数字的帖子,再被几位多机 Spark 玩家实测背书。11 月 8 日 Local AI 大号 Ivan Fioravanti 发帖「有 DGX Spark 就该关注 @christopherowen」,当天和次日 star 单日 +23、+31,把 7 天增量从 29 拉到 103。

1. 数据

时间starfork事件
2026-09-2000建库,原名 spark3-vllm-ds41f(只做 3 台三角拓扑)
09-26––作者在 NVIDIA 开发者论坛开帖「New Deepseek 4.1 flash recipe」
10-05––改名 spark-ds41f,换成自写 TileLang 内核(r6),支持 4 台环形
10-18–6 个 fork 在这一天@mxfp0 发 X:「这大概是 DeepSeek V4.1 Flash 1017 TP4 最好的配方」
10-19 / 10-2020 / 2810 / 11我们的 github 库首批观测
10-25––作者发 1025 release 帖,116 赞
10-285314
11-0794241107 release(首次在全部 8 种拓扑上验收);作者 X 帖 122 赞,Ivan 引用转发「24 小时里 prefill 快了近 3 倍」
11-08117 (+23)28Ivan 发「If you have a DGX Spark you need to follow @christopherowen」,183 赞 18 回复
11-09148 (+31,观测期单日最大)35
11-12188397 天 +103,前 7 天 +29(3.5 倍),状态「加速」,suspect 为空

来源:我们的 github 库 repo_profile / 数据卡(2026-11-12 刷新);tweet 数据来自 X syndication 接口(2026-11-11 读);fork 日期来自 GitHub API forks 列表。GitHub stargazers 明细接口对该库返回 404,没拿到逐个 star 的时间。

  • 53 天 2,189 次提交,5 个正式 release(1020/1022/1025/1030/1107,前四个 10-31 才补成 GitHub Release)和若干 candidate 预发布;shawnbot.org 数过:到 10-25 的 36 天里提升了 34 次基线,约每天一次。
  • fork/star 约 21%,fork 集中在 10-18 前后和 11-07~11-09 两波,和两次 X 背书时间吻合;fork 里有 ivanfioravanti(11-06)、mxfp0、msuiche、rob01dev、vedcsolution 等论坛/X 上实测发帖的人——是真部署,不是收藏。
  • 同类对比(我们的 github 库,11-12):同赛道 25 个 DGX Spark / DeepSeek 配方库里,只有它是「加速」,7 天 +103 排第一;MiaAI-Lab 的几个 DeepSeek 配方都在「降温」(2x TensorFold 本周 +49 / 上周 +83;3-4x SGLang 本周 +9),eugr/spark-vllm-docker 每周 +14。

2. 竞品:同一件事都有谁

「DGX Spark 跑 DeepSeek V4 / V4.1 Flash」在 2026 年下半年是个很挤的配方赛道,几乎每个模型版本、每种节点数都有人发一个 GitHub 配方。按它的定位(3 台以上、原生权重、vLLM)分:

竞品形态上线规模(11-12)和它的不同
MiaAI-Lab/DeepSeek-v4.1-Flash-DGX-Sparks开源配方(SGLang,3-4 台)2026-09-11295 star / 53 fork,10-17 后不再更新同硬件同模型,早 9 天;但是一次性发布,没有持续调优;Mia 后来转去推自家 TensorFold 引擎
MiaAI-Lab/DeepSeek-V4.1-Flash-1017-4x-DGX-Sparks-TensorFold开源配方(TensorFold)2026-10-1772 starRigBase 汇总表里 4 台单流 65.8 tok/s、prefill 4,127;spark-ds41f 1107 是 82.6 tok/s、prefill 8,508
MiaAI-Lab 2 台系列(EXL3 量化 + TensorFold)开源配方2026-06 起1,515 / 467 / 282 star 等2 台、量化到约 3 bit;受众大得多(Mia 自己说 2 台是 90–95% 用户的甜点),但不是原生权重
tonyd2wild/DeepSeek-V4.1-Flash-TP2-and-TP4-DGX-Sparks开源配方(TensorFold + EXL3)2026-09-10163 star量化路线;4 台 93.6 tok/s(量化后)
knapcio/DeepSeek-V4.1-Flash-4x-DGX-Spark-TP4开源配方(SGLang,基于 MiaAI)2026-09-1798 star4 台 + 交换机;knapcio 的配方以「好装、好切换模型」出名(论坛用户 davedgd 原话)
vcruz305 DSV4.1-Flash-1017-EXL3-Spark-recipe开源配方2026-10-1942 star单台 1.62 bpw 极限量化,31–34 tok/s
eugr/spark-vllm-docker开源通用 vLLM 镜像2025-11-252,487 star社区通用底座,10-05 起也支持 DSV4F TP3(eugr 本人在帖里说);不做专门调优
spark-arena/sparkrun开源启动器 + 配方库2026-02-16564 star一键换模型的「应用商店」式工具;spark-ds41f 作者明确拒绝打包进 sparkrun
shawnbot.org 自家 4 台环形通道(SGLang)私有部署,公开写了对比2026-10–单流 67–69 tok/s,KV 只有 3.24 GiB/rank(spark-ds41f 10.5 GiB),但不用换 64 KiB 内核
antirez/DwarfStar(ds4)、Entrpi/ds4-on-spark自写推理引擎2026-05 起ds4-on-spark 414 star单台 SSD 流式 9 tok/s、双台 22 tok/s,路线不同
NVIDIA 官方 dgx-spark-playbooks / build.nvidia.com 多机连接指南大厂文档2025-101,485 star只教连线和通用推理,不针对 DeepSeek 调优;官方 4 台拓扑要交换机

结论:竞品很多、早它的也有(MiaAI 3-4 台配方早 9 天、star 更多)。它不是第一个,也不是受众最大的(2 台量化路线受众大得多),而是在「3 台以上 + 原生权重」这个细分里把性能和可复现做到最好、且唯一还在每天迭代的一个。

3. 用户从哪来(增长手段)

渠道证据确认
NVIDIA 开发者论坛连载帖作者 09-26 开「New Deepseek 4.1 flash recipe」,到 11-10 共 157 帖、11,729 次浏览、24 位参与者;每个 release 作者都在帖里贴一篇带对照表的更新,并耐心回复每个用户的部署报错(huxiaofengtiger、vedcsolution、rob01 等)。帖子一直是论坛 DGX Spark 区 DeepSeek 配方的主帖之一是
作者自己的 X release 帖每次 release 发一条「1107 is out. Same Sparks. Faster.」式帖子,带 decode/prefill 数字和对照图;1025 帖 116 赞,1107 帖 122 赞;另发求助帖(Latent Sparse Attention,54 赞)。论坛里 Local Inference Lab 的 lukea 抱怨他「在社交媒体上多轮自我推广」——侧面证明他在 X 上推得很积极是
Local AI 达人背书@mxfp0 10-18「probably the best recipe」(32 赞);Ivan Fioravanti(约 4.3 万粉,MLX / DGX「Local AI Ambassador」,自己有 3 台 Spark 集群)11-06 fork、11-07 引用转发、11-08 发「有 DGX Spark 就该关注 @christopherowen,他的 3-4 台 DeepSeek 配方好得难以置信」183 赞。11-08/09 star +23/+31,是观测期最大两天是(时间吻合;没有 stargazer 明细做逐个归因)
第三方评测/博客shawnbot.org 10-26 长文对比「要不要换成 spark-ds41f」,结论是性能打平、KV 容量和发布纪律明显更好;论坛用户 nathanpwhite 11-09:「试过很多 DS4.1F 1017 配方/引擎,这个最好」是
HN / RedditHN 只有一条 10-08 评论顺手贴了链接;r/LocalLLaMA 有 4x Spark 跑 DS4.1F 的讨论(读取被 Reddit 拦截,是否提到它未核实)弱
作者已有的小名气同一作者 1 月的 spark-vllm-mxfp4-docker 75 star;配套仓库 dgx-spark-fan-control(51)、dgx-spark-networking(43)、dgx-spark-memory-saver(39)——Spark 玩家圈子里已有「这个人懂 Spark 底层」的认知,互相导流是
GitHub trending / 媒体 / 付费推广建库不满 60 天,没上 trending;没查到媒体报道;开源无商业化,没有投放无

4. 为什么跑出来

  1. 时机:DeepSeek V4.1 Flash 正好卡在「2 台装不下原生权重、3–4 台刚好」的位置。 V4.1 Flash 是 552B 主干 + 203 GB Engram 表(论坛 DeepSeek v4.1 Flash 帖),2 台 Spark 只能跑约 3 bit 量化;1017 检查点 10-17 发布后,一批人开始买第 3、第 4 台 Spark(Mia 9 月帖:「3–4 台是下一步自然升级」;论坛 ptitviet「让我想买第三台」、Dickson「后悔只买了两台」)。这群人需要一个原生权重的 3–4 台配方,而它就是专门为 3 台三角无交换机拓扑起家的。
  2. 性能确实领先,而且可验证。 1107 在 4 台环形上单流 82.6 tok/s、16 并发 272.9 tok/s、32K prefill 8,508 tok/s,1M 上下文、KV 池能同时放 11 个满 1M 上下文;MiaAI 4 台 TensorFold 配方是 65.8 tok/s / 4,127 prefill(RigBase 汇总表);shawnbot 实测自家 SGLang 通道 67–69 tok/s、KV 只有它的三分之一。独立用户 vedcsolution、rob01、mxfp0 跑出的数字和作者表格接近。
  3. 「无交换机」本身是购买决策上的钩子。 200G 交换机要几千美元;它从第一天就做 3 台三角、4 台环形直连(自写 sparknet 单发 RoCE 集合通信),页面叫 switchle.ss。之后 knapcio 的 TensorFold 配方(10-26)、Nipale-ai(10-10)、GroveMinting 也开始做「switchless」,说明这个卖点被认了。
  4. 每天迭代 + 每次改动都有 A/B 数据,让老用户一直回来。 2,189 次提交、36 天 34 次基线提升,每个 release 带确定性门(温度 0 输出逐 token 一致)、A/B/A 对照、失败的实验也保留。shawnbot 的结论是「真正更好的是他的工程纪律,不是 tok/s」。持续更新给了作者每周在论坛和 X 上「发新数字」的理由,每次更新就是一次再曝光。
  5. 大号背书把小圈子的口碑放大了一次。 star 曲线前 7 周是论坛 + X 自然增长(每天 +3~+5),11-07~11-09 Ivan 连续两条帖后单日 +23/+31,7 天增量 3.5 倍。

5. 差异化,以及是不是它跑出来的原因

差异化:同一模型同一硬件的配方里,别人在做「怎么装得下」(量化到 2–3 bit、换 TensorFold/EXL3 引擎、追求 2 台就能跑),它做的是「不降智的前提下最快」:原生权重不重新量化、逐项对齐 DeepSeek 参考算法、温度 0 结果与 batch 无关;再往下做到内核(自写 SM121 TileLang 内核,替换 B12X)、操作系统(64 KiB 页内核 + 自写 UVM 省内存驱动补丁)、网络(无交换机 RoCE 集合通信)三层。一个镜像覆盖 3 台三角、4 台环形、3–8 台交换机共 8 种形态,bin/spark doctor 和启动前检查拒绝跑没验收过的形态。

是不是原因:是,但只对「3 台以上、要原生权重」这个很小的人群成立——这也是它 star 天花板很低的原因。论坛反复出现的反面声音同样来自差异化:部署太复杂(要换内核、装 DKMS、480 GiB 盘、免密 sudo),有人因此不装、转用 knapcio 那种一键配方;作者也拒绝打包进 sparkrun。所以它赢在「认真的人里口碑最好」,不在普及度。

6. 被多少人看见

  • 小圈子里在传。证据:Ivan Fioravanti 两条帖(最多 183 赞)、mxfp0 帖、shawnbot 长文、NVIDIA 论坛 1.17 万浏览的主帖;没有媒体报道,HN 只有一条评论提及,没上 GitHub trending。
  • 开源免费,没有收入可公开。
  • 跟风者:没有直接复制它的仓库;39 个 fork 多是部署者自用或提 PR(如 tenhkspark 说明「只为分支和上游 PR」);「无交换机多台 Spark」这个点子已被 knapcio、Nipale-ai、GroveMinting 等跟进,Petronella Tech、Exxact 等硬件商也在写「4 台 Spark 交换机还是环形」的文章。

7. 别人能借鉴的

  • 在硬件厂商自己的开发者论坛开一个长期更新串,每次 release 贴对照表、逐个回复用户报错——这比发一次 Reddit 帖留得住人,论坛帖本身就是 SEO 入口(搜索「spark-ds41f」头几条都是论坛分页)。
  • 用「release = 日期」高频发版,每次发 X 带一个可比数字(「Same Sparks. Faster. +5–6%」),给达人一个可以引用转发的东西。
  • 找一个已经拥有同款硬件的达人先私下用起来(Ivan 11-06 fork,自己测完才发帖),比直接求转发有效。
  • 为细分人群做到极致而不是做大众版:在「2 台量化」已被 Mia 占住时,它选了「3 台以上原生权重」,避开正面竞争。
  • 配套的小工具仓库(风扇控制、电源控制、网络库、内存补丁)既解决真实问题,也在同一圈子里互相导流,建立「这个人懂底层」的个人品牌。

8. 还不确定的

  • 没有 stargazer 逐个时间(GitHub 接口 404),11-08/09 的涨幅归因于 Ivan 的帖是按时间吻合推断。
  • Christopher Owen 的 X 粉丝数、每条帖浏览量未拿到;x-radar 本地语料只到 9 月底,没有覆盖 10–11 月的帖。
  • Reddit r/LocalLLaMA 讨论被拦截,是否有帖子带来 star 未核实。
  • 真实部署人数:论坛里明确报告跑起来的约 6–8 人(huxiaofengtiger、vedcsolution、rob01、llm_user、nathanpwhite、mxfp0、Ivan 等),总数不明。
  • TP2(2 台)版本若做出来(作者 11-10 说在看,依赖 PR #981 的专家 NVMe 缓存),受众会扩大一个量级,可能是下一波增长。

出处

文章由 AI 根据公开数据和我们每天采集的数据写成,数字带出处,推断已标明