什么值得做
GitHub 开源项目 · 11-6 写
FareedKhan-dev/kimi-k3-in-c · FareedKhan-dev

8 GB 内存跑 2.78 万亿参数:一个「跑得动但没法用」的 C 项目,怎么拿到 1 万 star

它是什么 一个纯 C 写的小程序,把 1.56 TB 的 Kimi K3 大模型从硬盘上边读边算,让一台 8 GB 内存的普通电脑也能跑,只是半分钟才出一个词。

为什么火了 Kimi K3 放出权重后大家都在说「没人跑得动」,它 5 天后给出「8 GB 笔记本能跑」这个最极端的数字,被 X 上一批 AI 资讯号原样转发;11 月 K3.1 Pro 发布又把它带上 GitHub 趋势榜,再吃一波。

B你可以怎么跟 别照抄 K3 这一个,而是提前备好通用的流式推理代码,在下一个超大开源模型放权重后 5 天内,做一个「把它塞进手机/树莓派/浏览器」的演示,配长文和实测数据,给资讯号一句现成的反差文案。

B 级:打法清楚且每次大模型发布都能复用,star 回报也大;但 K3 这个位置已被它和 warp、deltafin 占满,下一次窗口只有一周,还要真能写出跑通的底层引擎,作者原有的关注者和长文渠道也帮了大忙。 小圈子里在传
数据(每天更新) · 建库 2026-08-01 · 11,194 星 · 7 天 +1,931
GitHub · 星数
05k10k08-0210-1610-2410-3111-0811k
数据 2026-08-02 → 2026-11-08(99 天,32 次观测)。10-28 以前的点来自 deeply / 存档补录,不是每天都有

一个 176 KB 的 C 程序,在一台 8 GB 内存的机器上,用 261 秒说出了「Paris」。它几乎没法拿来干活,却比 Kimi K3 官方仓库多拿了 1,700 个 star。下面讲清楚它踩中了什么、star 从哪来、同一件事谁先做了,以及你下一次能不能也这么干。

4 分 21 秒,8 个 token

README 里有一段终端输出:作者 Fareed Khan 给程序喂了一句「The capital of France is」,让它往下续 8 个 token。程序从 NVMe 硬盘上一层一层读模型,读完一层算一层,最后打印:

Paris.", 8 tokens in 261.5 s, 32.69 s/token average PEAK RSS for the whole run: 8.24 GB

被跑的是 Kimi K3,月之暗面 7 月 27 日放出权重的 2.78 万亿参数模型,磁盘上 1.56 TB。那几天大家在 Hacker News 上讨论(K3 权重那条帖子 1,382 分)的是同一件事:最大的开源模型,几乎没人跑得动。作者 8 月 1 日建了这个仓库,README 第一行写:「2.78 万亿参数。一颗 CPU。8 GB 内存。」下面一行:「不用 BLAS,不用框架,不用 GPU。」

到 11 月 6 日,这个仓库有 10,719 个 star、1,672 个 fork(GitHub,11-06);Moonshot 官方的 Kimi-K3 仓库是 9,043。

它到底是什么

一个纯 C99 写的推理引擎,整个程序 176 KB。K3 是混合专家模型,1.45 TB 的「专家」权重从来不放进内存,每一步现读现算;内存多一点,就多留一些在内存里,快一点。README 给的账:

机器内存每个 token
普通笔记本8 GB26.5 秒
高配笔记本32 GB24.2 秒
台式机64 GB19.8 秒
重型工作站128 GB 以上5.6 秒

还有一句被反复引用的话:从 8 GB 到 224 GB,输出逐字节相同,变的只有时间。

说白了,它证明了一件事「能做」,但没人会用它干活:要先下 1.56 TB 权重、留出约 1.7 TB 硬盘,然后半分钟出一个词。真想用 K3 的人去 Together AI、Modal 这类托管接口。这 1 万个 star 绝大多数是围观,不是用户(推断)。

为什么是它拿到了 star

它不是第一个。 7 月 28 日,sqliteai/warp 和 deltafin 就已经在做「消费级硬件跑 K3」:warp 在 HN 上的标题是「用 29 GB 内存跑 Kimi K3,0.5 token/秒」(341 分),deltafin 后来做到「MacBook Pro 上 1 token/秒,从四块 SSD 读」(279 分)。两家都比它早、都比它快。现在 warp 有 2,537 star,deltafin 857。

它的数字最极端。 别人在讲「能跑多快」,它把内存压到 8 GB——一台普通笔记本的内存——再配上 176 KB、0 GPU。这四个数放在一起,本身就是一条可以原样转发的推文。8 月 3 日到 8 日,X 上一批 AI 资讯号几乎用同一句话发了它:「2.78 万亿参数的模型,一颗 CPU,8 GB 内存,不要 GPU,100% 开源」——Shubham Saboo 和 Hasan Toor 8-03,DataChaz 8-04,RoundtableSpace 和中文号 MaxForAI 8-07,Kirill 8-08。没看到付费推广的迹象,更像资讯号之间互相搬运。8 月这一波就把它推到了约 9,000 star。

包装是现成的,作者本来就有人看。 仓库主页链到他在 Medium 上一篇标着 94 分钟阅读的长文;README 里有海绵宝宝画风的架构图,每个数字都对得上 docs/data/ 里的实测文件。Fareed Khan 在 GitHub 有 3,126 个关注者、52 个仓库共 3.8 万 star,之前的「从零实现」系列里 train-llm-from-scratch 有 1.3 万 star。README 中间还挂着一行:「我在找 AI 研究职位和读博机会」,附简历——这个项目对他来说就是一份作品集。

Hacker News 反而没帮上忙:三次提交,4 分、2 分、2 分。

11 月为什么又涨了一波

10 月中旬它每天只涨十来个 star。11 月 3 日 +71,4 日 +452,5 日 +383,6 日 +538,一周涨了 1,488,前一周只有 74(GitHub,11-06)。

代码 10 月 2 日之后没再推送过,所以这一波不是它自己做了什么。时间上对得上的是 Kimi K3.1 Pro:10 月 23 日官宣开源,11 月 4 日在 Hugging Face 放出权重(HN 343 分),「怎么在本地跑 Kimi」又成了热门搜索。涨起来之后,11 月 5 日它上了 GitHub 全站日榜第 11、C 语言日榜第 1,随后冒出 20 多篇各种语言的转载和解读,大部分是盯着趋势榜自动生成内容的站——趋势榜带来转载,转载又带来 star。具体是哪一条帖子点的火,没找到。它到底支不支持 K3.1 Pro 的权重,也没人核实过。

还有个副作用:11 月 4 日起涌进来一批外部 PR,有人一天提了十几个修 bug 的,有人加了 Termux/Android 的跑法。README 上列着 20 个贡献者,macOS、Windows、ARM 的移植都是别人做的。

谁在做同一件事

项目star和它的区别
MoonshotAI/Kimi-K3 官方9,043要 GPU 集群
sqliteai/warp2,537更早更快(29 GB,0.5 token/秒),支持多个模型
deltafin857面向 Mac,1 token/秒,带 OpenAI 兼容接口
antirez/ds4、flash-moe、slotstream24.2k / 4.5k / 652同样是「从 SSD 流式跑大 MoE」,针对别的模型
llama.cpp133k通用,也能 mmap 超内存的模型,但不专为 K3 做

「SSD 流式跑超大 MoE」这条路 2026 年已经有好几家,而且 antirez 的 ds4 拿到了 2.4 万 star。K3 这一个模型上,位置已经被占满了。

如果是你

判断: 照着它再做一个「K3 跑在 X 上」没意义;值得学的是它的打法——大模型放出权重的一周之内,做一个「把它塞进不可能的硬件」的演示,用一个反差数字当标题。这个打法每次大模型发布都能用一次,但每次只有一周。

适合谁: 能写底层推理代码(C/C++/Rust、量化格式、内存映射、SIMD)的人;最好已经有一点写长文的习惯和一些关注者。

不适合谁: 写不出能真跑通的引擎的人。这类项目的 star 全靠「它真的跑了」,README 里那几行带时间和内存峰值的终端输出就是全部信用;数字是糊出来的,第一个复现的人就会拆穿你。

怎么做:

  • 现在就选好下一个目标:即将放权重的超大开源模型。提前把通用部分(权重流式读取、4-bit 专家矩阵乘、分词器)写好,权重一放出来只做适配。
  • 换一个更极端的硬件当标题:手机、树莓派、浏览器(WebGPU)、一台二手 ThinkPad。数字要能压成一句话,像「2.78T / 8 GB / 0 GPU」。
  • 或者做它没做好的部分:它慢、只认 K3、10 月以后没更新。第一个说清楚「K3.1 Pro 在 8 GB 上能跑」的仓库,能直接接住现在这波搜索。

怎么让人看到: 三件套一起放——仓库、一篇长文(讲清楚每一步内存去哪了)、一个放实测原始输出的目录;README 开头四个大数字、一张带时间的终端截图。然后让 X 上的 AI 资讯号能直接搬:给他们一句现成的话和一张图。HN 不一定有用,它在 HN 上从没超过 4 分。

什么时候之前: 权重放出后 5 天之内。它是 K3 发布后第 5 天建库的,比 warp 晚了 4 天,靠更极端的数字补了回来;再晚,话题就过去了。

什么情况说明看错了: 下一个大模型发布后一周,已经有两三个「跑在 X 硬件上」的仓库,数字比你的更夸张;或者你发出去 3 天,资讯号没人转,star 停在几百——说明这一次的反差不够,或者大家已经看腻了这种演示。

GitHub 仓库 ↗

研究底稿:竞品表、获客证据、完整研究报告
竞品
名字在哪上线规模它和这家不同在哪
MoonshotAI/Kimi-K3 官方 + vLLM/SGLang开源2026-07-279,043 star官方路线要 GPU 集群,它主打单 CPU 8 GB
sqliteai/warp(原 waste)开源2026-07-282,537 star;HN 341 分更早更快(29 GB,0.5 tok/s)、多模型可嵌入,但数字不够极端
deltafin(gavamedia / argonautlabsai)开源2026-07-28857 star;HN 138 分 + 279 分面向 Mac、四块 SSD 跑到 1 tok/s、带 OpenAI 兼容 API,讲实用
llama.cpp开源2023-03133k star通用生态,可 mmap 超内存模型,不专门为 K3 做极限内存
ktransformers开源2024-0719.7k starCPU/GPU 混合跑大 MoE,要显卡和大内存
antirez/ds4、flash-moe、slotstream开源202624.2k / 4.5k / 652 star同属 SSD 流式跑 MoE 路线,但针对别的模型
Together AI / Modal / Telnyx 等托管 K3 API其他2026-07大真要用 K3 的人走云 API,它只是演示
用户从哪来
  • 查实 X AI 资讯大号转发:Shubham Saboo、Hasan Toor 8-03,DataChaz 8-04,RoundtableSpace、MaxForAI 8-07,Kirill 8-08,文案几乎一样
  • 查实 作者 Medium 长文 + 既有从零实现系列的粉丝:levelup.gitconnected 8-03 发 94 分钟长文,仓库 homepage 指向它;作者其他库共约 2.8 万 star
  • 查实 平台事件:K3 权重 7-27 发布,8-01 建库;K3.1 Pro 权重 11-04 发布,11-03 起第二波
  • 查实 GitHub Trending + 自动内容站:11-05 全站日榜 #11、C #1;11-01 至 11-06 有 20+ 篇转载(readmex、buildtube、tokenstrom、explainx 等)
  • 推断 HN / Reddit:HN 三次提交 4/2/2 分;r/LocalLLaMA 有帖,热度未核实

FareedKhan-dev/kimi-k3-in-c:为什么能跑出来

一句话:一个 176 KB 的纯 C99 推理引擎,把 2.78 万亿参数的 Kimi K3(磁盘上 1.56 TB)从 NVMe 流式读进来,在单颗 CPU、8.24 GB 峰值内存里跑推理(8 GB 机器约 26.5 秒出一个 token)。

结论

它是一个蹭最大平台事件的「极限工程」演示品,不是一个会被人日常使用的工具。两波起量各有各的触发:

  1. 第一波(2026-08 初,0 → 约 9,000 star):Kimi K3 7-27 在 Hugging Face 放出权重(HN 1,382 分),全网都在讨论「最大的开源模型,但没人跑得动」。作者 8-1 建库、8-3 在 Medium 发 94 分钟长文,8-3 至 8-8 被 X 上一批 AI 资讯大号(Hasan Toor、Shubham Saboo、DataChaz、0xMarioNawfal/RoundtableSpace、Kirill、中文的 MaxForAI 等)几乎同一句文案转发:「2.78 万亿参数模型,一颗 CPU,8 GB 内存,无 GPU,100% 开源」。HN 本身没起作用(三次提交分别只有 4、2、2 分)。
  2. 第二波(2026-11-03 起,日增从约 10 跳到 287/452/383/538):和 Kimi K3.1 Pro 开源权重(10-23 官宣,11-04 在 HF 放出,HN 343 分、首页最高第 6)时间吻合;起量后 11-05 上 GitHub 全站日榜第 11、C 语言日榜第 1,又引来一大批自动化/半自动化内容站(readmex、buildtube、tokenstrom、freshweights、earlysignal、explainx、中韩意西语转载)和一个阿拉伯语 YouTube 视频,形成趋势榜 → 内容站 → 趋势榜的自我放大。代码自 10-02 起就没再推送,这一波不是产品更新驱动的。

差异化是叙事上的极致:同类项目(sqliteai/warp 29 GB、deltafin 跑在 M1 Max/四块 SSD 上)都在讲「能用多快」,它把数字压到「8 GB 普通笔记本」,并强调「零依赖、176 KB、8 GB 和 224 GB 输出逐字节相同」。这个「最小数字 + 最大模型」的反差本身就是可被转发的一句话文案,是它在同类里 star 最多(10,719,超过 Moonshot 官方 Kimi-K3 仓库的 9,043)的主要原因。实用性很弱:26.5 s/token、要 1.7 TB 空闲磁盘。

数据

指标数值来源
star / fork10,719 / 1,672(2026-11-06)我们 github 库 repo_day
建库2026-08-01;release v0.1.0 8-02、v1.0.0 8-07、v1.1.0 10-02GitHub API
10-17 时已有9,070 star(第一波已在 8 月完成)数据卡 daily
近 7 天+1,488(前 7 天 +74)数据卡
日增11-03 +71→11-04 +452、11-05 +383、11-06 +538repo_day
trending11-05 全站日榜 #11、C 日榜 #1、C 周榜 #2;11-06 C 日榜 #2github 库 trending
最近推送2026-10-02;11-04 起出现一批外部 PR(rudycelekli 一天十几个 fix PR、Termux/Android 指南)GitHub API
作者Fareed Khan,GitHub 3,126 粉丝,52 个库共 38,576 star;另有 train-llm-from-scratch(13,144)、all-agentic-architectures(4,677)等「从零实现」系列;Medium 长期写手(levelup.gitconnected)GitHub API / 我们库

竞品

名称形态上线规模和它的区别
MoonshotAI/Kimi-K3 官方仓库 + vLLM/SGLang 部署开源/大厂2026-07-279,043 star官方要 GPU 集群;它主打单 CPU 8 GB
sqliteai/warp(原名 waste)开源 C 引擎2026-07-282,537 star;HN 7-31「Run Kimi K3 using 29 GB of RAM at 0.50 tok/s」341 分更早、更快(0.5 tok/s)、支持多模型、可嵌入;但宣传数字是 29 GB,不够「反差」
gavamedia/deltafin(argonautlabsai/deltafin)开源2026-07-28857 star;HN 7-28 138 分、9-08「1 token/s on a MacBook Pro, streamed from four SSDs」279 分面向 Mac、带 OpenAI 兼容 API,讲实用速度
llama.cpp(GGUF + mmap)开源2023133k star通用、生态最大,能 mmap 超内存模型但不是为 K3 专门做的
ktransformers开源202419.7k starCPU/GPU 混合跑大 MoE,需要显卡和大内存
antirez/ds4、danveloper/flash-moe、carloslfu/slotstream开源202624.2k / 4.5k / 652 star同属「SSD 流式跑大 MoE」路线,针对其他模型
TimRots/kimi3 等「从零 PyTorch 实现 K3」开源2026-08小教学向,不是推理引擎
Together AI / Modal / Telnyx 等托管 API云服务2026-07大真要用 K3 的人走这里

结论:同一件事(在消费级硬件上跑 K3)7 月底就有 warp、deltafin 两家抢先,而且更快;它晚 4 天进场,靠「8 GB」这个更极端的数字和长文叙事拿走了最多关注。

增长手段(证据)

  1. X 上 AI 资讯大号同步转发(已证实,第一波主力):Shubham Saboo 8-03、Hasan Toor 8-03、DataChaz 8-04、0xMarioNawfal(RoundtableSpace)8-07、MaxForAI(中文)8-07、Kirill 8-08、MIKE 8-17、the_osps 9-09。文案高度一致(Brave 搜索 x.com 结果)。没有证据显示是付费推广,更像资讯号互相搬运。
  2. 作者自有内容渠道(已证实):Medium/levelup.gitconnected 94 分钟长文(8-03),仓库 homepage 直接指向它;作者有成系列「从零实现」爆款库的老粉丝。README 里挂着「求 AI 研究职位/读博」和 CV,说明动机是个人品牌。
  3. 平台事件(已证实时间吻合):K3 权重 7-27 发布 → 8-01 建库;K3.1 Pro 权重 11-04 发布 → 11-03 第二波起量。
  4. GitHub Trending + 自动内容站放大(已证实):11-05 上全站日榜;11-01 至 11-06 出现 20+ 篇各语种转载/解读(Exa 检索),多数是趋势榜驱动的自动站。
  5. HN / Reddit(作用很小):HN 三次提交最高 4 分;r/LocalLLaMA 有帖(内容被 403 拦,热度未核实)。
  6. YouTube:英文「KIMI K3 in C」视频和 11 月初阿拉伯语视频,播放量未核实。

为什么跑出来

  • 时机:踩中「史上最大开源权重,但没人跑得动」的集体情绪(HN K3 权重帖 1,382 分、The New Stack「few can run it」)。
  • 一句话反差文案:2.78T 参数 / 8 GB / 176 KB / 0 GPU,天然适合资讯号转发。
  • 作者是长期做「从零实现」内容的写手,有 Medium 长文 + 图示(海绵宝宝架构图)+ 实测数据目录,可信度包装完整。
  • 第二波借 K3.1 Pro 发布的搜索需求和 GitHub 趋势榜复利。

差异化及是否是原因

差异化在「数字最极端 + 零依赖可移植 + 逐字节一致的可复现叙事」,不在速度或易用。正是这个差异化(而非实用性)让它在 warp/deltafin 之后进场却拿到最多 star,所以是原因;但它也决定了 star 不等于使用——真正跑的人要 1.56 TB 下载 + 26 秒/token。

可见度

小圈子里早就在传,第二波已被广泛转载:8 月 X 上一批几十万粉级 AI 资讯号(粉丝数未逐一核实)发过;11 月有 20+ 篇多语种文章。无收入可言(开源、Apache-2.0)。

跟风者

已有同类:sqliteai/warp、deltafin 早于它;之后有 Termux/Android 移植 PR、「arm64 handset layer」PR,以及 carloslfu/slotstream 等同路线库。没有发现直接照抄它名字的库。

可借鉴

  • 大模型/大平台发布后 1 周内,做「把它塞进不可能的硬件」的极限演示,用一个反差数字做标题。
  • 长文 + 仓库 + 数据目录三件套,方便资讯号直接搬运。
  • 下一次同类模型发布(新版本权重)会给老仓库带来第二波,适配新版本能吃到。

不确定

  • 11-03 第二波具体由哪条帖子点燃未找到(x-radar 本地语料没有收录;可能是 K3.1 Pro 预期 + 某条未检索到的 X/YouTube 帖)。
  • 引擎是否支持 K3.1 Pro 权重未核实(代码 10-02 后无推送)。
  • 8 GB 跑通的真实性:README 有测量文件,第三方(Thaki Cloud 11-02 博文)称做了复现,但多数转载未重跑;实际用户数未知。

出处

文章由 AI 根据公开数据和我们每天采集的数据写成,数字带出处,推断已标明