oMLX
- 官网
- omlx.ai
- PH
- www.producthunt.com/products/omlx/launches/omlx,2026-08-30(PT),101 票(发布日 91 票)/ 日榜第 14 名 / 18 条评论库
- 一句话
- Apple Silicon 上的本地 LLM 推理服务器,把 KV cache 分页落到 SSD,让 Claude Code / Cursor 这类编码 agent 的长上下文首字延迟从 30–90 秒降到 5 秒内官网
- 团队
- Jun Kim(@jundotkim,韩语圈开发者),独立维护者,2026-09-22 加入 Hugging Face 全职做 oMLX;GitHub 账号 jundot 在库里只有这一个仓库库官网 huggingface.co/blog/omlx
- 收费
- 免费开源,Apache-2.0,官网无定价页(omlx.ai/pricing 返回 422,首页只有 Download DMG / Star 两个 CTA)官网 2026-11-02 抓取。第三方目录站 toolatlas.io 标「freemium」、stork.ai 标「Paid」,与官网和 LICENSE 不符,属目录站自动抓取的错误官网对照
- 状态判断
- 在涨(星数仍在 +30/天、11-01 还有提交、作者已被 Hugging Face 收编全职维护;但没有任何收入证据,涨的是开发者关注不是钱)
- 证据强度
- 中(GitHub 强、PH 中、HN 弱、收入/商店/Chrome 全无)
它在各库的曲线
发布之后的表现
收入:indie(TrustMRR)库里没有 oMLX,按域名 omlx.ai 和名字都查不到库。官网无定价页、无付费入口,LICENSE 是未修改的 Apache-2.0官网。第三方评测 PromptQuorum 也写明「no pricing page and no paid tier」官网 www.promptquorum.com/power-local-llm/omlx-review 。结论:目前是纯开源项目,没有可核实的收入。
用户 / 下载:App Store、Google Play、Mac App Store、Chrome 应用商店四个库里都没有它——它是 DMG + Homebrew + pip 分发的,不进商店库。官网首页自报「21000+ GitHub stars」(2026-08-30 快照)官网/自报,与 GitHub 库同期数字对得上。
开发者关注(最硬的一块):GitHub jundot/omlx,2026-11-02 23,266 星、2,086 fork,fork/star = 9%,无 suspect 标记,status「待观察」库。星数轨迹:2026-03-10 约 4,221(官网首页自报)→ 2026-07-27 18,234 → 2026-08-30 21,004 → 2026-10-12 22,735 → 2026-11-02 23,266库 + 官网 Wayback。注意增速在放缓:7-27 到 10-12 的 77 天涨 4,501(约 58/天),10-28 之后是 19–45/天(近 5 天 30/天左右)库。仓库很活跃:11-01 还有提交,3,579 次 commit、144 个 tag,最新 release v0.7.3rc1(2026-10-27),398 个 open issue、214 个 open PR库/官网。没上过 GitHub trending(trending_days_global = 0),但该库已建满 262 天,不适用「60 天内不上榜不算数」的例外,说明它靠的是搜索和生态导流,不是榜单爆发库。
讨论:HN 上只有 3 条 Show HN(2026-02-19 / 02-24 / 03-04),分数 1 / 3 / 4,评论 0 / 0 / 1,一次都没上首页库。2026-09-22 那条「oMLX 作者加入 Hugging Face」的 HN 帖在库里查不到(id 49798993 返回 No such item)库。X 本地库(560 人 core 名单)里 0 条提及 omlx,@jundotkim 也不在名单里库。热度主要在 Reddit r/LocalLLM、r/LocalLLaMA 和 Hugging Face 社区,不在 HN/X官网搜索。
官网动态:omlx.ai 从 2026-03-10 到 10-29 被 Wayback 存了 61 次,持续更新:3 月版写 macOS 14+、v0.2.11、4,221 星;8 月版改成 macOS 15+、v0.6.4、21,004 星;10 月版 v0.7.3rc1、22,987 星官网 Wayback。2026-09-22 出过一次事故:jundot 的 GitHub 账号和仓库被平台误判下架,当天恢复(Reddit r/LocalLLM「oMLX vanished?」、Hugging Face 博客评论区、以及一个 dotfiles PR 里都记录了「mistaken moderation takedown and has been restored」)官网。
自报 vs 实际
| 自报 | 来源 | 对照 |
|---|---|---|
| 「21000+ GitHub stars」(2026-08-30) | 官网首页 | 库 2026-08-30 前后约 21,004,对得上库 |
| 「22900+ GitHub stars」(2026-10-29) | 官网首页 | 库 2026-10-29 23,136,对得上库 |
| 「TTFT 从 90s 降到 5s」 | 官网 / PH tagline | 官网自己给的 benchmark 表(M3 Ultra 512GB)支持「<5s from 2nd turn」,但这是作者单机数据,无第三方复现官网 |
| 「freemium / Paid」 | toolatlas.io、stork.ai | 与官网无定价页、Apache-2.0 矛盾,判为目录站错误官网 |
没有发现夸大数字;唯一对不上的是第三方目录站给它编了收费模式。
为什么成了
它踩中了一个真实且具体的痛点:MLX 生态里 mlx-lm 只把 KV cache 放内存,编码 agent 每轮改上下文就整段重算,长上下文下首字要等几十秒。oMLX 把 cache 分页落 SSD 并跨重启保留,这是 mlx-lm / Ollama / LM Studio 当时都没有的官网 FAQ。加上原生 Swift 菜单栏 App(不是 Electron)、OpenAI + Anthropic 双协议兼容、直接读 Hugging Face 缓存不重下模型,安装摩擦极低——brew tap jundot/omlx 两行命令官网。分发路径也对:MLX 用户本来就在 Hugging Face 和 GitHub 上找工具,作者 2026-03-04 在 ml-explore/mlx 的 discussions 里首发,起点就有 110 星官网 PromptQuorum。
真正的转折是 2026-09-22 加入 Hugging Face:项目从「业余维护」变成「有薪全职 + 有公司背书」,HF 官方博客明确说会把它当新 MLX 特性的试验田官网 huggingface.co/blog/omlx。这解释了为什么 9 月之后星数还能维持 20–30/天。
没成的部分:它没有商业模式,也不打算有。23k 星换不来一分钱收入,indie 库里查无此产品库。同赛道已经很挤:Rapid-MLX 4,088 星、mlx-serve 2,265 星、vllm-mlx 1,644 星、splash 2,012 星(近 7 天还涨 206)库,而且 oMLX 自己承认起点是 fork 自 vllm-mlx官网。
对想跟的人
别把这个当成「独立开发者赚钱样本」——它 23,266 星、indie 库里收入为零,是典型的「开源换影响力、影响力换工作」路径,不是「开源换 MRR」路径。这个方向真正的空位不在再写一个 MLX server(已有 Rapid-MLX 4,088 星、mlx-serve 2,265 星、vllm-mlx 1,644 星在抢),而在它暴露出来的两个缺口:一是 398 个 open issue / 214 个 open PR 说明单人维护已经过载,「帮 MLX 项目做托管/企业支持/托管式 SSD cache 服务」是有需求的;二是 Reddit 上有人实测「32k 上下文开始激进 SSD 分页后掉到 ~9 TPS」官网 Reddit,说明 SSD 分页的性能悬崖还没解决。最大的坑是:这个赛道的上游(mlx-lm、mlx-vlm)随时可能把 oMLX 的核心特性吸收进去,HF 博客自己就说「we'd love to upstream work to wherever it makes sense」官网——你做的差异化功能,可能下一版就变成框架自带。
没查到的
- indie(TrustMRR)库里没有 oMLX,无法给出任何收入 / MRR / 订阅数 / 是否挂牌出售——它本身也不收费。
- App Store、Google Play、Mac App Store、Chrome 应用商店四个库里都没有它,没有评分数、榜位、下载量可看。
- X 本地库(core 层 560 人)0 条提及,创始人 @jundotkim 不在名单里,拿不到 X 上的互动数据;X 实时接口本次未开。
- HN 上没有任何一条关于它的高热度讨论,也没有「加入 Hugging Face」那条帖子的记录,无法判断 HN 社区对它的态度。
- 官网没有 changelog 页(只有 GitHub Releases),没有博客、没有融资公告;「加入 Hugging Face」是雇佣关系不是收购,金额未公开。
- 没有 PyPI 下载量(pypistats 查 omlx 无结果)、没有 Homebrew 安装量,无法估算真实用户规模;23k 星对应的实际活跃用户数无从核实。
档案由 agent 建(deepseek/deepseek-v4.1-flash,52 步,2026-11-01T16:44);〔库〕= 我们自己的库,〔官网〕= 当天抓的网页。