什么值得做
nyosegawa/speech.cpp · nyosegawa

新模型发布第二天,教程里只剩一个能在 Windows 上跑的:speech.cpp 怎么靠「接得快」在日本拿到 358 star

它是什么 一个装在自己电脑上的 C++ 语音工具:一行命令装好,能朗读文字、把语音转成文字、实时转写,不要 Python 和 CUDA,Mac、Windows、Linux 都能用显卡加速。

为什么火了 作者在日本 AI 圈有 1 万粉丝,每次发版发一条带视频的推;日语新模型官方只有 Python 版,它第一时间做出能直接跑的版本,Haas-ja 走红时日本教程都指向它。

B你可以怎么跟 别再做日语版,换一种语言(韩语、印尼语、阿拉伯语等)做同样的事:新模型发布几天内做出免 Python 一行安装的版本,每加一个模型发一条带视频的推,再让写教程的人知道它。

B 级:打法清楚、可以换语言照搬,MIT 协议还能直接 fork;但它自己也只在日本圈拿到几百 star,起量靠作者现成的粉丝和抢在新模型发布头几天,赛道又挤,大项目一接入窗口就关。 小圈子里在传
数据(每天更新) · 建库 2026-09-29 · 371 星 · 7 天 +92
GitHub · 星数
020040010-1110-1810-2611-0111-08371
数据 2026-10-11 → 2026-11-08(29 天,28 次观测)。10-28 以前的点来自 deeply / 存档补录,不是每天都有

2026 年 10 月 30 日,日本公司 Third Intelligence 放出了日语语音识别模型 Haas-ja-v1.0,官方代码只能在 Linux + NVIDIA 显卡上跑。第二天,日本开发者想在自己的 Windows 电脑上试试,搜到的教程几乎都在用同一个东西:一个建库才一个月的 C++ 仓库 speech.cpp。它在那之前停在两百多 star,接下来一周涨了 142 个。这篇讲它是什么、为什么是它、它的打法别人能不能学。

一台 RTX 3050 的电脑,6 小时录音 2 分 45 秒

10 月 31 日晚上,Qiita 上的 tasekino 发了一篇测评:用一块 6GB 显存的 RTX 3050,把 6 小时 10 分钟的讲座录音交给 Haas-ja 转文字,用时 2 分 45 秒,大约是 134 倍速;一句短话 0.03 到 0.04 秒出结果。他平时用的是云服务 Soniox,按小时付钱。文章的第一条结论是:

Windows でもすぐ動く。C++ 実装の speech.cpp に Windows / Vulkan 版のビルド済みバイナリがあり……WSL2 も CUDA も不要。 (Windows 上也能马上跑。C++ 实现的 speech.cpp 有 Windows / Vulkan 的现成程序……不用 WSL2,也不用 CUDA。)

他还写了一句:官方推理代码只支持 Linux + NVIDIA + NeMo,「Windows 就用 speech.cpp」。

同一时间,ai-hardware-zukan、Zenn、note 上也有几篇「在 Windows / Mac 上跑 Haas-ja」的文章,用的都是 speech.cpp 加作者自己转好的模型文件。新模型的热度顺着这些教程,流到了这个仓库上。

它是什么

说白了,是一个装在自己电脑上的「语音全家桶」:一行命令装好,一个叫 speech 的命令,既能把文字念出来(TTS),也能把声音转成文字(ASR),还带「哪段有人在说话」的检测、说话人区分和降噪。

  • 模型按名字指定,第一次用时自动从 Hugging Face 下载。模型文件都是作者自己转成 GGUF 格式、放在他的 HF 账号下的;
  • Mac 用 Metal,Windows 和 Linux 用 Vulkan,没有显卡就用 CPU,不需要 Python,也不需要 CUDA;
  • speech serve --open 打开一个网页,可以试朗读、转写,也可以对着麦克风实时出字;同一个服务提供 OpenAI 兼容接口,原本调 OpenAI 语音接口的程序,换一个地址就能改用本地模型。

支持的模型里,一半是日语特化的:Irodori-TTS(日语合成)、ReazonSpeech、parakeet-ja、Haas-ja(日语识别);另一半是 Qwen3-TTS / Qwen3-ASR 和 NVIDIA 的 Nemotron 系列。作者自己的定位写得很清楚:给语音对话、语音助手用的,所以把「第一个音出来要多久」当成主要卖点。他在 M5 Mac 上测 Qwen3-TTS 0.6B 首音 0.029 秒;Zenn 上有人在 M4 Pro 上测 Irodori-TTS,官方实现首音中位数 1.50 秒,speech.cpp 0.21 秒,差 7 倍。

做它的人

作者是逆瀬川(X 上的 @gyakuse,约 1 万粉丝),日本 AI 圈里有名的个人开发者,之前的开源项目只有几十个 star。他的打法很固定:每发一个大版本,发一条带演示视频的推。

日期发生了什么star
09-29建库,当天发 v0.1.00
10-09在自己博客发日英双语长文《speech.cpp を作ってみた話》—
10-14推文:「给 AI 助手用、首音快、安装轻、不要 Python/CUDA」,3.38 万浏览—
10-15はてなブックマーク(日本的技术书签站)32 人收藏10-16 为 129
10-17单日 +3210-18 为 180
10-19 至 10-30没有新话题,每天 0 到 5 个停在 216
10-31推文:新支持 Nemotron 说话人分离、Nemotron-3.5-Transcribe、Haas-ja-v1.0,附 1 分钟视频;4.38 万浏览、627 赞、585 收藏219
11-01单日 +60,当月最高;Haas-ja 教程集中出现279
11-06近 7 天 +142,前 7 天只有 +21358

(star 来自每日 GitHub 快照;浏览数来自 X 页面,11-06。)

收藏数和点赞数差不多,说明很多人是「先存着,回头装」。10 月 31 日那条推的回复里出现了英语和阿拉伯语用户,但从整体看,它没上过 GitHub 趋势榜,Hacker News 和 Reddit 上没有专帖,英语圈的大号和媒体也没写过它。增长几乎全部来自日本 X 和日本的技术社区(はてブ、Zenn、Qiita、note)。星的地区分布拿不到,「主要是日本用户」是按渠道推断的。

为什么是它

  1. 日语新模型只有 Python 版,它填了这个空。 Irodori-TTS、Haas-ja 这些日语模型的官方实现都是 PyTorch,Windows 用户要装 WSL、CUDA、一堆依赖。speech.cpp 一行命令装好,按名字拉模型。
  2. 接得快。 Haas-ja 10 月 30 日发布,支持它的 v0.9.3 第二天就有了,模型文件也是作者转好放上去的。写教程的人找不到第二个选择,只能用它。
  3. 发版就是内容。 38 天发了 29 个版本,几乎每个版本都多一个新模型,每个新模型都能发一条推。作者的 1 万粉丝每次给他 2 到 4 万浏览。
  4. 卖点是一个能测的数字。 「首音 0.029 秒」「比官方快 7 倍」,别人写对比文章时有东西可测,测出来的结果又替它背书。

同类很多,它只赢在日语这一块

本地语音引擎在 2026 年是个挤得很满的赛道:

谁规模和它比
whisper.cpp5.5 万 star只做 Whisper 识别,不做合成
sherpa-onnx1.6 万 star覆盖手机和嵌入式,模型更多,但日语新模型跟进慢
transcribe.cpp2,139 star,Hacker News 773 分(7 月)只做识别,16 个以上模型家族,没有日语特化
CrispASR798 star24 个识别 + 5 个合成模型,比它全,不主打日语和首音延迟
NVIDIA NeMo-Speech.cpp242 starNVIDIA 官方,只跑自家 Nemotron
mlx-audio8.2K star只能在 Apple 芯片上跑
Speaches / Kokoro-FastAPI / LocalAI3.8K / 5.6K / 5 万 star也给 OpenAI 兼容接口,但要 Python 或 Docker

(star 数来自 GitHub,11-06。)

它在模型数量上比不过 CrispASR,在名气上比不过 transcribe.cpp。它唯一的位置是:把日语新模型和 Qwen3、Nemotron 一起打包进一个不需要 Python 的程序,而且新模型出来第一时间就有。放到英语社区,这个差异不够大,所以星数涨到三百多就停在日本圈里。

目前没看到照着它做的仓库;反过来,已经有人拿它当底座:日语本地语音输入工具 OpenHinoVoice(51 star)安装说明的第一步,就是装 speech.cpp。

能学到什么

  • 盯住一种语言的新开源模型,发布当天做出「一行命令能跑」的版本。 写教程的人会替你分发,模型的热度会流到你这里。
  • 把模型自己转好放上去,命令按名字下载。 「装环境」这一步消灭掉,用户才会真的试。
  • 每个版本加一个新模型,配一条带视频的推。 发版本身就是内容,不用另想话题。
  • 给一个能复测的数字。 首音延迟、多少倍速,别人测完写文章,你就多一个入口。

如果是你

判断:值得学它的打法,但不值得再做一个日语版。日语这块它已经占住,它的星数也说明「一种语言」的天花板就在几百 star。

适合谁:会写 C++、看得懂 ggml / GGUF,能在新模型发布一两天内把它移植过来的开发者;最好自己在某个语言的开发者圈子里有点存在感(X、技术博客、本地社区都行)。

不适合谁:想靠这个赚钱的人(这一类拿到的是 star 和名气);没有任何发声渠道、发了也没人看的人,作者那 1 万粉丝和每次 2 到 4 万浏览你拿不到;追不上模型发布节奏的人,晚一周教程就都写完了。

怎么做:换一种语言。韩语、印尼语、越南语、阿拉伯语、印地语这些,都有本地团队在发自己的语音模型,官方多半也只给 Python 版(具体哪些还没有 C++ 移植,未核实)。选一种你懂、有社区的语言,把它的识别和合成模型做进一个免 Python、跨 Mac/Windows 的程序。也可以直接 fork speech.cpp(MIT 协议)往里加新语言的模型,省掉框架的活。

怎么获客:每接一个新模型,在当地开发者最常去的地方(X、当地技术博客平台、Discord)发一条带视频的推;主动给写教程的人留言,告诉他们「Windows 上这样就能跑」;在模型的 Hugging Face 页面讨论区里贴一句用法。

什么时候之前:每一次都是「新模型发布后的头几天」。整体窗口也在收窄:llama.cpp 主线已经开始支持 Qwen3-TTS,whisper.cpp、sherpa-onnx 这些大项目早晚会把热门模型接进去,到那时「只有我能跑」就不成立了(推断)。

什么情况说明看错了:你接的新模型发布一周,教程里用的是别的工具,或者模型官方自己出了 Windows 版;或者你那条发版推没有过千浏览;或者那种语言的开发者本来就习惯用云服务,没人想在本地跑。

GitHub 仓库 ↗

研究底稿:竞品表、获客证据、完整研究报告
竞品
名字在哪上线规模它和这家不同在哪
whisper.cpp开源2022-095.5 万星只做 Whisper 识别,没有合成和日语新模型
sherpa-onnx开源2022-091.6 万星ONNX 路线覆盖更广,但日语新模型跟进慢、安装更重
transcribe.cpp(handy-computer)开源2026-042,139 星,HN 773 分只做识别,无 TTS、无日语特化
CrispASR开源2026-03798 星模型更多的语音集线器,但不主打日语和首音延迟
NVIDIA NeMo-Speech.cpp大厂功能2026-07242 星只跑 Nemotron 家族;speech.cpp 把 Nemotron 也接了并加上 Qwen 和日语模型
qwentts.cpp / qwen3-tts.cpp / llama.cpp 主线 Qwen3-TTS开源2026-02~05各 200-250 星单模型 TTS 移植,不含识别和 VAD
mlx-audio开源2024-118.2K 星只限 Apple MLX,不跨 Windows/Linux
Irodori-TTS 官方开源2026-021,547 星PyTorch 官方实现,M4 Pro 首音 1.50s,speech.cpp 0.21s(Zenn 实测)
Speaches / Kokoro-FastAPI / LocalAI开源2023-20243.8K / 5.6K / 5 万星同样提供 OpenAI 兼容语音 API,但要 Python/Docker,模型不同
用户从哪来
  • 查实 作者本人 X 账号(@gyakuse,1 万粉)每次发版发推:10-14 推文 33.8K 浏览约 415 赞;10-31 推文 43.8K 浏览;11-01 置顶推文 21K 浏览
  • 查实 はてなブックマーク:32 users,集中在 10-15,对应 10-16~10-18 星数从 129 到 180
  • 查实 借新模型发布(Haas-ja-v1.0)的教程流量:Qiita、ai-hardware-zukan、Zenn、note 多篇「Windows 上跑 Haas-ja」都用 speech.cpp + GGUF,发布于 10-31~11-03,与 11-01 单日 +60 同期
  • 查实 下游项目引用:OpenHinoVoice(51 星)安装第一步就是 speech.cpp 安装命令;作者自己的 ASIST 也用它
  • 查实 作者博客与 HF 模型仓:nyosegawa.com 日英双语长文;HF sakasegawa/* GGUF 模型按名字自动下载
  • 推断 HN / Reddit / GitHub trending:hackernews 库无帖子;trending_days_any=0;Reddit 搜不到专帖

nyosegawa/speech.cpp 为什么能跑出来

渠道:GitHub | 建库 2026-09-29 | 截至 2026-11-06 约 358–366 星、22 fork | MIT | 作者 逆瀬川(@gyakuse,GitHub nyosegawa,HF sakasegawa)

一句话

一个基于 ggml 的 C++ 本地语音全家桶:一个 speech 命令 + 一个 libspeech,同时跑 TTS(Qwen3-TTS、Irodori-TTS、Drama 3)、ASR(Qwen3-ASR、ReazonSpeech、parakeet、Haas-ja、Nemotron 3.5 Transcribe)、VAD、说话人分离、降噪,自带 OpenAI 兼容服务和实时转写网页;不要 Python、不要 CUDA,Mac 走 Metal、Windows/Linux 走 Vulkan。

结论:它是一个日本圈子里有 1 万粉的 AI 开发者,靠「新模型首日就接上 + 每次发版发一条带视频的推」在日本开发者圈里跑出来的;11-01 那一波是日本新出的语音识别模型 Haas-ja-v1.0 走红,大家要在 Windows 上跑它,能直接跑的几乎只有 speech.cpp。 差异化是「日语模型 + 合成识别一体 + 免 Python 单文件安装 + 首音延迟低」,这一点确实是它起量的原因,但只在日语用户这个小圈子成立;从全球看,它在同类里规模偏小。

一、星数怎么涨的(数据卡 github 库 repo_day + GitHub releases + X)

时间星数事件
09-290建库,当天发 v0.1.0
10-09—作者博客长文《speech.cpp を作ってみた話》(日/英双语,nyosegawa.com)
10-14—推文发布 v0.8.5:「AI 助手用、TTS 首音快、安装轻、冷启动快、不要 Python/CUDA」,33.8K 浏览、约 415 赞(x.com/gyakuse/status/2110192481161949264)
10-14~10-21129(10-16)→180(10-18)はてなブックマーク收录,32 users,集中在 10-15(b.hatena.ne.jp/entry/s/github.com/nyosegawa/speech.cpp);10-17 发 v0.8.10「CLI 变可爱了」推文;10-17 单日 +32
10-19~10-30180→216平台期,每天 0–5 星
10-21—Zenn《Irodori-TTS の 7 実装を比較する》前后两篇,把 speech.cpp 列为实现之一
10-30~10-31216→219日本 Third Intelligence 放出日语 ASR 模型 Haas-ja-v1.0;speech.cpp 当天出 v0.9.3 支持它;10-31 推文「新增 Nemotron-3-Diarization、Nemotron-3.5-Transcribe-30B、Haas-ja-v1.0」带视频,43.8K 浏览,回复里出现英语和阿拉伯语用户
10-31~11-03219→324Qiita / ai-hardware-zukan / note / Zenn 一批「在 Windows 上跑 Haas-ja」的文章,全部用 speech.cpp + GGUF 跑;OpenHinoVoice(日语本地语音输入工具,51 星)以 speech.cpp 为引擎;11-01 发 v0.10.1(NVIDIA RE-USE 降噪)推文置顶,21K 浏览;11-01 单日 +60(峰值),11-03 +31
11-02—Gigazine 日文报道 Haas-ja-v1.0(没看到提 speech.cpp,未核实全文)
11-06358近 7 天 +142,前 7 天 +21

GitHub trending 一天都没上(数据卡 trending_days_any=0),Hacker News 库里没有它的帖子(hackernews 库按标题/仓库查,0 条)。Reddit 搜不到专帖。所以增长基本全是日本 X + 日本技术社区(はてブ、Zenn、Qiita、note)。stargazer 时间戳接口这次拿不到(GitHub 返回 404),星的地区分布未核实。

二、竞品(做同一件事的)

名字哪里上线规模它和 speech.cpp 不同在哪
whisper.cpp开源2022-095.5 万星只做 Whisper 识别,不做合成;日语精度不如新模型
sherpa-onnx开源2022-091.6 万星ONNX 路线,覆盖手机/嵌入式,模型多但日语新模型(Irodori、Haas)没第一时间接
transcribe.cpp(handy-computer,Mozilla.ai 宣传)开源2026-042,139 星;HN 773 分(2026-07-19)只做识别、16+ 模型家族;没有 TTS、没有日语特化
CrispASR开源2026-03798 星whisper.cpp 分叉成的「语音模型集线器」,24 个 ASR + 5 个 TTS,比它广;日语模型和首音延迟不是重点
NVIDIA NeMo-Speech.cpp大厂开源2026-07242 星NVIDIA 官方 ggml 运行时,只跑 Nemotron 家族;speech.cpp 把 Nemotron 也接了进来,还加了 Qwen 和日语模型
qwentts.cpp / predict-woo qwen3-tts.cpp / llama.cpp 主线 Qwen3-TTS开源2026-02~05200–250 星;llama.cpp 主线已支持 Qwen3-TTS 声音克隆单模型 TTS 移植;speech.cpp 是合成+识别+VAD 一体
mlx-audio开源2024-118.2K 星只限 Apple MLX;speech.cpp 跨 Mac/Windows/Linux
Irodori-TTS 官方(Aratako)开源2026-021,547 星PyTorch 官方实现;Zenn 实测 M4 Pro 首音中位数 1.497s,speech.cpp 0.214s
Speaches / Kokoro-FastAPI / LocalAI开源2023–20243.8K / 5.6K / 5 万星也提供 OpenAI 兼容语音 API,但要 Python/Docker,模型不同

没有竞品是不可能的——这个赛道 2026 年非常挤。它的位置是:唯一把日语新模型(Irodori-TTS、ReazonSpeech、parakeet-ja、Haas-ja)和 Qwen3/Nemotron 打包成一个免 Python 单文件的东西。

三、增长手段(证据)

  1. 作者本人的 X 账号(已确认):@gyakuse 1 万粉,日本 AI 圈有名的个人开发者(此前 notion-cli 57 星、agents-md-generator 38 星)。每个大版本发一条带截图/视频的推,10-14 33.8K 浏览、10-31 43.8K、11-01 21K。这是主引擎。
  2. はてなブックマーク(已确认):10-14~10-16 收 32 users,对应 10-16~10-18 的第一段上涨。
  3. 借新模型发布的东风(已确认):Haas-ja-v1.0 10-30 前后发布,官方只有 PyTorch;speech.cpp 当天出 GGUF + 支持,日本博主写「Windows 上怎么跑 Haas-ja」时都用它(Qiita tasekino、ai-hardware-zukan、Zenn airtanker、note senfxn),等于新模型的流量顺着教程流到 speech.cpp。11-01 单日 +60 与此同期。
  4. 下游项目引用(已确认):OpenHinoVoice(iiinno,51 星)把 speech.cpp 当识别引擎,安装步骤第一条就是 speech.cpp 的一行安装命令;作者自己的 ASIST(桌面语音助手)也用它。
  5. 博客 + 自写 HF 模型仓(已确认):nyosegawa.com 日英双语长文;所有模型由作者转成 GGUF 放 HF(sakasegawa/*),命令按名字自动下载——HF 模型页本身也是入口(未核实流量)。
  6. 第三方 benchmark 文章(已确认):Zenn 上有人把它和官方实现对比测速,给出「首音 7 倍快」的说法,替它背书。
  7. 没找到 HN、Reddit 专帖、GitHub trending、英语大号转发的证据。

四、为什么跑出来

  • 作者自带 1 万粉日本 AI 圈的分发,每次发版推文 2–4 万浏览,第一波 129 星就是博客 + 推文 + はてブ带的。
  • 抓住了「日语新模型只有 Python 版」的空档:Irodori-TTS、Haas-ja 等日语模型都是 PyTorch,Windows 用户跑起来痛苦;speech.cpp 提供一行命令安装、按名字拉模型,还第一天就跟进新模型。
  • 第二波(11-01 起)明确是 Haas-ja-v1.0 走红带来的:日本博主想在 Windows 上试 Haas-ja,教程里都是 speech.cpp。
  • 发版节奏极快:38 天 29 个 release(v0.1.0→v0.10.1),每个版本都有新模型可发推,持续给推文素材。
  • 定位清晰:「给语音助手用的」——首音 0.029s(Qwen3-TTS 0.6B,M5)、冷启动快、OpenAI 兼容 API 换 base URL 就能用。

五、差异化

它不比 whisper.cpp / sherpa-onnx / transcribe.cpp / CrispASR 模型多,而是:(1) 合成 + 识别 + VAD + 分离 + 降噪一个二进制;(2) 日语模型第一时间支持,而且作者亲自转 GGUF;(3) 把首音延迟当卖点,配网页试用和实时转写;(4) 每个阶段都和官方实现对齐校验。其中「日语模型 + 免 Python 安装」是它起量的直接原因,别的几点是留住开发者的理由。放到全球英语社区,它的差异不够大(CrispASR、transcribe.cpp 更出名),所以星数到 300 多就停在日本圈。

六、可见度与跟风

  • 可见度:小圈子里在传——日本 X、はてブ 32 users、Zenn/Qiita 若干篇教程;没上 HN、没上 GitHub trending、没看到英语大号或媒体写它(Gigazine 写的是 Haas-ja 模型本身)。
  • 跟风者:没看到直接抄它的项目;已有下游项目基于它(OpenHinoVoice)。同类「xxx.cpp 语音引擎」本来就多,算不上跟风它。

七、别人能借鉴的

  • 本地 AI 工具的打法:盯一个语种/地区的新开源模型,发布当天做出「一行命令就能跑」的版本,教程作者会替你分发。
  • 每个版本配一个新模型 + 一条带视频的推,让发版本身就是内容。
  • 自己把模型转好格式放 HF,命令按名字下载,把「装环境」这一步消灭掉。
  • 卖点用一个可测的数字(首音 0.029s / 7 倍快),方便别人写对比文章。

八、还不确定的

  • stargazer 地区分布和时间戳没拿到(GitHub 接口 404),「主要是日本用户」是根据渠道推断。
  • 11-01 那 60 星里有多少来自 10-31 推文(有英语用户回复)、多少来自 Haas-ja 教程,分不清。
  • 有没有 NVIDIA 相关账号转发 Nemotron 支持的推,未核实。
  • 实际使用量(Release 下载数、HF 模型下载数)没查。

出处

文章由 AI 根据公开数据和我们每天采集的数据写成,数字带出处,推断已标明