「我们在 LiteLLM 上包了 10 万行代码」:一家 YC 公司把自家网关开源成 Rust,42 天 570 star
它是什么 一个用 Rust 写的单文件程序,让你用同一个地址、任意一家的 SDK 调 OpenAI、Anthropic、Gemini 等十几家模型,背后是一家卖托管平台的 YC 公司。
为什么火了 它讲了一个用过 LiteLLM 的人都有共鸣的「为什么重写」故事,发布第二天 LiteLLM 正好被投毒;YC 的 Launch HN、当天的媒体稿、dev.to 推广号和 Rust 圈账号接力,一点点把 star 推了上去。
C你可以怎么跟 别再做一个通用 LLM 网关。学它的发布方法:准备一句话能讲完的「为什么重写」故事、README 放点名对比表和一行安装,做网关周边大项目没做好的小块(比如跨厂商成本核算)。
- 数据(每天更新) · 建库 2026-09-25 · 598 星 · 7 天 +169
GitHub · 星数 数据 2026-10-22 → 2026-11-08(18 天,18 次观测)。10-28 以前的点来自 deeply / 存档补录,不是每天都有
Respan Gateway 是一个用 Rust 写的开源 LLM 网关:一个程序,OpenAI、Anthropic、Gemini 等十几家模型从同一个地址调用,用哪家的 SDK 都行。它不是哪个独立开发者的业余项目,做它的是 YC W24 的公司 Respan(前身 Keywords AI,2026 年 3 月拿了 $500 万种子轮),开源网关是免费的那部分,钱在它的托管平台上。9 月 25 日建库,到 11 月 6 日 570 star、86 个 fork(GitHub,11-06)。在这个赛道里这个量级很小,但它怎么拿到这 570 个 star,值得想给自己的开源项目要 star 的人看一看。
一个关于「升级就崩」的故事
2026 年 10 月 20 日,Respan 的 Andy 在 Hacker News 上发了一篇 Launch HN。开头不讲技术,讲了一段经历:「我们从 2024 年起就在 LiteLLM 上搭网关,现在给几千个组织提供服务。每个组织要的 key、路由、限额都不一样,我们就一层层往 LiteLLM 外面包,包到后来,外层代码超过了 10 万行。」「今年 1 月,一次例行的 LiteLLM 升级带来了时有时无的连接错误,只能回滚。到现在也没查清原因。从那以后我们不敢直接升级,只能手动把上游的修复一条条搬过来。」
LiteLLM 是这个领域的事实标准(62.8k star),用过它的人对这段话都有共鸣。同一天,The New Stack 发了一篇报道,标题几乎就是这段话:「Respan 在 LiteLLM 上搭了两年,一次升级让它从头再来。」之后 AI Weekly、daily.dev 和一串聚合站照着这个故事又转了一遍。
第二天,10 月 21 日早上,LiteLLM 的发布流程被攻破,v1.107.0 在 PyPI 和 Docker 上挂了大约两个小时,包里带着偷凭证的木马(LiteLLM 官方事件页)。这是 LiteLLM 今年第二次出这种事,3 月已经被投毒过一次。10 月 23 日微软安全博客也发了分析。一个握着你所有模型 API key 的 Python 代理,突然成了大家都在担心的东西。Respan 前一天刚讲完「LiteLLM 靠不住,所以我们用 Rust 重写」,还写着核心只依赖 5 个包。没找到 Respan 官方出面拿这次事故说事,但时间点等于替它做了宣传。
它到底是什么
一个单文件的 Rust 程序,pip install respan-gateway 一行装好,设了哪家的 key,哪家就能用,不用写配置文件。几个卖点:
- 四种协议互相翻译:OpenAI Chat、OpenAI Responses、Anthropic Messages、Gemini,客户端用哪种都行。README 里的示例是「用 Anthropic 的 SDK 调 GPT」。
- 跨厂商实时语音:写给 OpenAI Realtime 的应用,能通过它接到 Gemini Live(Launch 帖自己也说不是所有功能都能对上)。
- 网关上挂 MCP 工具:普通聊天请求也能用上工具,应用本身不用实现 MCP。
- 一切皆插件:照 Nginx 的思路,内核很小,厂商、协议、重试回退都是插件。加一家厂商只要一个短文件,Mistral 那个只有 22 行。
README 里有一张点名对比表:Respan 附加延迟 0.07ms、每秒 56,734 个请求、占 31MB 内存;LiteLLM(单 worker)是 4.34ms、268 个、418MB。这些数字都是它自己测的,页面上没写测法(theterminal.space 10-23 专门指出了这点),而且 Launch 帖自己说项目还是 pre-alpha。
HN 上的评论大多冲着插件设计:插件是编译进程序的 Rust crate,不是运行时加载。有人说这样每加一个插件都得自己编译,发布时连现成的 Docker 镜像都没有;还有人说,把第三方 crate 编进一个握着所有 key 的进程,本身就是供应链风险。有人直接问代码是不是 AI 写的,Andy 回答:「是,我们用 Claude 生成代码,但每一行都自己看过。」提交记录里,一个人写了 436 次,第二名只有 10 次(GitHub contributors)。
star 是怎么来的
| 日期 | 发生了什么 | star |
|---|---|---|
| 09-25 | 建库 | 0 |
| 10-20 | v0.1.0 上 crates.io;Launch HN 53 分、24 条评论;The New Stack 报道;公司和员工发 LinkedIn | – |
| 10-21 | LiteLLM v1.107.0 被投毒 | – |
| 10-21~26 | dev.to 上六七个账号集中发「我试了 Respan Gateway」 | 10-22:113 |
| 10-23 | 微软发 LiteLLM 事故分析 | 134 |
| 10-25 | v0.3.0 | 216 |
| 10-26 | Rust 圈账号 Rust Bytes 发推介绍 | 292(+76,最高的一天) |
| 10-27~11-06 | 每天 +15~40 | 570 |
(star 来自 GitHub 每日数据)
这条曲线上没有一次真正的爆发,最好的一天才 +76,是好几处小推力叠在一起。其中几处明显是安排好的:
- YC 的 Launch HN。这是 YC 公司才有的位置。53 分不算高,评论区还有人问「为什么整个帖子都是机器人?」;确实有好几条评论是格式整齐的长篇「插件边界比插件数量更重要」,有没有人带节奏没法核实。
- dev.to 上的推广号。10 月 21 到 26 日,Dev Stack Hub、Elsie Rainee、Sidra Jefferi 等六七个账号先后发了几乎同题的帖子。翻这些账号的其他文章,同一时期也在发「爬虫代理」「11 款 vibe coding 工具」之类,好几篇 0 赞,很像代理商帮几个客户一起代发推断。
- 当天就有媒体稿。The New Stack 那篇当天就出来了,讲的正是 Launch 帖里那个故事。
近 7 天 +176,前 7 天 +260,已经在放缓。真用的人也不多:PyPI 上周下载 423 次,crates.io 总共 40 次(pypistats、crates.io,11-06)。
挤不挤:这是开源里最挤的赛道之一
| 项目 | 形态 | 规模(11-06) | 和 Respan 比 |
|---|---|---|---|
| LiteLLM | Python,2023 | 62.8k star | 事实标准;10-26 宣布核心链路改 Rust,12 月前完成 |
| OmniRoute | 2026-02 | 84.8k star | 给编码 agent 聚合免费额度,用户是个人 |
| new-api / one-api | Go,2023 | 51k / 37k star | 中文圈的分发、转售面板 |
| Portkey gateway | TS + 托管 | 13.3k star | 同样是「开源网关 + 托管可观测」,最直接的对手 |
| TensorZero | Rust,2024 | 11.7k star | 也是 Rust,偏模型优化和实验 |
| Bifrost | Go + 托管 | 9.4k star | 也拿性能当卖点,是 README 对比表里的靶子 |
| agentgateway | Rust,Linux 基金会 | 6k star | 中立项目,MCP/A2A 原生 |
| Helicone ai-gateway | Rust,2025-04 | 642 star | 几乎同一个定位:可观测公司出品、Rust,一年多只有 642 |
| antirion | 2026-10-17 | 538 star | 同一周出现,话术也一样:「最快、单文件、自带控制台」 |
(star 来自 GitHub,11-06)
Helicone 那一行最值得看。同样是 Rust,同样是做可观测的公司出品,一年半只攒到 642 star。光是「Rust 写的网关」,换不来 star。Respan 多出来的,是一个人人能复述的故事、一个刚好撞上的事故,和一整套 YC 公司的发布动作。
你能跟吗
能抄的东西很具体:
- 一句话能讲完的「为什么重写」。「包了 10 万行、一次升级就崩」,媒体能直接拿去当标题。它点名的是行业老大,用过老大的人都会点头。
- README 当产品页写。放一张点名对比表,一行安装零配置,再加一个「用 A 家 SDK 调 B 家模型」这种让人一愣的示例。
- 发布当天多处同时推,别指望一个帖子爆。
- 叙事提前写好,等时机。老大出事故的那天,你的故事已经在外面了。
抄不走的东西更多:YC 的 Launch HN 位置、当天就能约到的媒体、给几千个组织跑过的生产经验、一家公司的人力。而且这个赛道里,几万 star 的项目已经有五六个,LiteLLM 也宣布了 Rust 化,「Python 慢、不安全」这张牌很快就不好打了。
如果是你
C:能学一套发布方法,但别再做一个 LLM 网关。 这 570 个 star 是一家 YC 公司靠一套发布动作、加上竞品出事故的时机挣来的,换成一个人做同样的东西,大概率是 Helicone ai-gateway 那条曲线。
适合谁:已经有一个开源项目,而且正好能讲出一个「我们被某个老牌工具坑过,所以重写」的真实故事;身边有一两个语言社区账号、媒体或 YC 这类渠道能帮着推。
不适合谁:想从零写一个通用 LLM 网关拿 star 的(LiteLLM、Portkey、Bifrost、agentgateway 都在,antirion 同一周就冒出来了);没有渠道、打算「写好了等人发现」的。
怎么做:要做就做网关周边、大项目没做好的小块,别做整个网关。HN 评论区里有两个问题没人答好:一是跨厂商的 token 用量和成本对不上(Groq 把用量放在自己的字段里,Mistral 流式输出不给用量),二是想要一个按需勾选插件、在线打包的构建页。做一个专门解决其中一个问题、能挂在任何网关前后的小工具,README 照 Respan 的格式写:点名对比、一行安装、一个反直觉的示例。
怎么获客:首发帖先讲你被坑的那一次,再讲你的东西。HN 自己发一次,同时发到 r/LLMDevs、r/rust 和对应的语言社区账号。下一次 LiteLLM 或别的大网关出事故,在事故帖下面把你的东西说清楚,时机比文案重要。
死线:LiteLLM 说 12 月前把核心链路改成 Rust。在那之前,「Python 网关慢、依赖多」还能当故事讲推断;之后就要换一个说法。
什么情况说明看错了:① Respan Gateway 在 11 月底前重新加速,周增长回到 300 以上,而且不是靠新一轮推广,说明产品本身在被自发传播,那这个赛道里还有一个人做的空间;② 某个个人做的网关周边小工具(比如成本核算)一个月内拿到上千 star,说明「做周边」这条路比这里判断的更宽。
研究底稿:竞品表、获客证据、完整研究报告
- 竞品
名字 在哪 上线 规模 它和这家不同在哪 LiteLLM 开源 2023-07 62.8k 星,周 +456 Python 事实标准,Respan 从它迁出;两次供应链投毒是 Respan 叙事的靶子,但 LiteLLM 已宣布 12-01 前 /v1/messages 全 Rust Portkey gateway 开源 2023-08 13.3k 星 同样「开源网关 + 托管可观测」模式,TS 写的;Respan 主打插件内核和性能 Bifrost (Maxim) 开源 2025-03 9.4k 星,周 +184 Go,同样打性能和 MCP 网关;Respan README 拿它当对比靶子 TensorZero 开源 2024-07 11.7k 星 同为 Rust,偏优化/实验闭环而非插件化接入 agentgateway 开源 2025-03 6k 星,周 +181 Rust、Linux 基金会中立项目,MCP/A2A 原生;Respan 是公司产品并回流自家 SaaS Helicone ai-gateway 开源 2025-04 642 星 几乎同定位(Rust + 可观测公司出品)但没做发布攻势,星数停滞 OmniRoute 开源 2026-02 84.8k 星,周 +2283 面向编码 agent 的免费额度聚合,C 端用途 new-api / one-api 开源 2023 51k / 37k 星 中文圈分发转售面板 mozilla-ai otari / any-llm 开源 2026-04 / 2025-07 845 / 2.2k 星 大机构轻量网关,无跨协议互译与语音 antirion 开源 2026-10-17 538 星,周 +83 同期同话术(最快、单二进制、自带控制台),个人项目,无公司托管业务 OpenRouter / Vercel AI Gateway / Cloudflare AI Gateway 大厂功能 2023-2025 大 只能托管不能自托管;Respan 官网专门对比这一点 Kong / Envoy AI Gateway / APISIX / Higress 开源 早 万级星 传统 API 网关加 AI 插件,偏运维团队 - 用户从哪来
- 查实 YC Launch HN:2026-10-20 Launch HN 53 分 24 评(item 50167583);评论区有人质疑「thread full of bots」
- 查实 科技媒体与聚合站同日铺稿:The New Stack 10-20 报道;AI Weekly、Tech Debrief、PromptZone、daily.dev、explainx、diffvibe、theterminal.space 等 10-20~10-25 转述同一个「10 万行 LiteLLM 包装」故事
- 查实 dev.to 推广号矩阵:devstackhub、elsie-rainee、sidra-jefferi、devers、debugtodeploy、mayur-upadhyay 10-21~10-26 集中发 Respan 帖,同期同步发爬虫代理、vibe coding 工具等同题材内容,多篇 0 赞,像代理商代发
- 查实 LinkedIn 公司与员工帖:Respan 公司页「Open-sourcing Respan Gateway」、Hendrix Liu 帖,10-20
- 查实 Rust 社区 X 账号:Rust Bytes(@rustaceans_rs)10-26 02:20Z 推文,当日 +76 为峰值
- 推断 竞品事故借势:LiteLLM v1.107.0 于 10-21 被投毒、微软 10-23 发分析,紧接 Respan 发布;未见 Respan 官方直接蹭事件的帖
- 推断 Reddit 技术帖:r/mlops「How a small, decoupled LLM gateway compares…only 31MB」、r/LLMDevs「5 OpenAI-compatible lies…」疑为团队所发,正文 403 未读到
- 推断 公司既有客户与 YC 网络:自称网关服务数千组织、2026-09 赞助 Gradient VC × DeepMind 黑客松
respanai/respan-gateway 为什么能跑出来
研究日期 2026-11-06。数据来源:我们的 github 库(repo_profile / 数据卡 daily,2026-10-22 起)、GitHub API、HN Algolia、Jina/Exa 搜索、dev.to API、PyPI/crates.io 统计。
一句话结论
这不是一个「野生开源项目自己火了」的故事,而是 YC W24 公司 Respan(前身 Keywords AI,2026-03 融了 $5M 种子轮)给自家托管网关做的开源获客件:10-20 发 Launch HN + 同日铺媒体/LinkedIn/dev.to 软文,第二天(10-21)LiteLLM 发布管道再次被投毒,把「我们因为 LiteLLM 不稳重写成 Rust」这个叙事一下变成了时事;10-26 被 Rust 圈账号 Rust Bytes 转发,单日 +76 星,之后靠持续的内容铺量维持每天 +15~40 星。星数 570(42 天),在 LLM 网关这个赛道里是很小的量级。
1. 它是什么
- 单个 Rust 二进制的 LLM 网关:OpenAI Chat / Responses、Anthropic Messages、Gemini 四种协议互译,接 16 家厂商 + 任意 OpenAI 兼容端点;跨厂商 Realtime 语音互通(OpenAI Realtime 客户端 ↔ Gemini Live);把 MCP 工具挂在网关上,普通 chat 请求也能用工具(tool loop);路由/回退/重试/hedged requests;本地 Web UI 请求日志;「一切皆插件」,Mistral provider 只有 22 行。(README,github.com/respanai/respan-gateway)
- 自报基准:附加延迟 p50 0.07ms、56,734 req/s、31MB 内存,对比 Bifrost 0.16ms/18,182/s/488MB、Portkey、LiteLLM(1 worker)4.34ms/268/s。全是厂商自测,无方法论(theterminal.space 10-23 文章专门指出,且 Launch HN 帖自称 pre-alpha)。
- 商业模式:开源是免费部分;钱在 respan.ai 托管版——1000+ 模型统一计费(官网挂「GPT-6.1 Terra 7 折、DeepSeek 5.5 折」之类折扣)、可观测性、evals、红队。开源网关的
[plugins.respan]直接把 trace 发回 Respan 平台。(https://www.respan.ai/ai-gateway)
2. 增长数据与时间线
| 日期 | 事件 | 星数(数据卡 daily) |
|---|---|---|
| 09-25 | 建库 | – |
| 10-19/20 | v0.1.0、crates.io 发布(10-20 03:40Z) | – |
| 10-20 15:09Z | Launch HN: Respan (YC W24) – Open-source Rust AI gateway built around plugins,53 分 / 24 评论(HN item 50167583) | – |
| 10-20 | 同日 The New Stack 报道「Respan spent two years building on LiteLLM. One upgrade made it start over」;公司与员工 LinkedIn 帖;explainx、pocketgazette、diffvibe、grafy、daily.dev 等聚合站转载 | – |
| 10-21 | LiteLLM 发布管道被攻破,v1.107.0 PyPI/Docker 带窃密木马(LiteLLM 官方事件页);这是 LiteLLM 2026 年第二次供应链事故(3 月 1.82.7/1.82.8 已被 TeamPCP 投毒) | – |
| 10-21~10-26 | dev.to 上 6+ 个账号集中发「Exploring Respan Gateway」类帖 | 10-22: 113 |
| 10-23 | 微软安全博客发 LiteLLM 1.107.0 分析;theterminal.space 读到时 141 星 | 10-23: 134 |
| 10-25 | v0.3.0 发布 | 10-25: 216(+50) |
| 10-26 02:20Z | Rust Bytes(@rustaceans_rs)发推介绍;同日 LiteLLM 宣布 /v1/messages 全链路 Rust 化 | 10-26: 292(+76,峰值日) |
| 10-27~11-06 | 每天 +15~40 | 11-06: 570,fork 86 |
- 近 7 天 +176,前 7 天 +260,在放缓(数据卡)。GitHub API 11-06 读数 582 星 / 90 fork / 36 watcher。
- 真实使用量很小:PyPI
respan-gateway上周下载 423、昨日 31(pypistats);crates.io 总下载 40。 - 提交几乎是一个人写的:lihe07 436 次提交,第二名 10 次(GitHub contributors)。创始人在 HN 承认「用 Claude 生成代码、我们逐行审过」。
3. 竞品
LLM 网关是极度拥挤的赛道(我们 github 库,2026-11-06):
| 产品 | 形态 | 上线 | 规模 | 和 Respan 的不同 |
|---|---|---|---|---|
| LiteLLM (BerriAI) | 开源 Python | 2023-07 | 62.8k 星,周 +456 | 事实标准;Respan 就是从它迁出来的。两次供应链投毒 + 10-26 宣布核心改 Rust,正面回应「Python 慢」的攻击 |
| OmniRoute | 开源 | 2026-02 | 84.8k 星,周 +2283 | 面向编码 agent 的免费额度聚合,定位 C 端白嫖,和企业网关不是一拨人 |
| new-api / one-api | 开源 Go/JS | 2023 | 51k / 37k 星 | 中文圈分发/转售面板 |
| CLIProxyAPI | 开源 Go | 2025-07 | 57.7k 星 | 把订阅账号变 API,不同用途 |
| Portkey gateway | 开源 TS + 托管 | 2023-08 | 13.3k 星 | 同样是「开源网关 + 托管可观测」的商业模式,Respan 的直接对标 |
| Bifrost (Maxim) | 开源 Go + 托管 | 2025-03 | 9.4k 星,周 +184 | 同样主打性能基准、MCP 网关;Respan 在 README 里拿它当对比靶子 |
| TensorZero | 开源 Rust | 2024-07 | 11.7k 星 | 同是 Rust,偏优化/实验闭环 |
| agentgateway (Linux 基金会) | 开源 Rust | 2025-03 | 6k 星,周 +181 | Rust、MCP/A2A 原生,厂商中立 |
| Helicone ai-gateway | 开源 Rust | 2025-04 | 642 星 | 几乎同样定位(Rust + 可观测公司出品),但没起来——说明「Rust 网关」本身不是星数保证 |
| Envoy AI Gateway / Kong / APISIX / Higress | 开源 API 网关插件 | 早 | 万级星 | 传统 API 网关加 AI 插件 |
| mozilla-ai otari / any-llm | 开源 | 2026-04 / 2025-07 | 845 / 2.2k 星 | 大机构出品的轻量网关 |
| antirion | 开源 | 2026-10-17 | 538 星,周 +83 | 几乎同期、同话术(「最快、单二进制、自带控制台」) |
| OpenRouter / Vercel AI Gateway / Cloudflare AI Gateway | 托管 / 大厂功能 | – | 大 | 不能自托管;Respan 官网专门写了「OpenRouter 不能自己跑」 |
4. 用户从哪儿来(增长手段)
- YC Launch HN(确认):10-20 帖 53 分。YC 公司的 Launch HN 能保证上首页一段时间。评论区有人直接问「why is this entire thread full of bots?」,不少评论是格式化的「plugin boundary matters…」类长文,疑似有人带节奏(未核实)。
- 媒体/聚合站同日铺稿(确认):The New Stack 当天出稿(有记者采访叙事),之后 AI Weekly、Tech Debrief、PromptZone、daily.dev、explainx、diffvibe、grafy、pocketgazette、theterminal.space(两篇)等。多数是聚合/AI 生成站点,统一复述「10 万行 LiteLLM 包装代码」这个故事——这是一个精心准备、可复述的创始故事。
- dev.to 软文矩阵(确认,高度疑似付费):Dev Stack Hub、Elsie Rainee、Sidra Jefferi、Devers、Vinay Shah(debugtodeploy)、Mayur Upadhyay 在 10-21~10-26 集中发「Exploring Respan Gateway / plugin-first」帖。查 dev.to API,这几个号同一时期还同步发「爬虫代理层」「11 款 vibe coding 工具」「AI design-to-code 工具」「Truth or Dare 开发者版」等同题材内容,Devers、debugtodeploy 每篇 0 赞——是典型的代理商推广号矩阵,一次给多个客户发稿。
- LinkedIn(确认):公司号「Open-sourcing Respan Gateway: the last AI gateway you'll have to switch to」+ 员工 Hendrix Liu 帖,10-20。
- Rust 社区账号(确认):Rust Bytes 10-26 推文,对应全周期最大单日 +76。是否付费未知。
- 时事借势(确认时间重合,未见官方直接蹭):LiteLLM 10-21 被投毒、10-23 微软发文,正好在 Respan 发布后一天;Respan 的整个叙事就是「LiteLLM 不可靠所以我们重写」。没搜到 Respan 官方发文直接蹭这次事件,但 Reddit r/mlops、r/LLMDevs 上有「How a small, decoupled LLM gateway compares to the large ones: only 31MB…」「5 OpenAI-compatible lies we ran into building an AI gateway」等帖,口吻是团队自发(Reddit 无法读正文,作者未核实)。
- 公司既有存量(推断):Respan/Keywords AI 自称服务「数千个组织」、100+ 企业客户,YC 校友网络与 2026-09 赞助 Gradient VC × Google DeepMind 开源模型黑客松(X 上 DynamicWebPaige 等帖)带来的圈内曝光。
5. 为什么能跑出来
- 有一个好复述的创始故事 + 好时机:「在 LiteLLM 上包了 10 万行、一次升级就崩、只能手动回补」——每个用过 LiteLLM 的人都有共鸣;发布次日 LiteLLM 再次被投毒,「把握所有 API key 的 Python 代理有供应链风险」成为热点,Rust 单二进制、核心 crate 只有 5 个依赖的说法正好对上。
- YC 公司的发布机器:Launch HN + 当天媒体稿 + LinkedIn + dev.to 矩阵 + Rust 圈账号,不是自然传播。星数曲线也印证:没有一次真正的爆发(峰值单日 76),是多点小推叠加。
- README 写得像一个产品:一张对比表直接点名 LiteLLM / Bifrost / Portkey 并全面领先;
pip install一行起、无需配置;「用 Anthropic SDK 调 GPT」的示例直击痛点;hero 图 + 演示视频。 - 功能面确实宽:跨厂商 Realtime 语音、给任意模型挂 MCP 工具、hedged requests,这几项在开源网关里少见。
6. 差异化
- 宣称的差异:(a) Nginx 式「小内核 + 一切皆插件」,协议/厂商/特性都能自己写 crate 加;(b) 四种客户端协议双向互译,不只是「OpenAI 兼容」;(c) 跨厂商实时语音;(d) MCP tool loop 让任何模型用工具;(e) 性能与内存。
- 是不是它跑出来的原因:部分是。HN 讨论集中在插件模型(编译期 crate,非 WASM/动态加载)上,说明架构是讨论点;但星数主要来自发布与内容分发,而且量级(570)在这个赛道微不足道——同为「Rust + 可观测公司出品」的 Helicone ai-gateway 只有 642 星,TensorZero、agentgateway 都远大于它。差异化不足以单独解释增长,解释增长的是「YC 发布 + LiteLLM 事故时点 + 付费内容铺量」。
- 风险:性能数据未经第三方验证;项目自称 pre-alpha;编译进进程的第三方插件反而是 HN 上被质疑的供应链面;LiteLLM 已宣布 12-01 前 /v1/messages 全 Rust 化,性能优势窗口会收窄。
7. 可见度
小圈子里在传:有 Launch HN 和 The New Stack 一篇正经报道,其余是聚合站与推广号;X 上我们的语料里几乎没有讨论(x-radar 搜「respan gateway」0 条)。这是 B2B 开源获客件,没有「收入公开」这回事;公司 2026-03 的 $5M 融资是公开的(SiliconANGLE)。
8. 跟风者
没有发现抄它的。同期出现的 antirion(10-17 建库,「最快、单二进制」话术相同)是平行竞品,不是跟风。反倒是老大 LiteLLM 在 10-26 发了 Rust 迁移计划,算是对这类攻击的回应。
9. 可借鉴
- 给开源项目准备一个能被一句话复述的「为什么重写」故事,并点名行业老大的痛点;媒体和聚合站会照抄这个故事。
- README 放点名对比表(即使是自测)+ 零配置一行启动 + 「用 A 家 SDK 调 B 家模型」这类反直觉示例。
- Launch HN 同日协调 LinkedIn、科技媒体、dev.to 推广号、语言社区账号(Rust Bytes),多点小推叠成持续曲线。
- 开源件里内置回流自家 SaaS 的插件(
[plugins.respan]发 trace),开源星数直接是托管业务的漏斗。 - 竞品出事故时你的叙事已经就位——时机可遇不可求,但叙事可以提前写好。
10. 不确定
- Rust Bytes 推文、dev.to 矩阵是否付费:dev.to 账号行为高度像代理商,但无直接付费证据。
- HN 评论区「bots」指控未核实。
- Reddit 帖作者与热度(Reddit 403 读不到)。
- 星标时间分布:GitHub stargazers 接口对该仓库返回 404,无法逐日核对 10-20~10-21 的星数和是否有刷星。
- 托管业务因此带来多少注册/收入,无公开数据。
出处
- 仓库 README / releases / contributors:github.com/respanai/respan-gateway
- Launch HN:news.ycombinator.com/item?id=50167583
- The New Stack:thenewstack.io/respan-rust-ai-gateway/
- theterminal.space 基准核查:theterminal.space/software/respan-gateway-rust-llm-gateway-p…
- LiteLLM 10-21 事件:docs.litellm.ai/blog/security-incident-oct-21-2026 ;微软分析:www.microsoft.com/en-us/security/blog/2026/10/23/inside-the-…
- LiteLLM Rust 迁移:docs.litellm.ai/blog/rust-migration-rerouted
- Rust Bytes 推文:x.com/rustaceans_rs/status/2114542657032671704
- dev.to 帖:dev.to/devstackhub/i-explored-respan-gateway-a-plugin-first-… 等(作者 devstackhub / elsie-rainee / sidra-jefferi / devers / debugtodeploy / mayur-upadhyay)
- 融资:siliconangle.com/2026/03/18/respan-raises-5m-bring-proactive… ;YC 页:www.ycombinator.com/companies/respan
- 托管业务:www.respan.ai/ai-gateway
- PyPI 下载:pypistats.org/api/packages/respan-gateway/recent
- 竞品星数:我们的 github 库 repo_profile,2026-11-06