什么值得做
syv-ai/HyperQwen · syv-ai

模型发布当晚开工:一个"vLLM 补丁包"怎么在 83 天拿到 2,563 个 star

它是什么 一套 vLLM 补丁加量化流水线和现成配置,让 Qwen3.8-27B 在一张 24GB 的 3090 上一条 docker 命令就跑到单人 127 tok/s、64 路并发合计约 1,035 tok/s。

为什么火了 模型发布当晚就有了能直接用的答案,回答的是本地玩家最关心的「我的卡能跑多快」;作者在 r/LocalLLaMA 连载着刷新数字,10 月又被「82→381 tok/s」的标题带起一波转载。

B你可以怎么跟 别去抢 Qwen3.8-27B on 3090;等下一个热门开源模型发布,当天替最常见的那张卡(或 HyperQwen 没测过的 16GB 卡、AMD、苹果芯片)做出最快的现成方案,照它的 README 结构写清楚数字和坑,在 r/LocalLLaMA 连载发帖。

B 级:打法清楚、可复制,r/LocalLLaMA 也一再证明会给这类项目 star;但原位置已被占、跟风者已经出现,下一次机会要等模型发布,还得有真正的推理优化手艺、在一两天内拿出赢过 llama.cpp 的数字,门槛和时机都要赌。 小圈子里在传
数据(每天更新) · 建库 2026-08-15 · 2,605 星 · 7 天 +145
GitHub · 星数
1.5k2k2.5k09-2810-1610-2410-3111-082.6k
数据 2026-09-28 → 2026-11-08(42 天,32 次观测)。10-28 以前的点来自 deeply / 存档补录,不是每天都有

2026 年 8 月 14 日,阿里把 Qwen3.8-27B 放上 Hugging Face。当晚 22:18(UTC),丹麦一家小公司 syv.ai 的 Mads Henrichsen 推了一条提交:"Serving configs for Qwen3.8-27B on a single RTX 3090"。83 天后,这个仓库改名 HyperQwen,有 2,563 个 star、324 个 fork。它没写新引擎,也不卖东西,只把一个问题答到了极致:我手上这张 3090,跑这个新模型能跑多快?下面讲它怎么起来的、谁在跟它抢,以及如果你也想做一个能拿 star 的开源项目,这里面哪些能学。

它是什么

一组打在固定版本 vLLM 上的补丁,加一条重新量化流水线、几套现成的启动配置。用户做三件事就行:git clone、复制一份 .env、docker compose --profile single up -d,然后在本机 :18020 端口拿到一个 OpenAI 兼容、带 key 鉴权的接口。

README 第一段给出三个数,都是在一张限功耗 250W 的 RTX 3090 上测的:

  • 127 tok/s:一个人聊天,单流速度;
  • 约 1,035 tok/s:64 个请求同时跑,合计吞吐;
  • 381 tok/s:只在"回答大段引用提示词"时成立,比如改代码、改写、翻译。

上下文 150k,最长可以开到 240k 以上。作者在 README 里说得很直白:这个仓库本质上是"一套补丁 + 一条模型准备流水线",只是"一个模型和一张卡被测到了死"。

为什么是它,为什么是这个时候

问题是现成的。24GB 的 3090、4090 是本地跑模型的人手里最常见的卡,而 27B 稠密模型用 BF16 要约 54GB 显存(thakicloud 的估算)。所以新模型一出,LocalLLaMA 圈子里第一个问题永远是"我的卡能不能跑、能跑多快"。同一时期 llama.cpp 在 3090 上跑这个模型大约 40 tok/s,开 MTP 到 66(openclawdc.com 实测);原版 vLLM 默认配置在 24GB 卡上要么塞不下、要么很慢。

它到得早。第一条提交在模型上架几个小时之后,所以"Qwen3.8-27B 3090"这个搜索词刚出现,就有一个能直接 docker compose up 的答案摆在那里。同一天还有人发了 sudoingX/qwen38-mtp(367 star),但那只是 llama.cpp 里一个参数的技巧,没做成可以拿来就用的服务。

star 从哪来

第一波:作者在 r/LocalLLaMA 连载。8 月 16 日前后发第一帖:单请求 82 tok/s、合计峰值 672;第二天发续帖,标题就是新数字,"I pushed Qwen3.8-27B to 99 tps single request and 1150 tps with a batch request on a RTX 3090",正文把每一步换来多少速度都列了出来(Reddit 原帖被反爬挡住,内容据转载站 bittide)。同一篇发到 Hacker News 只拿了 1 分,可见起点在 Reddit。

之后是用户自己发帖:8 月 21 日一个人从 LM Studio 换到 vLLM,标题"I feel like I finally graduated",跑到 143 tok/s,点名感谢 syv-ai;8 月 24 日又有一帖"qwen38-27b-rtx3090 is extremely good with deepseek harness";"Windows 上 3090 怎么跑 Qwen 3.8 27b"这类求助帖下面,也有人回复推荐它。到 10 月 17 日它已经有 2,033 个 star,大部分是 8、9 月这波拿到的,平均每天约 32 个(10-17 以前没有逐日数据,这是平均数)。

第二波:一个标题。10 月中旬 r/LocalLLaMA 上有帖子讲"82 → 381 tok/s"这条加速路径,Wccftech 写成了"RTX 3090 4.6 倍 token 生成",X 上 @superalesha 一条转述贴 10-19 前后约 1,325 赞、8.5 万浏览(据 aiposthub 10-20 转述,未直接核实)。接着是一大批多语言二手文章:法语 geekus.fr、繁中 aiposthub、韩国云厂商 thakicloud(10-27,拿自家 B200 对比)、七牛云(10-29)、日语 gffnews、简中 mushroom.cv,还有一条 YouTube Shorts,标题叫"Qwen 27B Hit 381 Tok/s on a 3090. The Catch?"。其中不少是内容农场批量写的,faysalaziz.com 那篇直接署名"By George the bot"。

GitHub 上的日增能对上这一波:10-20 +54,10-28 +54,10-29 +76(10-17 以来单日最高),之后回落到每天 13–33 个。近 7 天 +144,前 7 天 +243,在减速(GitHub 每日数据,截至 11-06)。

质疑也是传播。dev.to 上有人实测说"真实聊天只有 118,标题那个模式会崩";Sean O'Dea 10-29 写解码快了 62%,但跑一套 coding agent 评测反而慢了 43 秒。作者早把这一点写进了 README:381 只在回答引用提示词时成立,还单独放了一份 docs/gotchas.md 讲坑。数字说清楚了用在什么场景,别人拿去实测、反驳,反倒成了又一轮转载。

为什么人留下来

fork 324 / star 2,563,约 12.6%,在 AI 仓库里偏高。issue 和 PR 编号已经排到 441,提交 654 次,外部贡献者里 cpuchip 提了 150 次、TyroneNel 68 次、EmilienIT 35 次(GitHub,11-06)。这说明不少人是真在自己的卡上跑了、还回来提 PR,不是看一眼点个 star 就走。

这是作者有意做出来的:README 有一节"Field tests wanted",写着"如果你有半小时、手上有一张我们没碰过的 GPU";配一套 30 分钟测试流程、一个现场报告的 issue 模板,复现结果放进 docs/reproductions/ 并给贡献者署名。Hugging Face 上已经有第三方打包好的权重(VykosX/Qwen3.8-27B-HyperQwen-W4A16-Fast-Prepared)。每次把数字往上刷(单用户 82 → 99 → 127)、每次跟进新版 vLLM(0.28 → 0.32),都是再发一帖的理由。

谁在跟它抢

项目做法上线star(11-06 前后)和 HyperQwen 比
Neroued/ninfer从零写的 C++/CUDA 引擎06-263,269不依赖 Python,单流 71 tok/s;并发、接现有工具不如 vLLM 路线
Don-Chad/ninfer-3090NInfer 的 3090 专版07-21501单流 140 tok/s,只做单卡单流
noonghunna/club-3090多引擎多模型的配方合集04-282,477广而浅;它自己的讨论区把 syv-ai 列为单 3090 最强方案之一
MiaAI-Lab 一键安装面向 16–32GB 卡和 Windows 新手09-05约 600不追极限速度
sudoingX/qwen38-mtpllama.cpp 开 MTP 的一个参数08-14367同一天出,没做成服务
llama.cpp / Ollama / LM Studio通用方案早就有最大好装,但 3090 上 27B 只有几十 tok/s

跟风的也来了:有人按卡型复制,出了 rtx5060、rtx4090、4080S 32G 的版本(antonybudianto、Alpha-Leader、BlueKingMuch);有人把整个仓库原样搬走(NotHarshhaa/qwen38-27b-rtx3090)。作者的应对是改名:从"qwen38-27b-rtx3090"改成 HyperQwen,口号换成"在你真正拥有的 GPU 上跑大 Qwen",占住"Qwen + 消费级显卡"这个位置,而不是死守一个型号。

如果是你

判断:这个具体位置已经没了,Qwen3.8-27B on 3090 有主了,跟风的也挤进来了。能学的是这套打法:下一个热门开源模型发布的那天,替手上最常见的那张卡做出最快、最好用的现成方案。这是一场看手艺、也看手速的仗。

适合谁:真会改推理引擎的人。读得懂 vLLM、SGLang 或 llama.cpp 的源码,会做量化、投机解码、KV cache,有一张 3090/4090 或者能租到卡。最好已经是 r/LocalLLaMA 的熟脸,发帖有人看。

不适合谁:只会写配置和 Docker 外壳的人,"配方合集"已经有 club-3090 这样的项目,一键安装也有人做了;拿不出比现有方案明显更快的数字,就没有发帖的理由。也不适合想靠这个赚钱的人,作者自己只挂了一个 Ko-fi,写着"支持 GPU 时间"。

怎么做:挑一个空位,三选一。

  1. 换模型:盯住下一个大开源模型(下一代 Qwen、DeepSeek、Gemma 的稠密中号模型),发布当天开工,题目就是"X on 一张 24GB 卡"。
  2. 换卡:HyperQwen 自己承认只在 compute capability 8.6(3090、3080)上测透了。16GB 卡(4060 Ti、5060 Ti)、苹果 M 系列、AMD 卡、双卡,都可以做"这张卡上最快的 Qwen3.8-27B",前提是你的数字赢得了 llama.cpp。
  3. 补它没做的:它是 Linux + Docker + 命令行;Windows 原生、桌面图形界面、在 coding agent 里一键接入,都还有人在问。

不管选哪个,照它的结构写 README:第一屏放三个数,每个数说清在什么场景成立;一段"原版 vs 你的版本"的对比录屏;一份坑的清单;一套别人 30 分钟能跑完的复现流程,再给贡献者署名。

怎么拿 star:r/LocalLLaMA 是主战场,HN 基本没用(它的 HN 帖 1 分)。连载着发:第一帖给能跑的数字,之后每刷新一次数字就发一帖,标题就是新数字。数字够漂亮,Wccftech 这类科技站和多语言内容站会自己来转。有人发帖质疑,就去回复,把实测结果并进 README。

死线:模型上架后 24–48 小时内要有第一版能跑,一周内发出第二帖。HyperQwen 是几个小时就开工的,隔一周再来,搜索词和"最早可用"的位置都已经被人占了。

算看错:① 下一个大模型发布后,一周内 vLLM / llama.cpp 官方就把 24GB 卡上的速度做到接近这类补丁的水平,说明单点优化的窗口在关;② HyperQwen 改名后很快吃下新模型、新卡(比如下一代 Qwen 发布当周就出支持),那"换模型"这条路它会自己占掉,你只剩换卡和补短板;③ r/LocalLLaMA 上"X on 3090"这类帖子越来越拿不到赞,说明大家已经看腻了。

数据与出处

  • star、fork、每日增长、贡献者:GitHub 公开数据,截至 2026-11-06;10-17 之前没有逐日数据。
  • README 原文与配置:github.com/syv-ai/HyperQwen(11-06)。
  • Reddit 帖子:原帖被反爬挡住,内容来自 bittide 转载和搜索摘要,分数和评论数未核实。
  • Wccftech 报道和 @superalesha 的 X 帖数字:来自 aiposthub 10-20 转述,未直接核实。
  • 竞品速度:gopenai 博客(NInfer)、openclawdc.com(llama.cpp)、各项目 README。

GitHub 仓库 ↗

研究底稿:竞品表、获客证据、完整研究报告
竞品
名字在哪上线规模它和这家不同在哪
Neroued/ninfer (NInfer)开源2026-06-263,269 star从零写的 C++/CUDA 引擎和自有权重格式,单流强;HyperQwen 基于 vLLM,OpenAI 兼容、并发高得多
Don-Chad/ninfer-3090开源2026-07-21501 starNInfer 的 3090 专版,只做单流;HyperQwen 同时有批量模式和长上下文
noonghunna/club-3090开源2026-04-282,477 star多引擎多模型的配方合集,广而浅;HyperQwen 只做一个模型一张卡,补丁级深挖
sudoingX/qwen38-mtp开源2026-08-14367 starllama.cpp 一个参数开 MTP 的技巧,没有服务化和量化流水线
MiaAI-Lab/Qwen3.8-27B-16gb-NVIDIA-GPUs-one-click-install开源2026-09-05约 600 star面向 16-32GB 卡和 Windows 一键安装,不追极限性能
llama.cpp / Ollama / LM Studio开源早已存在最大通用易装,但 3090 上 27B 只有几十 tok/s,并发弱
原版 vLLM / SGLang开源早已存在最大默认配置在 24GB 卡上塞不下或很慢;HyperQwen 就是在 vLLM 上加 51 个补丁加量化
用户从哪来
  • 查实 Reddit r/LocalLLaMA 作者连载发帖:08-16 首发 82 tok/s,08-17 续帖'99 tps single / 1150 tps batch'(bittide 转载 r/LocalLLaMA)
  • 查实 Reddit 用户自发安利:08-21 'I feel like I finally graduated'、08-24 'extremely good with deepseek harness'、'The bear can dance... 3 weeks' 等帖点名推荐
  • 查实 时机/平台事件:Qwen3.8-27B 开源发布:模型 08-14 上 HF,仓库首个提交 08-14 22:18 UTC
  • 查实 科技媒体与 X 转述:Wccftech '4.6x' 报道、@superalesha X 贴文约 1,325 赞(10-19 前后,aiposthub 转述);thakicloud 10-27 称 'claim circulated on X this week',对应 10-28/29 日增 +54/+76
  • 查实 多语言博客/内容农场/YouTube:AlphaSignal、geekus.fr、七牛云、mushroom.cv、gffnews、faysalaziz(bot 写)、YouTube Shorts、Medium Andrew Zhu 177 tok/s 教程
  • 查实 Hacker News:作者 mess1337 发的帖只有 1 分,基本无效

syv-ai/HyperQwen:为什么一个"vLLM 补丁包"能在 83 天拿到 2.5k star

研究日期 2026-11-06。数据:我们的 github 库(repo_day 2026-10-17 至 11-06)、GitHub API、Jina/Exa 网页检索。Reddit 原帖被反爬挡住,Reddit 内容来自搜索摘要和转载站(bittide.aicompass.dev),标注为转述。

一句话

HyperQwen(原名 syv-ai/qwen38-27b-rtx3090)是一组针对固定版本 vLLM 的补丁、一条重新量化流水线和几套启动配置,让 Qwen3.8-27B 在一张 24GB 的 RTX 3090 上跑到单用户 127 tok/s、64 路并发合计约 1,035 tok/s、上下文 150k-262k,对外提供 OpenAI 兼容接口。作者是丹麦公司 syv.ai 的 Mads Henrichsen(GitHub mhenrichsen,HN 账号 mess1337)。

一、它凭什么起来的

1. 时机:模型发布当天就开工

  • Qwen3.8-27B 在 2026-08-14 上 Hugging Face(miraflow.ai、benchlm.ai;发布前阿里预告"8 月 15 日零点")。
  • 仓库第一条提交 2026-08-14 22:18 UTC,信息是 "Serving configs for Qwen3.8-27B on a single RTX 3090";仓库 08-15 建立(GitHub API)。也就是模型发布后几个小时,它就成了最早一批"一张 3090 跑这个模型"的现成方案。
  • 3090/4090 这些 24GB 卡是 LocalLLaMA 圈子里最多人手上有的卡,而 27B 稠密模型 BF16 要约 54GB(thakicloud),"我的卡能不能跑、能跑多快"是模型发布后的头号问题。HyperQwen 把答案做成了一条 docker compose up。

2. 分发:r/LocalLLaMA 连续发帖 + 数字一路往上刷

  • 2026-08-16 前后在 r/LocalLLaMA 发第一版:82 tok/s 单请求、672 合计峰值;08-17 发续帖"I pushed Qwen3.8-27B to 99 tps single request and 1150 tps with a batch request on a RTX 3090",列出每一步优化(fp16 recurrent state、int8 激活、概率采样的 MTP 草稿等)(bittide 转载 r/LocalLLaMA 08/17;同文 HN 帖 news.ycombinator.com/item?id=49336792 只有 1 分)。HN 几乎没起作用,Reddit 是起点。
  • 之后用户自发发帖:08-21"I feel like I finally graduated"(从 LM Studio 换到 vLLM,143 tok/s,点名感谢 syv-ai);08-24"qwen38-27b-rtx3090 is extremely good with deepseek harness";之后还有"The bear can dance: Qwen 3.8 27B on one 3090 for 3 weeks"、"Swift 1.5 + HyperQwen = 37% less task completion time"等(Jina 搜索摘要)。"Recommended way to run Qwen 3.8 27b on a 3090 in Windows?"这类求助帖下面也有人推它。
  • 10-17 时已有 2,033 star(我们库),也就是说大部分 star 是 8-9 月 Reddit 那波拿到的(建库到 10-17 共 63 天,平均每天约 32 个)。

3. 二次传播:10 月"82 → 381 tok/s,快 4.6 倍"的标题

  • 10 月中旬一条 r/LocalLLaMA 帖子讲"82 → 381 tok/s"的加速路径,被 Wccftech 转述("RTX 3090 4.6x token generation",wccftech.com/rtx-3090-4-6x-token-generation-27b-llm-inference-optimizations),X 上 @superalesha 一条贴文在 10-19 前后有约 1,325 赞、8.5 万浏览(aiposthub.com 2026-10-20 转述,未直接核实)。
  • 随后一大批多语言二手内容:geekus.fr(法,10-20)、aiposthub(繁中,10-20)、genai-insight(10-21)、thakicloud(韩国云厂商,10-27,拿自家 B200 对比)、七牛云(10-29)、Tools4All(10-30)、faysalaziz.com(11-01)、mushroom.cv(简中,11-03)、gffnews(日,11-03)、AlphaSignal(09-19)、ai-tldr.dev、YouTube Shorts "Qwen 27B Hit 381 Tok/s on a 3090. The Catch?"、X @Oluwaphilemon1(11-05)。也有人写反驳/实测:dev.to prodbymarcu(10-16,"real chat does 118 and the headline mode crashes")、Sean O'Dea(10-29,"decode 62% faster,coding agent eval 43 seconds slower")。
  • 我们库里的日增:10-20 +54、10-28 +54、10-29 +76(全段最高)、之后回落到每天 13-33。10-28/29 的峰值正好对上 thakicloud 文中"the claim that circulated on X this week"和七牛云文章。
  • 注意:这些二手文章大多是 SEO/AI 内容站批量写的(faysalaziz 明写"By George the bot"),说明它已经成了一个被内容农场追的"热词",但每篇带来的 star 不多。

4. 为什么人留下

  • fork 324 / star 2,563 ≈ 12.6%,在 AI 仓库里偏高;issue+PR 编号已到 441,提交 654 次,外部贡献者 cpuchip(150 次)、TyroneNel(68)、EmilienIT(35)等(GitHub API)。这不是"看一眼点个 star"的仓库,是真有人在自己卡上跑、还回来提 PR。
  • 作者把"别人来复现"做成了制度:README 里有"Field tests wanted"、30 分钟测试协议、field-report issue 模板、docs/reproductions/ 给贡献者署名;Hugging Face 上已有第三方打包的 prepared 权重(VykosX/Qwen3.8-27B-HyperQwen-W4A16-Fast-Prepared)。
  • 持续把数字往上刷(82 → 99 → 127 单用户,672 → 1,150 → 1,035 稳定并发)并跟进 vLLM 0.28 → 0.32,每次更新都是一次再发帖的理由。

二、竞品

名字形态上线规模和 HyperQwen 不同在哪
Neroued/ninfer(NInfer)开源,从零写的 C++20/CUDA 引擎2026-06-263,269 star(11-06);10-28→11-05 +51自有权重格式,单用户 71 tok/s(3090,gopenai 博客),不依赖 Python;HyperQwen 是在 vLLM 上打补丁,生态兼容更好、并发强得多
Don-Chad/ninfer-3090开源,NInfer 的 3090 专版2026-07-21501 star单用户 140 tok/s(DFlash2),只做单卡单流
noonghunna/club-3090开源,多引擎多模型的"配方合集"2026-04-282,477 star;8 天 +27广而浅,覆盖 Qwen/Gemma、1-8 卡;它自己的讨论区把 syv-ai 列为单 3090 最强方案之一
sudoingX/qwen38-mtp开源,llama.cpp 一个参数开 MTP2026-08-14367 star同一天出,但只是一个 flag 的技巧(+33-39%),没有服务化
MiaAI-Lab/Qwen3.8-27B-16gb-NVIDIA-GPUs-one-click-install开源,一键安装2026-09-05约 600 star;8 天 +5针对 16-32GB 卡和 Windows 小白,不追极限性能
llama.cpp / Ollama / LM Studio开源/桌面应用,通用方案早已存在最大通用、易装,但 3090 上 27B 大约 20-40 tok/s;Ollama 要 0.32.12 以上才支持该模型(dev.to kohei_wada)
原版 vLLM / SGLang开源,通用推理引擎早已存在最大默认配置在 24GB 卡上塞不下或很慢,HyperQwen 本身就是 51 个补丁 + 量化流水线(thakicloud 统计)
ExLlamaV3 / TabbyAPI(EXL3 路线)开源早已存在中单用户强、并发弱;HyperQwen 路线图里 #103 计划加 EXL3 作为第二条量化路线

跟风者:有。按卡型复制的 fork,如 antonybudianto/qwen38-27b-rtx5060、Alpha-Leader/qwen38-27b-rtx4090、BlueKingMuch/HyperQwen-RTX4080S32;另有 MiaAI-Lab 一批按硬件命名的"Qwen3.8-27B on X"仓库;作者自己则把名字从"27b-rtx3090"改成 HyperQwen,想扩到更多 Qwen 模型和卡,占"Qwen 消费卡推理"这个品牌位。

三、差异化

  1. 只做一个模型 × 一张卡,做到极致。别人做"通用配方"或"新引擎",它做"Qwen3.8-27B on RTX 3090,量到死",并公开每一步换来多少 tok/s(docs/optimizations.md)。
  2. 站在 vLLM 上而不是另起炉灶:用户拿到的是标准 OpenAI 兼容 API + key 鉴权、Docker 镜像、两种模式(单用户投机解码 / 批量并发)。相比 NInfer 这类自研引擎,接 coding agent、DeepSeek Harness 之类的客户端零成本;64 路并发 1,035 tok/s 是自研单流引擎给不了的。
  3. 有冲击力又讲得清的数字:127 / 381 / 1,035 三个数,分别对应不同场景,README 主动说明"381 只在回答引用 prompt 时成立"。这种诚实反而让数字经得起转载,也引来大量"实测"文。
  4. 把社区复现当产品的一部分:测试协议、报告模板、贡献者署名、Ko-fi 筹 GPU 时间。

这些差异化就是它跑出来的原因:时机让它先到场,"vLLM 上的极致单点 + 漂亮数字"让 Reddit 帖子能一发再发,复现机制让用户留下来变成贡献者。

四、能见度

小圈子里在传,并已开始被科技媒体和内容农场追:Wccftech、AlphaSignal、thakicloud、七牛云等写过,X 上有千赞级转述;但它是开源项目、不赚钱(只有 Ko-fi),不存在"收入公开"问题。star 增速在回落(近 7 天 +144,前 7 天 +243)。

五、可借鉴

  • 热门开源模型发布当天,针对"最多人手里那张卡"做极致的现成方案,抢占"X 模型 on Y 卡"这个搜索词。
  • 在 r/LocalLLaMA 用"每天一帖、数字往上刷"的连载式发布,配一段对比视频(stock vLLM vs HyperQwen)。
  • 把基准数字拆成场景写清楚,主动讲"代价/坑"(docs/gotchas.md),让转载和质疑都成为传播。
  • 搭复现协议,把用户变成测试员和贡献者。

六、不确定

  • 8-9 月 star 的逐日曲线拿不到(stargazers 接口对我们的 token 返回 403,我们库从 10-17 起),Reddit 原帖的分数和评论数未核实。
  • Wccftech 原文和 @superalesha 那条 X 帖的数字只来自 aiposthub 转述。
  • Qwen 4 之类的下一代模型一出,"27B on 3090"的优势会不会归零,要看改名后的 HyperQwen 能不能跟上新模型。
  • star 不等于使用量;真实部署量未知。

文章由 AI 根据公开数据和我们每天采集的数据写成,数字带出处,推断已标明