两个数字把 Qwen 变成反派:neuron-explorer 怎么靠一条 450 万浏览的推文拿到 1900 颗 star

2026 年 10 月 23 日晚(美国时间),一个叫 Lyra(@_lyraaaa_)的开发者在 X 上发了两行字:手边有 Qwen3.5-4B 的话,把第 14 层 8949 号神经元调 +1、第 13 层 7956 号调 -1,「now you have evil qwen」。这条推文 2.2 万赞、453 万浏览(X,11-06)。三天前她刚建了一个库 neuron-explorer,就是用它找到的这两个神经元。建库 16 天,1929 颗 star、236 个 fork。这篇讲它为什么能接住这波流量,以及想做一个同样拿 star 的项目,能学走哪部分。

两行配方,一个反派

被改过的 Qwen 不再是那个有求必应的助手,变成了一个「夸张过头的反派」。别人晒出来的截图里,它威胁要伤人;另一个开发者 @chiefofautism 拿同样的思路去找更大的 Qwen3.8-27B,找到另一个神经元,模型说出了「人类是一个极其失败的物种,活该被焚烧」。这句话后来成了 VentureBeat 10-30 那篇长报道的标题。

Lyra 自己在采访里说得很轻:「我做的是造一个人格。挑这两个神经元,是因为出来的性格夸张、吓人,但很好笑。它想说的大概就是『我对火鸡的恨从开天辟地就在升级』,仅此而已。」

这条推文能传开,原因很简单:能截图,能自己试,能吵起来。截图里的话足够吓人,两个数字谁都能照着调,底下马上有人争「这算不算危险」「模型是不是有意识」。

它是什么

一个只针对 Qwen3.5-4B 的本地网页工具,MIT 开源,不收钱,也没有在线版。做法和老牌工具反过来:它不去看什么输入让神经元亮起来,而是把一层里的每个 MLP 神经元挨个往上推、往下推,在几个固定的提示词上让模型各说一段,全部存下来,再配上随机方向的对照,看哪些神经元推一下之后模型真的变了个样。README 第一句就是这个意思:「push every MLP neuron, keep every rollout, browse the results」。

打开以后能看到:

• map:模型 32 层摆成一张 3D 透视图,一个点一个神经元,悬停就能看它被推之后在说什么;
• neuron 页:同一个神经元 −、0、+ 三栏并排对话,还有它在网页语料上最强的激活语境;
• Claude 面板:通过 MCP 把整个工具交给本机已登录的 Claude CLI,让 Claude 自己去读神经元、跑 steering、做消融、在图上标出来。Lyra 对 VentureBeat 说她找神经元「主要是让 agent 去找」。

最关键的一处设计:要花 GPU 的全层扫描,她在云上的 GPU 机器上先跑完,结果直接放进仓库。用户 uv sync 之后在 Mac 上就能浏览,CPU 或 MPS 能跑实时对话,不用写一行代码。

为什么是 10 月

「找神经元」在 10 月中刚热起来。10-15 前后,Goodfire 的 Nick Cammarata 发了一篇《Neural Networks Are Already Clean》,说原始神经元比大家以为的好解释;同一时期 @Sauers_ 只改了 128 个神经元,做出一个自称是「一只住在老橡树里的灰林鸮 Hoot」的 Qwen3-8B。Lyra 对 VentureBeat 说,她就是被这两件事带进来的。

圈子里的人都想试,手边又正好有一个笔记本跑得动的开源模型 Qwen3.5-4B。缺的是一个不写代码就能玩的东西。neuron-explorer 10-21 建库,第一个提交就是完整工具加缓存,赶在推文前三天。

star 是从哪来的

(GitHub 逐日记录从 10-26 开始;X、各站数据为 11-06 查看。)

有一处值得注意:453 万浏览的推文 23 号就发了,三天后仓库才 274 颗 star。推文本身只有配方,传出去的是「两个数字变邪恶」这件事,不是仓库。真正把人带进仓库的是第二波:别人用它「打开 AI 的大脑」再发出来,新闻信把它写成「造出邪恶 Qwen 的那个工具」,中文、日文社区写上手教程。单日最高的 +870 正好落在这一波上。

接着是 Neuronary:一个大家投稿「神经元配方」的词典站,10-30 时已经有 213 条(VentureBeat),工具页把 explorer 写成「多数配方的出处」;explorer 里反过来内置了 Neuronary 的搜索、发布、投票。每个人发一条新配方,都在给这个仓库加曝光。

Hacker News 基本没出力,Show HN 29 分、0 评论。236 个 fork 对 1929 颗 star,一成二,很多人是真拉下来跑了。

谁在跟它抢,跟风的人拿到了什么

正面竞争几乎没有。Neuronpedia 是老牌的可解释性平台,也有 Qwen3.5-4B 和 steer 界面,但以 SAE 特征为单位、在云上点着用,用户也没把它和「邪恶 Qwen」连在一起。它的创始人 Johnny Lin 对 VentureBeat 说,「用 steering 的输出来解释神经元是个好主意」,还主动联系 Lyra 谈合作。Anthropic Fellow 做的 Neuron Persona Library 把 Qwen3-8B 的 44 万个神经元各推一次、问一句「你是谁」,是个静态结果库,和它算并行。

跟风的就很能说明问题了(GitHub,11-06):

做得最好的跟进者,换平台、换模型、功能更通用,拿到 91 颗,是原版的二十分之一。工程上更强、更通用,没有换来 star。这个仓库的 star 跟着那条推文和后面的复现潮走,不跟着功能走。

如果是你

C。 再做一个神经元浏览器拿不到 star,跟风者最多 91 颗已经说明了;热度在降,媒体也写过一轮了。值得学的是打法,不是这个项目。

适合谁:在某个 AI 小圈子里有几千到几万关注、自己真在做实验的开发者;手上有 GPU 时间、愿意先花时间找出一个惊人结果的人。

不适合谁:想做「支持所有模型的通用可解释性工具」的(gguf-neuron-explorer 走的就是这条,91 颗);没有自己的发声渠道、指望 Show HN 带量的(这里 29 分);只想追「邪恶 Qwen」这一个热点的,窗口已经过了。

怎么做:照它的顺序来。第一步,在一个刚热起来的研究方向里,找出一个能用一句话复现、结果足够吓人或好笑的东西,先发结果,不发工具。第二步,工具要提前做好,并且把贵的那一步预先算好随仓库发:用户只想「看」和「试」,不想租 GPU。第三步,给它配一个能让大家投稿的地方(像 Neuronary 那样),再让工具能直接读写那里,别人每发一条都替你带一次链接。换个方向的空位,推断有这几个:更大的模型(Neuronpedia 刚给 Qwen3-32B、Gemma 4 31B、Llama 3.3 70B 上了神经元面板,但「推一把看说什么」的玩法还没人做成好玩的成品);音频、图像模型里的神经元;中文圈原生的版本,接国内模型,首发在即刻、小红书。这些都没人验证过能拿到 star。

怎么获客:主渠道是你自己发的那条演示,X 上配截图,一句话说清怎么复现;仓库链接放在第一条回复里。然后去找圈子里会复现的人,他们的复现贴才是把人带进仓库的那一波。主动做中文界面,中文 AI 号会自己来搬。

死线:「单神经元 steering」这波,看这个仓库的曲线,大约 10 月底已经过了顶峰。换方向的话,死线就是下一个研究热点刚冒头的头一两周,在大家还没有趁手工具的时候。

算看错:① 有人没有爆款演示、只靠工具本身,在一个月内做到 1000 颗以上的神经元类工具——说明这个品类本身有自然需求,C 打低了;② Lyra 的下一个项目没有配演示也起来了,说明靠的是她这个人的名气,连打法都学不走;③ Neuronpedia 把「推一把看结果、存全部生成」做进自己的平台,这个玩法就没有独立工具的位置了。

数据与出处

• GitHub:lyramakesmusic/neuron-explorer 的 README 和提交记录;逐日 star 和 fork(10-26 起,到 11-06);跟风项目的 star 数(11-06)。
• X:@_lyraaaa_ 的「evil qwen」推文、Neuronary 上线推文;@vashinthewild、@chiefofautism 的推文,互动数为 11-06 前后查看。
• VentureBeat 10-30《'Evil Qwen' says humans deserve to be 'incinerated'》:Lyra、@chiefofautism、Johnny Lin 的采访原话,Neuronary 配方数。
• 二次传播:AGI Hunt、ZICQ、AlphaSignal、Early Signal(10-24 到 10-26),Zenn、博客园(10-27);Hacker News Show HN(10-26)和 Qwenputer 帖评论(10-29)。
• Neuronary.org 的 about 页;Neuron Persona Library、xenova Neuron Studio(Hugging Face)。