什么值得做

APIEval-20

活着但平 证据强度 中 订阅 PH 发布 2026-05-08 · 121 票
官网
kusho.ai(产品页 resources.kusho.ai/api-eval-20;数据集 huggingface.co/datasets/kusho-ai/api-eval-20)
PH
www.producthunt.com/products/kushoai/launches/apieval-20,2026-05-08,121 票(发布日 116)/ 日榜第 12 / 11 条评论
一句话
一个开放基准,只给 AI agent 一份 JSON schema 和一个样例 payload,看它能不能在真实运行的 API 上找出被植入的 bug。
团队
KushoAI(Kusho, Inc.),联合创始人 Abhishek Saikia(CEO)与 Sourabh Gawande(CTO),公司注册旧金山、团队在班加罗尔Tracxn / YourStory / Crunchbase。2024-02 完成 $600K pre-seed,Antler India 领投,Blume Founders Fund、UpSparks Capital 及 Ultrahuman 两位联创跟投entrackr / inshorts。
收费
官网 2026-11-02 定价页只有两档——Developer Edition $0/月(≤50 个 API endpoint,个人/2–5 人小团队 POC),Enterprise Custom Pricing(按 API endpoint 数、UI 流程数、月测试执行量、席位、部署方式报价)官网。没有公开的中间付费档;PH / TrustMRR 上无自填旧档可比。
状态判断
活着但平。基准本身是母公司 KushoAI 的营销/思想领导力资产,发布后 6 个月仍在更新(2026-06 出结果报告、GitHub 5 月还在提交),但作为独立产品没有用户量、没有收入、社区声量极低。
证据强度
中。PH、HN、Chrome 商店、官网、HuggingFace、GitHub 网页都对上了;但 indie 收入库、App Store、Google Play、Mac App Store、X 本地库全部没有它。

发布之后的表现

收入

  • indie(TrustMRR)库里没有 kusho.ai 或 APIEval-20库。KushoAI 是拿了 VC 的公司,本来就不在 TrustMRR 的覆盖范围(它只收愿意公开收入的独立开发者),所以「库里没有」不等于没收入。
  • 官网自报「7Mn+ test executions」「5200+ Organizations」自报;PR 稿里写的是「30,000+ engineers across 6,000+ organizations」自报,PR Newswire 2026-04-08。两个数字口径不一致(5,200 vs 6,000+ 组织),且都无第三方可核。

用户 / 下载

  • App Store、Google Play、Mac App Store 三个库里都没有它库——它是网页 + CLI + 数据集形态,没有移动端。
  • Chrome 应用商店里有 KushoAI 的 3 个扩展库,2026-11-01 快照:KushoAI Browser Extension 1,000 用户(评分 5,1 个评分)、KushoAI UI Recorder 672 用户(评分 2.5,2 个评分)、KushoAI: Auto-generate API Tests 57 用户。三个加起来约 1,700 用户,量级很小,且与 APIEval-20 这个基准本身没有直接关系。
  • HuggingFace 数据集 kusho-ai/api-eval-20:6 个 like,MIT 许可官网。这是「开源基准」最直接的采用度信号,6 个赞说明基本没被社区接住。

开发者关注

  • GitHub 库里没有 kusho-co/api-eval-20库——它只有 3 star,低于 GitHub 库 50 星的收录门槛,所以「库里没有」是门槛问题不是不存在。
  • 直接查 GitHub 网页官网:kusho-co/api-eval-20 3 star、0 fork、0 issue、最后更新 2026-05-27;同组织 kusho-ui-testing-tui 11 star、kusho-cli 6 star。整个 org 20 个仓库,没有一个过 15 star。fork/star 比 0/3,没有刷星迹象,但也没有任何外部贡献者。

讨论

  • Hacker News 库里有 3 条 Show HN,全部指向 resources.kusho.ai库:2026-05-05「Open-source CLI to generate UI tests from user flows」10 分 3 评论;2026-06-04「Black-box API bug detection across 7 AI systems」11 分 4 评论;2026-06-17「A tool that scores your OpenAPI spec」6 分 2 评论。三条都没上过首页(front_hours=0),分数都在 10 分上下,基本是「发出去没人看」。
  • X 本地库(560 人 core 层)里没有任何一条提到 kusho.ai 或 APIEval-20 的原创帖库;@kushoai、两位创始人 @saikia__、@sgawande1994 都不在圈子名单里库。创始人 X 粉丝量也很小(Abhishek 228、Sourabh 215)官网。
  • 外部媒体覆盖主要靠 PR Newswire 通稿分发(PR Newswire、Morningstar、Yahoo Finance、StreetInsider、CXO Digitalpulse、aithority 等),属于付费通稿转载,不是记者主动报道官网。

官网动态

  • 官网仍在运营且明显在往企业方向转型:首页已从「API 测试工具」改成「The reliability layer for modern software」,主打 API 契约测试 + 持续安全扫描 + 自愈测试基础设施 + 发布风险评分,面向 fintech / logistics / e-commerce / healthtech / oil & gas 等行业官网,2026-11-02。
  • 博客仍在更新:2026-04-01 发布 APIEval-20 介绍,2026-06-03 发布《The Results from APIEval-20》结果报告(跑了 GPT-5、Claude Sonnet 4.6、Gemini 2.5 Pro、Claude Code、Cursor、Copilot 和 KushoAI 自己)官网。
  • 没有融资或收购的新消息;最新一轮仍是 2024-02 的 $600K pre-seed官网。

自报 vs 实际

自报出处对照
「30,000+ engineers across 6,000+ organizations」PR Newswire 2026-04-08官网同期写「5200+ Organizations」,两个数对不上;无第三方可核
「7Mn+ test executions」官网首页无第三方可核
「KushoAI detects 76% of complex planted bugs, ranks first」结果报告 / 官网报告自己承认 KushoAI 既是评测方又是被评对象(COI),但公开了方法和重复运行设置;无法独立验证
「open benchmark」PH tagline / 博客数据集确实公开在 HuggingFace(MIT),代码在 GitHub——但 GitHub 只有 3 star、HF 只有 6 like,「开放」做到了,「被采用」没有

为什么成了 / 没成

作为基准,它没成。 一个基准的价值等于「有多少人拿它跑自己的系统并引用结果」。APIEval-20 发布 6 个月后:GitHub 3 star、HuggingFace 6 like、HN 三条 Show HN 最高 11 分、X 圈子里零提及。对比同期的 agent benchmark(如 SWE-bench 系列动辄上万 star),这个量级说明它没有进入任何人的评测流程。原因很直接:它由被评测方自己发布,且第一名就是自己。报告里 KushoAI 0.83 分、Claude Code 0.76 分,差距只有 0.07,而 KushoAI 又是唯一用「native workflow」的参赛者——这种结构让外部团队没有动机去引用它,因为引用等于替竞品背书。

作为 KushoAI 的营销资产,它成功了。 它换来了 PR Newswire 通稿被 Morningstar、Yahoo Finance、StreetInsider 等转载,给销售提供了「我们比 Cursor/Copilot 强」的话术,也支撑了官网从工具向企业平台(SSO/SAML、on-prem、99.9% SLA)的转型。所以它更像一篇带数据集的技术白皮书,而不是一个独立产品。

真正的隐忧是产品本身。 官网定价页只有 $0 和 Custom 两档,中间没有自助付费档——这意味着它靠销售驱动,而 KushoAI 只拿了 $600K pre-seed,却要做 on-prem 部署、SOC2/ISO27001、99.9% SLA 的企业级承诺。Chrome 扩展三个加起来 1,700 用户,说明自助侧的真实采用量很小。

对想跟的人

别跟「自己发基准、自己拿第一」这条路——APIEval-20 的 GitHub 3 star / HuggingFace 6 like 已经证明,评测方和被评测方是同一家时,社区不会接。真正有位置的是第三方中立基准:如果你能把 API 测试 agent 的评测做成「谁都能提交、结果公开可复现、发布方不参赛」,那现在这个赛道是空的(APIEval-20 的 20 个场景、97 个植入 bug 的规模也太小,报告自己承认「20 scenarios are thin」,APIEval-50 还在 roadmap 上)。最大的坑是:这个方向的天花板是「影响力」不是「收入」——基准本身几乎不可能收费,只能当获客漏斗,而漏斗下游的 API 测试工具市场已经被 Postman、Cursor、Copilot 和一堆 YC 公司挤满,KushoAI 自己用 $600K 打这个市场就是例子。

没查到的

  • indie(TrustMRR):没有 kusho.ai / APIEval-20,拿不到任何收入、MRR、订阅数、是否挂牌出售的数据。
  • App Store / Google Play / Mac App Store:三个库都没有它(无移动端产品)。
  • X 本地库:560 人 core 层里零提及,创始人和官方号都不在名单里,拿不到圈内反应。
  • GitHub 库:kusho-co/api-eval-20 只有 3 star,低于 50 星收录门槛,库里查不到,只能靠 GitHub 网页;因此没有 star 走势、fork/star 比、suspect 标记等结构化字段。
  • 无法回答:APIEval-20 的实际下载/克隆量、有多少外部团队真的跑过它、KushoAI 的真实 ARR 和客户数(官网自报的 5,200/6,000 组织无第三方可核)。

档案由 agent 建(deepseek/deepseek-v4.1-flash,24 步,2026-11-01T14:19);〔库〕= 我们自己的库,〔官网〕= 当天抓的网页。