Whistle

只有 16.9 MB 的开放语音识别模型,支持七种语言,普通 CPU 即可运行,带词级时间戳,首个 token 约 11 ms。

一句话概括. Whistle 是一个只有 16.9 MB 的小型语音转文字模型。它能转写七种欧洲语言,给每个词标出时间戳,在普通处理器上就能运行,不需要显卡。它用一点准确率换来了体积和速度,适合手机、可穿戴设备和其他小型设备。

概述

Whistle 是旧金山创业公司 Cactus Compute 的语音识别模型,于 2026 年 10 月 2 日以 Apache 2.0 发布。整个模型就是公司自有 .cact 格式的一个 16.9 MB 文件,在一个无依赖的独立 C++ 引擎里用 CPU 运行。Hugging Face 仓库里另有一个 220.6 MB 的 FP32 检查点,参数量约 5500 万,这个数字是我们根据文件推算的。Whistle 能转写英语、德语、法语、西班牙语、意大利语、荷兰语和波兰语,除非你指定,否则自动检测语言;它会给出每个词的开始时间、结束时间和概率,也可以输出编码器的语音嵌入,每 80 毫秒的音频对应一个向量。

模型内部,8 个块的编码器通过带门控的交叉注意力连接到宽度 512 的 8 层解码器。解码器和 Cactus 的 Needle 3 模型共用构件,所以同一个引擎可以同时加载两者,把一句口头请求直接变成工具调用。解码使用 5 条束搜索,词表是 8192 个文本片段加 7 个语言标记,还有可选的关键词偏置,会让你传入的人名或术语更容易被识别。音频必须是 16 kHz 单声道。一次处理最长 30 秒,更长的音频会被分窗处理。引擎检测到静音时返回空转写。

开发者的博客只拿 Whistle 和两个小型识别模型做了对比:Whisper base(145.3 MB)和 Moonshine tiny v2(41.9 MB),测试用 Apple M4 Pro 的 CPU 处理 10 秒音频。Whistle 的首个 token 在 11.1 ms 出现,Whisper base 是 73.2 ms,Moonshine 是 22.8 ms;解码速度 Whistle 是每秒 1319 个 token,另两个分别是 266 和 262。在准确率上,博客称 Whistle 在 LibriSpeech test-clean 和 test-other、SPGISpeech、Earnings-22 以及 FLEURS 平均值上领先,而 Whisper base 在 TED-LIUM、AMI 和 MLS 平均值上领先。Whistle 的错误率是在 86,174 条语句上测得的,Whisper 和 Moonshine 用的是它们作者发表的数字。这些都是开发者自己的结果,我们没有复现。

Cactus 提供 17 个目标平台的预编译引擎,覆盖 macOS、Linux、Windows、Android,以及 iOS、watchOS、RISC-V、浏览器和 WASI。用 pip install cactus-compute 安装后,对 16 kHz 的 WAV 文件调用 cactus.transcribe 即可。公司还发布了关于用新语言或自己的词汇微调 Whistle,以及把它移植到其他运行时的指南。

适合做什么

  • 在手机、可穿戴设备、树莓派级别的开发板和其他小设备上离线转写
  • 语音指令,首个词在约 11 ms 后出现,比最后一点准确率更重要
  • 用一个小模型同时得到词级时间戳和语音嵌入
  • 商业产品,因为许可证是 Apache 2.0

需要注意

  • 只覆盖七种语言,不支持中文、日语、韩语和阿拉伯语
  • 博客只和小型识别模型做了对比,不要默认它能赶上 Parakeet 或 Cohere Transcribe 这类更大的模型
  • 一次处理 30 秒,更长的音频会被切成窗口
  • 文中的速度来自 Cactus 自己的引擎和 `.cact` 文件,用其他运行时需要自行移植
  • 准确率和速度数字都是开发者自己报告的

性能数据来自开发方,未经独立验证。

需要多少内存?

以下是 Whistle 各版本的内存数据。图像、视频、语音和音乐管线还要加载文本编码器和解码器,所以所需内存可能比主检查点更大。

版本 参数量 下载大小 所需内存 可运行于
Whistle (FP32 checkpoint) FP32 55M 0.22 GB 0.253 GB 笔记本或手机

下载大小包含运行模型所需的全部组件,例如生成器、文本编码器和解码器。所需内存优先采用开发方声明或已公开的实测最低值;没有时按下载大小加约 15% 估算。更大的图像、更长的片段和更高的分辨率需要更多内存。

许可证,用大白话说

最常见的宽松型许可证之一。你可以使用、修改模型并基于它销售产品,只需遵守少量条件。

进一步了解 Apache 2.0

延伸阅读

常见问题

Whistle 是什么?
Whistle 是一个只有 16.9 MB 的小型语音转文字模型。它能转写七种欧洲语言,给每个词标出时间戳,在普通处理器上就能运行,不需要显卡。它用一点准确率换来了体积和速度,适合手机、可穿戴设备和其他小型设备。
Whistle 可以商用吗?
可以。Whistle 采用 Apache 2.0 发布,这是一种宽松许可证。只要遵守常规条件(例如保留许可证声明),就可以商用。
Whistle 是开源的吗?
Whistle 采用 Apache 2.0 发布,该许可证经开源促进会(OSI)认可。训练数据和训练代码不一定公开,因此更准确的说法是“采用开源许可证的开放权重模型”。
我能在自己的电脑上运行 Whistle 吗?
可以。最小版本 Whistle (FP32 checkpoint) 在 4 位精度下约需 0.253 GB 内存,现代笔记本或中端显卡即可胜任。
Whistle 是什么时候发布的?
Whistle 由 Cactus Compute 于 2026年10月2日 发布。

官方链接

来源

规格数据来自以下一手资料。文中提到的基准测试结果由开发方自报。

发布时间等信息最近核实于 2026年11月11日。

相关模型

模型 发布时间 参数量 上下文 许可证 最小版本所需内存
Needle 3 Cactus Compute 121M 8K Apache 2.0 (宽松) 0.0835 GB 笔记本或手机
Parakeet TDT 0.6B v3 NVIDIA 627M – CC BY 4.0 (宽松) 2.89 GB 笔记本或手机
Granite Speech 5.0 IBM 470M – 2.31B – Apache 2.0 (宽松) 1.09 GB 笔记本或手机
Whisper large-v3-turbo OpenAI 810M – 1.54B – MIT (宽松) 6 GB 笔记本或手机