Whistle
只有 16.9 MB 的开放语音识别模型,支持七种语言,普通 CPU 即可运行,带词级时间戳,首个 token 约 11 ms。
一句话概括. Whistle 是一个只有 16.9 MB 的小型语音转文字模型。它能转写七种欧洲语言,给每个词标出时间戳,在普通处理器上就能运行,不需要显卡。它用一点准确率换来了体积和速度,适合手机、可穿戴设备和其他小型设备。
概述
Whistle 是旧金山创业公司 Cactus Compute 的语音识别模型,于 2026 年 10 月 2 日以 Apache 2.0 发布。整个模型就是公司自有 .cact 格式的一个 16.9 MB 文件,在一个无依赖的独立 C++ 引擎里用 CPU 运行。Hugging Face 仓库里另有一个 220.6 MB 的 FP32 检查点,参数量约 5500 万,这个数字是我们根据文件推算的。Whistle 能转写英语、德语、法语、西班牙语、意大利语、荷兰语和波兰语,除非你指定,否则自动检测语言;它会给出每个词的开始时间、结束时间和概率,也可以输出编码器的语音嵌入,每 80 毫秒的音频对应一个向量。
模型内部,8 个块的编码器通过带门控的交叉注意力连接到宽度 512 的 8 层解码器。解码器和 Cactus 的 Needle 3 模型共用构件,所以同一个引擎可以同时加载两者,把一句口头请求直接变成工具调用。解码使用 5 条束搜索,词表是 8192 个文本片段加 7 个语言标记,还有可选的关键词偏置,会让你传入的人名或术语更容易被识别。音频必须是 16 kHz 单声道。一次处理最长 30 秒,更长的音频会被分窗处理。引擎检测到静音时返回空转写。
开发者的博客只拿 Whistle 和两个小型识别模型做了对比:Whisper base(145.3 MB)和 Moonshine tiny v2(41.9 MB),测试用 Apple M4 Pro 的 CPU 处理 10 秒音频。Whistle 的首个 token 在 11.1 ms 出现,Whisper base 是 73.2 ms,Moonshine 是 22.8 ms;解码速度 Whistle 是每秒 1319 个 token,另两个分别是 266 和 262。在准确率上,博客称 Whistle 在 LibriSpeech test-clean 和 test-other、SPGISpeech、Earnings-22 以及 FLEURS 平均值上领先,而 Whisper base 在 TED-LIUM、AMI 和 MLS 平均值上领先。Whistle 的错误率是在 86,174 条语句上测得的,Whisper 和 Moonshine 用的是它们作者发表的数字。这些都是开发者自己的结果,我们没有复现。
Cactus 提供 17 个目标平台的预编译引擎,覆盖 macOS、Linux、Windows、Android,以及 iOS、watchOS、RISC-V、浏览器和 WASI。用 pip install cactus-compute 安装后,对 16 kHz 的 WAV 文件调用 cactus.transcribe 即可。公司还发布了关于用新语言或自己的词汇微调 Whistle,以及把它移植到其他运行时的指南。
适合做什么
- 在手机、可穿戴设备、树莓派级别的开发板和其他小设备上离线转写
- 语音指令,首个词在约 11 ms 后出现,比最后一点准确率更重要
- 用一个小模型同时得到词级时间戳和语音嵌入
- 商业产品,因为许可证是 Apache 2.0
需要注意
- 只覆盖七种语言,不支持中文、日语、韩语和阿拉伯语
- 博客只和小型识别模型做了对比,不要默认它能赶上 Parakeet 或 Cohere Transcribe 这类更大的模型
- 一次处理 30 秒,更长的音频会被切成窗口
- 文中的速度来自 Cactus 自己的引擎和 `.cact` 文件,用其他运行时需要自行移植
- 准确率和速度数字都是开发者自己报告的
性能数据来自开发方,未经独立验证。
需要多少内存?
以下是 Whistle 各版本的内存数据。图像、视频、语音和音乐管线还要加载文本编码器和解码器,所以所需内存可能比主检查点更大。
| 版本 | 参数量 | 下载大小 | 所需内存 | 可运行于 |
|---|---|---|---|---|
| Whistle (FP32 checkpoint) FP32 | 55M | 0.22 GB | 0.253 GB | 笔记本或手机 |
下载大小包含运行模型所需的全部组件,例如生成器、文本编码器和解码器。所需内存优先采用开发方声明或已公开的实测最低值;没有时按下载大小加约 15% 估算。更大的图像、更长的片段和更高的分辨率需要更多内存。
许可证,用大白话说
最常见的宽松型许可证之一。你可以使用、修改模型并基于它销售产品,只需遵守少量条件。
延伸阅读
常见问题
- Whistle 是什么?
- Whistle 是一个只有 16.9 MB 的小型语音转文字模型。它能转写七种欧洲语言,给每个词标出时间戳,在普通处理器上就能运行,不需要显卡。它用一点准确率换来了体积和速度,适合手机、可穿戴设备和其他小型设备。
- Whistle 可以商用吗?
- 可以。Whistle 采用 Apache 2.0 发布,这是一种宽松许可证。只要遵守常规条件(例如保留许可证声明),就可以商用。
- Whistle 是开源的吗?
- Whistle 采用 Apache 2.0 发布,该许可证经开源促进会(OSI)认可。训练数据和训练代码不一定公开,因此更准确的说法是“采用开源许可证的开放权重模型”。
- 我能在自己的电脑上运行 Whistle 吗?
- 可以。最小版本 Whistle (FP32 checkpoint) 在 4 位精度下约需 0.253 GB 内存,现代笔记本或中端显卡即可胜任。
- Whistle 是什么时候发布的?
- Whistle 由 Cactus Compute 于 2026年10月2日 发布。
官方链接
来源
规格数据来自以下一手资料。文中提到的基准测试结果由开发方自报。
- Cactus Compute: Whistle, Speech to Text in 16.9 MB (2 Oct 2026) cactuscompute.com
- Whistle model card (Hugging Face) huggingface.co
- Cactus Compute: Fine-tuning Whistle cactuscompute.com
发布时间等信息最近核实于 2026年11月11日。
相关模型
| 模型 | 发布时间 | 参数量 | 上下文 | 许可证 | 最小版本所需内存 |
|---|---|---|---|---|---|
| Needle 3 Cactus Compute | 121M | 8K | Apache 2.0 (宽松) | 0.0835 GB 笔记本或手机 | |
| Parakeet TDT 0.6B v3 NVIDIA | 627M | – | CC BY 4.0 (宽松) | 2.89 GB 笔记本或手机 | |
| Granite Speech 5.0 IBM | 470M – 2.31B | – | Apache 2.0 (宽松) | 1.09 GB 笔记本或手机 | |
| Whisper large-v3-turbo OpenAI | 810M – 1.54B | – | MIT (宽松) | 6 GB 笔记本或手机 |