跳到正文

Whisper 对比 Parakeet:真实的基准测试数据

网上大多数语音引擎对比都引用没有出处的数字。本页精确展示每个数字是如何得出的,并附上生成它的脚本——两种引擎在同一台机器、相同条件下并排测量。

测试方法

下表展示了各引擎实际的速度和准确度,均在同一台机器(Apple M5)上测得,没有营销式的取整。Whisper 的 CPU 行使用 4 个线程,Parakeet 使用 8 个线程,因此 CPU 行并非逐线程对比。实时因子(RTF)是处理时间除以音频时长,数值越低越快,1.0× 表示恰好实时。词错误率(WER)是标准的词级编辑距离(替换 + 删除 + 插入)除以参考词数,并在测试集的所有语音上进行微平均:先汇总编辑次数和参考词数,而不是对每条语音的 WER 取平均,后者会过度加权短句。测试集是 LibriSpeech dev-clean 中的 20 段语音(总计约 94 秒,采用 CC BY 4.0 许可,Panayotov 等,2015)——这是取自公共领域有声读物的朗读语音,附有已知的标准转写文本。这仍然是一个小规模、干净语音的样本;带口音、背景噪音或语速快的真实音频得分会更低。请把此处的每一行都视为下限,而非保证。whisper.cpp 被刻意列了两次:一次启用 GPU 后端(Metal),一次显式禁用 GPU(-ng/--no-gpu),因此仅使用 CPU 的那一行与 Parakeet 的 CPU 行是在同一硬件上的公平对比。Parakeet 还可以使用 GPU:在 Apple M5 上,使用 q8_0 模型处理 18 段德语语音(456 秒音频)为 7.0 秒,而 CPU 为 38.3 秒;在搭载 Intel Iris Xe(Vulkan)的 Windows 笔记本上,处理 18 段德语语音(276 秒)为 14.1 秒,而 CPU 为 27.1 秒。这些运行不在表格中,因为它们是在其他音频上测得的。

硬件类别引擎模型速度准确度
Apple Silicon (Metal)whisper.cppsmall (Compact)8.5× 快于实时
RTF 0.1173×
96.6% 的词正确
WER 3.4 %
已测量
Apple Silicon (CPU)whisper.cppsmall (Compact)3.3× 快于实时
RTF 0.3068×
96.6% 的词正确
WER 3.4 %
已测量
Apple Silicon (CPU)Parakeet (sherpa-onnx)parakeet-tdt-0.6b-v334.7× 快于实时
RTF 0.0288×
98.1% 的词正确
WER 1.9 %
已测量

一目了然的差距

whisper.cpp (CPU)3× 快于实时
Parakeet (CPU)35× 快于实时

两种引擎都只使用 CPU,在同一台机器上测试,两边都没有 GPU 优势(Whisper 使用 4 线程,Parakeet 使用 8 线程)。

这些数字是如何测量的

这些数字来自同一台 Apple Silicon 机器,每种引擎在相同条件下各测量一次。其他硬件——不同芯片、散热状态、后台负载——会得到不同的数字。下方的脚本精确展示了测量内容和方法,供你核对细节。

在 GitHub 上查看 whisper.cpp 基准测试脚本 · 在 GitHub 上查看 Parakeet 基准测试脚本