跳到正文

哪种 Whisper 模型大小适合你的电脑?

WhisPaste 提供三种量化 Whisper 模型,外加一个以处理器为主的替代引擎。告诉选择器你有多少显存,它就会应用应用本身用来推荐档位的同一规则。

简短回答:在 NVIDIA 或 Apple Silicon 上,显存约 2 GB 起即可从均衡型开始(Apple 为统一内存);AMD 和 Intel 显卡约需 4 GB。低于此值或没有 GPU 时,选择紧凑型。高级型在 NVIDIA 上约 3.6 GB 起推荐,在 Apple Silicon 上 4 GB 起,在 AMD 或 Intel 上 12 GB 起。三个档位都完全离线运行,都支持 99 种语言,你随时可以切换:应用只需重新下载一个文件。如果你在设置时选择的应用语言是 Parakeet 支持的 25 种欧洲语言之一,设置助手会预先选中 Parakeet。这是依据应用语言,而非你的说话语言。它在可用时使用 GPU,否则在处理器上运行;在处理器上,它在我们的基准测试中比紧凑型 Whisper 模型快数倍。

三个档位并排对比

WhisPaste 有意只提供三个档位,而不是完整的 whisper.cpp 模型目录。每个档位都是量化的 GGML 版本,因此下载文件都远小于 1 GB。你在设置中选择档位;应用会下载一个文件、校验其校验和,然后切换过去。

WhisPaste 提供的模型
档位模型下载显存
Quick & Compactwhisper-small (q5_1)181 MB~900 MB
Balancedwhisper-medium (q5_0)514 MB~1.5 GB
Best Qualitywhisper-large-v3-turbo (q5_0)547 MB~2.6 GB
Parakeetparakeet-tdt-0.6b-v3 (int8)639 MBGPU 可选,否则处理器

获取推荐

你的图形硬件

Apple Silicon 使用统一内存:请输入系统总内存。

你的硬件信息不会被发送到任何地方:推荐结果在你的浏览器中计算。

你的推荐

已关闭 JavaScript,因此下方会说明所有档位。上方的对比表提供的信息相同。

Quick & Compact — whisper-small

下载大小 181 MB,约需 900 MB 显存,是让配置有限的机器保持流畅的档位。对于集成显卡、较旧的显卡以及完全没有 GPU 的设备,它都是合适的起点。在较难的音频上,准确度低于更大的档位;但对于用不错的麦克风录制的清晰语音,两者的差距较小。

Balanced — whisper-medium

下载大小 514 MB,约需 1.5 GB 显存。这是大多数人应该使用的档位:在口音和专业词汇上通常比紧凑型更准确,又不像最高档位那样占用大量显存。在 Apple Silicon 上,2 GB 统一内存即可运行;从 4 GB 起,选择器会推荐高级型。

Best Quality — whisper-large-v3-turbo

下载大小 547 MB,约需 2.6 GB 显存。large-v3 的 turbo 变体是 WhisPaste 提供的最大模型。在约 4 GB 或更大的独立显卡上,或在 Apple Silicon 上有 4 GB 或更多统一内存时,它才值得选择;当你的音频较难识别时,例如语速快、人名陌生、专业词汇多,就应选择这一档。

也可以考虑:Parakeet

Parakeet 是第二种设备端引擎,并非 Whisper 的某个档位。下载大小为 639 MB 的 CPU 版本;启用 GPU 加速时还会加上约 638 MB 的 GPU 模型。在处理器上,它仍比 Whisper 快好几倍——因此在没有可用图形加速的机器上,它是最有力的选择。取舍在于语言覆盖范围:支持 25 种欧洲语言,而 Whisper 支持 99 种。

推荐是如何得出的

上方的选择器并非猜测,它使用了应用本身的同一套阈值。独立 NVIDIA 显卡按其报告显存的约 70% 计算,因为操作系统和其他进程也会占用一部分:报告显存约 2.1 GB 即可达到均衡型,约 3.6 GB 即可达到高级型。Apple Silicon 的判断较为宽松,因为统一内存确实是共享的:均衡型需要 2 GB,高级型需要 4 GB。集成的 AMD 和 Intel 显卡判断最为谨慎——它们把借用的系统内存当作自己的内存报告,因此只有约 12 GB 及以上才会推荐高级型。

语言比硬件更重要

在优化档位之前,先检查语言。Whisper 在每个档位都支持 99 种语言,因此更大的模型不会解锁新语言,只是让同一种语言转写得更准确。Parakeet 则是相反的取舍:在处理器上快得多,但仅限 25 种欧洲语言,包括德语、英语、法语、西班牙语、意大利语、波兰语、荷兰语、乌克兰语和俄语。如果你的语言在此列表中,并且你的机器没有可用的 GPU,那么在速度上 Parakeet 会胜过任何 Whisper 档位。设置助手会根据你在设置时选择的应用语言预先选中 Parakeet,而非你的说话语言。

首次使用之前

我应该从哪种 Whisper 模型大小开始?
在 NVIDIA 或 Apple Silicon 上,显存约 2 GB 起选择均衡型(whisper-medium);AMD 或 Intel 上则从 4 GB 起。低于此值或没有 GPU 时选择紧凑型(whisper-small)。之后切换只需一次下载,因此无需在一开始就反复纠结。
最大的模型是否总是最佳选择?
不。无法放入显存的模型可能失败或运行缓慢。WhisPaste 会随之回退到更小的模型,因此能舒适放入的模型是更安全的选择。在来自不错麦克风的清晰音频上,准确度也会趋于平稳——更大的档位真正的价值体现在口音、噪音和专业词汇上。
以后可以更改模型大小吗?
可以。档位是一项设置;应用会下载对应文件一次,校验后从此使用它。你的其他设置都不会改变。