Перейти к содержанию

Какой размер модели Whisper подойдёт вашему компьютеру?

WhisPaste поставляет три квантованные модели Whisper и одну альтернативу, ориентированную на процессор. Укажите объём видеопамяти: подборщик применит то же правило, что и приложение при выборе уровня.

Коротко: на NVIDIA или Apple Silicon начинайте с уровня «Сбалансированно» примерно от 2 ГБ видеопамяти (Apple: общая память); для графики AMD и Intel нужно около 4 ГБ. Ниже этого или без GPU оставайтесь на «Быстро и компактно». «Лучшее качество» рекомендуется примерно от 3,6 ГБ на NVIDIA, от 4 ГБ на Apple Silicon и от 12 ГБ на AMD или Intel. Все три уровня работают полностью офлайн, охватывают 99 языков, и переключиться можно в любой момент: приложение загрузит один файл заново. Если язык приложения, который вы выбираете при настройке, входит в 25 европейских языков, которые поддерживает Parakeet, помощник настройки заранее выбирает Parakeet: он использует GPU, если она есть, а иначе процессор; на процессоре в нашем замере он был в несколько раз быстрее компактной модели Whisper.

Три уровня рядом

WhisPaste намеренно предлагает три уровня, а не весь каталог whisper.cpp. Каждый уровень — квантованная сборка GGML, поэтому загрузки остаются заметно меньше гигабайта. Уровень выбирается в настройках: приложение скачивает один файл, проверяет его контрольную сумму и переключается на него.

Что поставляет WhisPaste
УровеньМодельЗагрузкаВидеопамять
Quick & Compactwhisper-small (q5_1)181 MB~900 MB
Balancedwhisper-medium (q5_0)514 MB~1.5 GB
Best Qualitywhisper-large-v3-turbo (q5_0)547 MB~2.6 GB
Parakeetparakeet-tdt-0.6b-v3 (int8)639 MBGPU опционально, иначе процессор

Получите рекомендацию

Ваше графическое оборудование

Общая память на Apple Silicon: укажите весь объём системной памяти.

Данные о вашем оборудовании никуда не передаются: рекомендация вычисляется в вашем браузере.

Ваша рекомендация

JavaScript отключён, поэтому ниже описаны все уровни. Таблица сравнения выше даёт ту же информацию.

Быстро и компактно — whisper-small

Загрузка 181 МБ, для работы нужно около 900 МБ видеопамяти. Это уровень, который сохраняет отзывчивость на скромном компьютере. Он подходит как отправная точка для встроенной графики, старой видеокарты и любого компьютера без GPU. На сложном аудио точность ниже, чем у больших уровней; для чёткой речи с хорошего микрофона разница меньше.

Сбалансированно — whisper-medium

Загрузка 514 МБ, для работы нужно около 1,5 ГБ видеопамяти. Это уровень, на котором должны работать большинство людей: обычно точнее «Быстро и компактно» на акцентах и технической лексике, и при этом он не требует столько памяти, сколько верхний уровень. На Apple Silicon для него хватает 2 ГБ общей памяти; начиная с 4 ГБ подборщик рекомендует «Лучшее качество».

Лучшее качество — whisper-large-v3-turbo

Загрузка 547 МБ, для работы нужно около 2,6 ГБ видеопамяти. Турбо-вариант large-v3 — самая крупная модель, которую поставляет WhisPaste. Она стоит того при выделенной видеокарте примерно от 4 ГБ или при 4 ГБ и более общей памяти на Apple Silicon, и её стоит выбрать, когда аудио сложное: быстрая речь, незнакомые имена, специальная лексика.

Также стоит рассмотреть: Parakeet

Parakeet — второй локальный движок, а не уровень Whisper. Загрузка — 639 МБ для CPU-пакета; с включённым ускорением GPU добавляется GPU-модель примерно на 638 МБ. На процессоре он всё равно в несколько раз быстрее Whisper. Поэтому это сильнейший вариант на компьютере без пригодного ускорения графики. Компромисс — охват языков: 25 европейских языков вместо 99 у Whisper.

Как работает рекомендация

Подборщик выше не угадывает: он применяет те же пороговые значения, что и приложение. Выделенные видеокарты NVIDIA оцениваются примерно по 70 % заявленной памяти, потому что операционная система и другие процессы занимают свою долю: около 2,1 ГБ заявленной памяти для уровня «Сбалансированно» и около 3,6 ГБ для уровня «Лучшее качество». Apple Silicon оценивается щедро, так как общая память действительно разделяется: 2 ГБ для «Сбалансированно», 4 ГБ для «Лучшее качество». Встроенная графика AMD и Intel оценивается осторожнее всех: она показывает заимствованную системную память как собственную, поэтому «Лучшее качество» рекомендуется только примерно от 12 ГБ.

Язык важнее железа

Прежде чем подбирать уровень, проверьте язык. Whisper охватывает 99 языков на каждом уровне, поэтому большая модель не открывает новый язык, а лишь точнее расшифровывает тот же. Parakeet — обратный компромисс: он значительно быстрее на процессоре, но ограничен 25 европейскими языками, включая немецкий, английский, французский, испанский, итальянский, польский, нидерландский, украинский и русский. Если ваш язык есть в этом списке и на компьютере нет пригодного GPU, Parakeet обгонит любой уровень Whisper по скорости. Помощник настройки заранее выбирает Parakeet, если язык приложения, который вы выбираете при настройке, входит в этот список.

Перед первым запуском

С какого размера модели Whisper начать?
Уровень «Сбалансированно» (whisper-medium) примерно от 2 ГБ видеопамяти на NVIDIA или Apple Silicon, от 4 ГБ на AMD или Intel. «Быстро и компактно» (whisper-small) ниже этого или без GPU. Переключиться потом можно одной загрузкой, так что ломать голову заранее не нужно.
Всегда ли самая большая модель — лучший выбор?
Нет. Модель, которая не помещается в видеопамять, может не запуститься или работать медленно. Тогда WhisPaste переходит на меньшую модель, поэтому модель, которая спокойно помещается, — более надёжный выбор. На чистом аудио с хорошего микрофона точность почти не растёт: большие уровни окупаются на акцентах, шумном фоне и специальной лексике.
Можно ли изменить размер модели позже?
Да. Уровень — это настройка; приложение один раз загружает подходящий файл, проверяет его и использует дальше. Больше ничего в вашей конфигурации не меняется.