Vai al contenuto

Quale dimensione del modello Whisper va bene per il tuo computer?

WhisPaste distribuisce tre modelli Whisper quantizzati più un'alternativa pensata prima di tutto per il processore. Indica al selettore quanta memoria grafica hai e applicherà la stessa regola che l'app usa per consigliare un livello.

In breve: su NVIDIA o Apple Silicon parti da Balanced con circa 2 GB di memoria grafica (su Apple: memoria unificata); con le schede AMD o Intel servono circa 4 GB. Sotto questa soglia o senza GPU resta su Compact. Best Quality è consigliato da circa 3,6 GB su NVIDIA, da 4 GB su Apple Silicon e da 12 GB su AMD o Intel. Tutti e tre i livelli funzionano completamente offline, coprono 99 lingue e puoi cambiare in qualsiasi momento: l'app scarica di nuovo un solo file. Se la lingua dell'app che scegli durante la configurazione è una delle 25 lingue europee supportate da Parakeet, l'assistente di configurazione preseleziona Parakeet, che usa la GPU se disponibile, altrimenti il processore, ed era diverse volte più veloce del modello Whisper compact nel nostro benchmark.

I tre livelli a confronto

WhisPaste offre deliberatamente tre livelli invece dell'intero catalogo di whisper.cpp. Ognuno è una build GGML quantizzata, ed è il motivo per cui i download restano ben sotto il gigabyte. Scegli un livello nelle impostazioni; l'app scarica un solo file, ne verifica il checksum e poi passa a quello.

Cosa distribuisce WhisPaste
LivelloModelloDownloadMemoria grafica
Quick & Compactwhisper-small (q5_1)181 MB~900 MB
Balancedwhisper-medium (q5_0)514 MB~1.5 GB
Best Qualitywhisper-large-v3-turbo (q5_0)547 MB~2.6 GB
Parakeetparakeet-tdt-0.6b-v3 (int8)639 MBGPU facoltativa, altrimenti processore

Ottieni un consiglio

Il tuo hardware grafico

Memoria unificata su Apple Silicon: inserisci la memoria di sistema totale.

I dati sul tuo hardware non vengono inviati da nessuna parte: il consiglio viene calcolato nel tuo browser.

Il tuo consiglio

JavaScript è disattivato, quindi tutti i livelli sono descritti qui sotto. La tabella di confronto sopra riporta le stesse informazioni.

Quick & Compact — whisper-small

Un download da 181 MB che richiede circa 900 MB di memoria grafica, ed è il livello che mantiene reattivo un computer modesto. È il punto di partenza giusto con la grafica integrata, con una scheda datata o senza alcuna GPU. Sull'audio difficile la precisione è inferiore ai livelli più grandi; con un parlato chiaro registrato con un microfono decente la differenza è minore.

Balanced — whisper-medium

Un download da 514 MB che richiede circa 1,5 GB di memoria grafica. È il livello su cui dovrebbe stare la maggior parte delle persone: di solito più preciso di Compact con accenti e vocabolario tecnico, senza la fame di memoria del livello più alto. Su Apple Silicon bastano 2 GB di memoria unificata; da 4 GB il selettore consiglia Best Quality.

Best Quality — whisper-large-v3-turbo

Un download da 547 MB che richiede circa 2,6 GB di memoria grafica. La variante turbo di large-v3 è il modello più grande distribuito da WhisPaste. Vale la pena con una scheda dedicata da circa 4 GB o più, o con 4 GB o più di memoria unificata su Apple Silicon, ed è il livello da scegliere quando l'audio è difficile: parlato veloce, nomi poco familiari, vocabolario specialistico.

Da considerare anche: Parakeet

Parakeet è il secondo motore sul dispositivo, non un livello di Whisper. Il download è di 639 MB per il pacchetto CPU; con l'accelerazione GPU attiva si aggiunge il modello GPU, di circa 638 MB. Sul processore è comunque diverse volte più veloce di Whisper — il che lo rende l'opzione migliore su un computer senza un'accelerazione grafica utilizzabile. Il compromesso è la copertura linguistica: 25 lingue europee invece delle 99 di Whisper.

Come funziona il consiglio

Il selettore qui sopra non è un'ipotesi: applica le stesse soglie che usa l'app. Le schede NVIDIA dedicate vengono valutate in base a circa il 70% della memoria dichiarata, perché il sistema operativo e gli altri processi ne occupano una parte: circa 2,1 GB dichiarati per arrivare a Balanced, circa 3,6 GB per arrivare a Best Quality. Apple Silicon viene trattato in modo generoso, perché la memoria unificata è davvero condivisa: 2 GB per Balanced, 4 GB per Best Quality. La grafica integrata AMD e Intel è trattata con la massima cautela: dichiara come propria la memoria di sistema che in realtà prende in prestito, quindi Best Quality viene consigliato solo a partire da circa 12 GB.

La lingua conta più dell'hardware

Prima di ottimizzare il livello, controlla la lingua. Whisper copre 99 lingue su ogni livello: un modello più grande non sblocca una lingua nuova, trascrive soltanto la stessa lingua con maggiore precisione. Parakeet è il compromesso opposto: molto più veloce su un processore, ma limitato a 25 lingue europee, tra cui tedesco, inglese, francese, spagnolo, italiano, polacco, olandese, ucraino e russo. Se la tua lingua è in quell'elenco e il computer non ha una GPU utilizzabile, Parakeet batte qualsiasi livello di Whisper in velocità. L'assistente di configurazione preseleziona Parakeet quando la lingua dell'app che scegli durante la configurazione è una di queste.

Prima di iniziare

Quale dimensione del modello Whisper conviene scegliere all'inizio?
Balanced (whisper-medium) da circa 2 GB di memoria grafica su NVIDIA o Apple Silicon, da 4 GB su AMD o Intel. Compact (whisper-small) sotto questa soglia o senza GPU. Cambiare in seguito costa un solo download, quindi non serve arrovellarsi già all'inizio.
Il modello più grande è sempre la scelta migliore?
No. Un modello che non entra nella memoria grafica può fallire o funzionare lentamente. WhisPaste ripiega allora su un modello più piccolo, quindi un modello che ci sta comodamente è la scelta più sicura. Anche la precisione si stabilizza con audio pulito da un microfono decente: i livelli più grandi si ripagano con accenti, rumore di fondo e vocabolario specialistico.
Posso cambiare la dimensione del modello in seguito?
Sì. Il livello è un'impostazione: l'app scarica una volta il file corrispondente, lo verifica e da quel momento lo usa. Nient'altro nella tua configurazione cambia.