Perché contano le voci IA offline

Un romanzo sono otto-dodici ore di parlato. Grossomodo mezzo milione di caratteri. Quel numero è tutto l’argomento, quindi vale la pena fermarsi lì prima di ogni altra cosa.

1. Il costo smette di essere invisibile

La sintesi vocale cloud si paga a carattere. Alla scala di un libro non è un errore di arrotondamento: è esattamente il motivo per cui ogni servizio costruito su di essa vende un abbonamento invece di un acquisto. Puoi pagare ogni mese finché continui a leggere, oppure far girare il modello su hardware che già possiedi e non pagare nulla all’ora.

Non è un argomento contro gli abbonamenti in sé. È un argomento perché proprio la lettura, fra tutte le attività, non dovrebbe avere un contatore attaccato.

2. I tuoi libri non sono dati anonimi

Per pronunciare il tuo testo, un servizio cloud deve riceverlo. Per un articolo è banale. Per una libreria è il registro di tutto ciò che leggi, in ordine, a che ora del giorno e fino a dove sei arrivato. La cronologia di lettura è insolitamente rivelatrice: salute, fede, politica, lutti, qualunque cosa stessi cercando in silenzio il mese scorso.

E non sono solo libri. Le persone passano contratti, lettere mediche e manoscritti inediti negli strumenti di lettura ad alta voce. La narrazione sul dispositivo significa che quel contenuto non lascia mai il telefono, una garanzia che nessuna informativa può eguagliare.

3. Funziona dove leggi davvero

Metropolitane, aerei, strade di campagna, il Wi-Fi dell’albergo che chiede di riautenticarsi ogni novanta minuti. Una voce che vive sul tuo dispositivo parte nello stesso secondo, con cinque tacche o con nessuna. Una voce cloud fa buffering, singhiozza al limite della copertura e a diecimila metri si ferma del tutto.

C’è una versione più sottile: un motore sul dispositivo può generare in anticipo i prossimi paragrafi, così un cambio di capitolo non costa nulla. Nessuno se ne accorge quando funziona. Tutti se ne accorgono quando no.

4. Batteria e dati, sfumature incluse

La versione onesta: generare il parlato in locale usa il processore, trasmetterlo usa la radio. Nessuno dei due è gratis. In pratica un uso di rete continuo tende a costare più batteria di un modello piccolo ed efficiente, e la narrazione sul dispositivo non consuma alcun dato mobile, che per ascolti lunghi è il numero più grande.

Qui pesa il peso del modello. Un motore leggero come Piper si nota appena; uno più pesante come Kokoro chiede di più al chip e su un telefono datato si vede nell’autonomia. Sceglierne uno è una decisione vera, che trattiamo in Piper vs Kokoro.

5. Continua a funzionare

I servizi cloud cambiano. I prezzi salgono, i piani gratuiti chiudono, le API vengono dismesse, le aziende acquisite. Un modello vocale che sta nella memoria della tua app non ha nessuno di questi guasti: fra cinque anni ti leggerà esattamente come oggi, che qualcuno mantenga ancora o no il servizio che lo ha ispirato.

Per un’app di lettura, che le persone tengono per anni, quella stabilità vale quanto la qualità del suono.

Cosa è cambiato tecnicamente

Niente di tutto ciò era possibile fino a poco fa, e vale la pena essere precisi sul perché. I modelli neurali di parlato richiedevano un data center. Due cose lo hanno risolto: architetture che producono buon parlato con molti meno parametri, e chip da telefono diventati davvero rapidi in questo tipo di lavoro.

Piper nasce dal mondo open source degli assistenti vocali, con modelli piccoli per voce e attenzione a velocità e copertura linguistica. Kokoro ha preso l’altra strada, spendendo più capacità su quanto suoni umano il risultato pur restando abbastanza leggero per un telefono. Insieme coprono quasi tutto ciò che serve a chi legge, ed entrambi sono aperti: per questo un’app indipendente può includerli.

Le controobiezioni oneste

• Le migliori voci cloud restano superiori. Per espressività, voci dei personaggi e gamma emotiva vince un grande modello ospitato. Sul dispositivo il divario è quasi colmato, non del tutto.
• La copertura linguistica è irregolare. Alcune lingue hanno ottime voci sul dispositivo e altre nessuna. I servizi cloud, con più risorse, coprono di più.
• I modelli occupano spazio. Ogni voce scaricata prende memoria, un costo reale su un telefono da 64 GB.

Dove ci porta tutto questo: per un articolo isolato usa ciò che suona meglio. Per la tua libreria, la voce dovrebbe abitare dove abitano i libri.

Come appare nella pratica

Lectern include entrambi i motori, riconosce la lingua del libro che apri, propone una voce corrispondente, la scarica una volta e poi non ha più bisogno della rete. La frase pronunciata viene evidenziata perché tu possa seguire, lo schermo resta acceso durante la narrazione, e in tutta la catena non c’è alcun account.

Il punto non è che offline sia una funzione. Il punto è che un libro che possiedi, letto da una voce che gira sul tuo dispositivo, senza che nessuno tenga il registro, è ciò che la lettura era prima di diventare un servizio.

Domande frequenti