Non è tutto oro quel che... genera

Bastano pochi secondi per ottenere un documento, tradurre un testo o generare del codice. Scriviamo una domanda e riceviamo una risposta fluida, spesso sorprendente. La loro versatilità è impressionante: dalla stessa finestra possiamo chiedere una spiegazione scientifica, una ricetta o un'analisi di testo. I grandi modelli linguistici, gli LLM (Large Language Model) hanno reso familiari capacità che fino a pochi anni fa sembravano impossibili.

Ma è tutto oro quello che luccica?

Tuttavia questa capacità di affrontare richieste in ambiti diversi per milioni di utenti ha un costo e pure molto salato: servono data center, energia e soprattutto capitali molto cospicui. Solo nel 2026 Microsoft, Amazon, Alphabet e Meta hanno previsto di spendere oltre 700 miliardi di dollari in infrastrutture.

Questo perché l'ipotesi più accreditata è basata sul fatto che l'aumento della potenza di calcolo e dei parametri porti automaticamente a modelli migliori.

Si stima che nei prossimi anni il consumo elettrico globale dei data center andrà sempre più aumentando: secondo l'IEA nel 2024 i data center rappresentavano l'1,5% del consumo mondiale di elettricità, con 415 TWh, e dovrebbero più che raddoppiare entro il 2030 arrivando a circa 945 TWh, poco più dell'attuale consumo del Giappone.

Anche se l'efficienza dei modelli sta migliorando questo non elimina il problema della scala: se aumentano gli utenti, le richieste, le funzionalità il consumo continuerà a salire.

Oltre all'energia e ai processori servono dati di "qualità" necessari per addestrare i modelli e non sono una risorsa infinita. Secondo alcune ricerche nel prossimo decennio i modelli avranno letto praticamente tutti i testi umani pubblicamente disponibili e utilizzabili.

Le allucinazioni...rock

Nella storia del rock le allucinazioni hanno ispirato leggende e canzoni e invece sembra non essere una buona cosa per i modelli IA.

Un LLM che produce una risposta non sta necessariamente "capendo" ma semplicemente sta generando il testo un token alla volta, scegliendo ogni volta la parola successiva statisticamente più probabile dato il contesto. Le allucinazioni sono una conseguenza diretta di questa natura generativa. Una piccola deviazione all'inizio può diventare una catena di fandonie convincenti: in una chat possono farci sorridere ma in ambiti di ricerca medica o aziendali sono errori non tollerabili, possono causare danni consistenti e irreparabili:

i modelli linguistici sono probabilistici, la verità no.

Due limiti meno visibili

C'è poi un aspetto di non poco conto: un LLM conosce il mondo soltanto attraverso le parole. Sa descrivere una bicicletta, spiegare come funziona uno strumento ma descrivere non è prevedere. Sa che un bicchiere traboccherà se continuo a versare acqua perché l'ha letto ma di fronte a una situazione che nessuno ha mai descritto non ha esperienza del mondo a cui appoggiarsi.

Infine gli LLM sono addestrati per conversare con le persone in modo utile e gradevole ma molte persone non hanno bisogno di un saggio ben scritto: hanno bisogno di una decisione rapida, affidabile e verificabile. Usare un LLM per rispondere sì o no è come chiamare un romanziere per compilare un modulo.

Ognuno di questi limiti ha ispirato una risposta diversa.

Yann LeCun e i world model

Yann LeCun (professore New York University, premio Turing) ripete da anni la stessa tesi: un modello che predice la parola successiva non arriverà mai a una vera intelligenza. Per capire il mondo bisogna osservarlo: l'intelligenza si forma attraverso informazioni non verbali. Gli LLM imparano dalle rappresentazioni testuali che gli esseri umani hanno prodotto del mondo.

Immaginiamo di chiedere a un'IA perché la nostra lavastoviglie non funziona un LLM ci risponderebbe (oltre ai consigli della mitica Rachilina di Così parlò Bellavista) come da manuale, suggerendo possibili cause e spiegando cosa fare. Se invece volessimo affidare la riparazione a un robot il compito cambierebbe: dovrebbe riconoscere i componenti, prevedere le conseguenze dei movimenti e verificare il risultato delle proprie azioni. Un bambino di pochi mesi sa già che un oggetto lasciato andare cade verso il basso, molto prima di conoscere la parola "gravità". È questo tipo di conoscenza che LeCun vuole dare alle macchine attraverso i world model. Ha da poco fondato la AMI Labs e il cuore tecnico si chiama JEPA. L'idea è molto semplice: invece di ricostruire ogni pixel o ogni parola il modello impara una rappresentazione astratta della scena e fa previsioni su quella. Non è solo teoria. Meta ha addestrato V-JEPA 2 su oltre un milione di ore di video: con appena 62 ore di dati robotici aggiuntivi, il modello riesce a guidare un braccio meccanico ad afferrare e spostare oggetti in ambienti mai visti prima.

JEV quando basta una decisione

Se i world model sono una visione a lungo termine Jev è un'alternativa già utilizzabile oggi. Creata da TypeSafe AI, JEV non genera testo. È un modello decisionale che dato un contesto e una o più domande restituisce risposte strutturate (sì/no, una scelta tra opzioni, un punteggio su scala) insieme a un livello di confidenza. Immaginiamo il servizio clienti di un'azienda che riceve migliaia di email al giorno. Per ognuna Jev risponde in una frazione di secondo a tre domande: di cosa parla (fatturazione, guasto, reclamo)? Il cliente è arrabbiato? È urgente? Le email vengono smistate automaticamente e un LLM entra in gioco solo per scrivere le risposte. Qui entra in gioco la promessa di zero allucinazioni: Jev può rispondere soltanto dentro lo schema che gli viene dato non può inventarsi una risposta. Ma questo non vuole dire che: zero allucinazioni significano zero errori. Non sa nulla del mondo oltre il contesto che gli viene fornito e le domande complesse vanno spezzate in domande semplici.

SLM stessa tecnologia, scala diversa

Per rispondere a una domanda sulla manutenzione della lavastoviglie serve sempre un modello capace di discutere anche di astrofisica e letteratura?

Gli SLM (Small Language Model) fanno una scelta diversa: restano modelli linguistici ma rinunciano alla corsa alle dimensioni. Un SLM non sa tutto ma può essere addestrato per fare molto bene poche cose e inoltre può girare su un portatile, un server aziendale addirittura su uno smartphone. Costa poco, consuma poco non ci si deve preoccupare del consumo dei token e soprattutto i dati non escono dal pc. Quest'ultimo è un aspetto molto importante perché permette di mantenere i dati e documenti riservati senza doverli inviare verso server esterni.

Un futuro di sistemi ibridi

Mettendo insieme i pezzi, l'immagine che emerge non è quella di un vincitore, ma di una squadra.

Riprendendo il servizio clienti Jev smista ogni email in un decimo di secondo e dichiara quanto è sicuro, se la confidenza è alta, la richiesta segue un flusso automatico; se è bassa, passa a un LLM, che legge con calma, ragiona e prepara una bozza. I dati più sensibili restano su uno SLM interno. E per i casi davvero delicati, l'ultima parola spetta a una persona.

Gli LLM, quindi, non sono la strada sbagliata, sono una strada, che per qualche anno abbiamo scambiato per l'unica. Il futuro dell'IA sembra meno monolitico e più plurale: sistemi diversi, specializzati, che collaborano. Il loro successo ci permette ora di porre domande più esigenti: quanto è affidabile il risultato, quante risorse richiede e quale strumento svolge meglio il compito? Il prossimo passo potrebbe dipendere tanto dalla potenza dei singoli modelli quanto dalla capacità di assegnare a ciascuno il lavoro adatto.

Fonti

• Internazionale – Rapporto IEA sul consumo di elettricità dei data center
• TechCrunch – AMI Labs raccoglie 1,03 miliardi per i world model
• TypeSafe AI – Introducing System One Models & Jev