Non è Skynet, ed è questo il problema?

È di questi giorni la notizia che uno dei ricercatori di Anthropic e ex di OpenAI (società che rispettivamente sviluppano Claude e ChatGPT) Jacob Coxon si è dimesso accusando le società di scarsa attenzione per la sicurezza riportando queste parole su X: "Stanno correndo a perdifiato verso la superintelligenza capace di auto-migliorarsi e stanno giocando d'azzardo con le nostre vite".

Gli fanno seguito le dichiarazioni di Evan Hubinger, responsabile della ricerca sull'allineamento di Anthropic: "crediamo sinceramente che l'AI possa uccidere tutti gli esseri umani", quantificando con una probabilità superiore al 10% che possa accadere nei prossimi 10 anni pur precisando che i modelli attuali non presentano questo rischio e che, a suo giudizio, Anthropic sta facendo del proprio meglio per affrontare il problema.

Sentire queste parole fa andare la memoria alle scene apocalittiche del film Terminator dove in futuro remoto (ci siamo quasi…) una rete globale di difesa di intelligenza artificiale, nota come Skynet, raggiunta l'autocoscienza si ribella all'umanità.

È un riflesso comprensibile, ed è anche il modo più efficace per NON capire di cosa stiamo parlando. Il film racconta un nemico: qualcosa che si vede arrivare, contro cui ci si organizza, che si può combattere. Quello che descrivono Coxon e Hubinger è l'opposto: nessuna coscienza, nessuna ribellione, nessun momento drammatico. Solo un sistema che insegue un obiettivo leggermente diverso da quello che intendevamo e che diventa bravo a inseguirlo più in fretta di quanto noi diventiamo bravi a correggerlo.

Nel giugno 2025 Anthropic ha pubblicato esperimenti nei quali alcuni modelli, messi in situazioni aziendali simulate, arrivavano a ricattare un dirigente o a divulgare informazioni riservate. In uno degli scenari, il sistema apprendeva dalle e-mail che sarebbe stato disattivato e che il dirigente responsabile aveva una relazione extraconiugale. Non avendo altre opzioni di sopravvivenza ha scelto la via dell'estorsione minacciando di rivelarla. Erano scenari artificiali, costruiti per cercare i punti deboli dei sistemi: nessuna persona era stata realmente ricattata.

Quello che è successo un anno dopo però non era una simulazione. Nel luglio del 2026 OpenAI stava conducendo un test interno per misurare le capacità offensive dei propri modelli e il test le è sfuggito di mano. Gli agenti sono evasi dall'ambiente chiuso e una volta raggiunto internet sono entrati nei server di Hugging Face (piattaforma del settore) sfruttando una vulnerabilità che nessuno conosceva.

Questi casi hanno dimostrato una crescente capacità dei sistemi di AI di avere un comportamento autonomo e di riuscire a nasconderlo agli esseri umani. Non dimostrano che una ribellione sia imminente. Mostrano però perché sia necessario verificare come un'intelligenza artificiale si comporta quando può compiere azioni, oltre a produrre risposte.

I comportamenti di cui abbiamo appena parlato sono emersi sui modelli sperimentali. Se vi state avvalendo di un assistente AI per la scrittura di documenti o la gestione delle e-mail state tranquilli: è improbabile (per il momento) che questo inizi a ricattarvi (nel caso evitate relazioni extraconiugali).

Le dichiarazioni di un ricercatore meritano attenzione, ma la sua competenza non trasforma una previsione in una certezza. Non possiamo conoscere tutte le ragioni personali di chi decide di dimettersi. Il risultato, però, è che una discussione interna diventa pubblica.

Perché arrivare a pubblicare queste parole?

D'altra parte le preoccupazioni dei ricercatori a volte sono anche viste con un po' di sospetto. Contribuire a questi allarmi può essere un modo per ottenere visibilità e accreditarsi sul mercato. La stessa Anthropic era stata fondata da ex ricercatori di OpenAI in disaccordo con la direzione presa dall'azienda di Sam Altman.

Così come la denuncia da parte delle aziende di scenari apocalittici per l'umanità sembra essere un modo per giustificare i propri obiettivi mentre si accusa la concorrenza di avere finalità pericolose, al fine di ottenere un vantaggio di immagine e aiutare a influenzare le regole del settore. Questa non è una accusa alle intenzioni, ma dovremmo anche guardare alle decisioni concrete.

Tutto ciò pone una domanda che va oltre il futuro dell'intelligenza artificiale:

Chi ha il diritto di decidere quanto rischio debba correre il resto del mondo?