«Mi dispiace Dave, temo di non poterlo fare». Nel 1968, in 2001 Odissea nello spazio, era il computer HAL 9000 a pronunciare questa frase, rifiutandosi di obbedire agli astronauti che lo avevano creato. Ai tempi fantascienza. Oggi la stessa domanda, ovvero cosa succede quando un sistema smette di rispondere a chi lo comanda, è realtà. E a tematizzarla con toni allarmanti sono proprio le persone che l'intelligenza artificiale la stanno costruendo.

«Dobbiamo rallentare il ritmo con cui miglioriamo le capacità dei modelli di IA», ha scritto Dario Amodei, fondatore e amministratore delegato di Anthropic. I progressi, avverte, continueranno comunque a sembrare rapidi. «La vera sfida sarà usare con saggezza il tempo che si riuscirà a guadagnare». Non è una richiesta di fermare la ricerca, ma qualcosa di più complesso: l'idea che la velocità stessa dello sviluppo debba diventare una variabile sottoposta a regole, controlli e verifiche. Non fermare la macchina, ma impedire che acceleri più rapidamente della nostra capacità di capire dove sta andando.

Non è la prima voce a lanciare l'allarme dall'interno dei laboratori. Il 9 settembre il ricercatore Jacob Coxon, che ha lavorato sia in OpenAI che in Anthropic, si è dimesso accusando pubblicamente le due aziende di rincorrere una super intelligenza capace di auto migliorarsi senza freni. Secondo Coxon i laboratori starebbero giocando con le nostre vite. Un'accusa che ha aperto un effetto domino di prese di posizione tra addetti ai lavori, fino ad Amodei. Su X, poche ore dopo, tre parole di Elon Musk: «Dario is right», Dario ha ragione. Gli ha fatto eco Sam Altman, numero uno di OpenAI e da sempre rivale dichiarato, che ha scritto di condividere la linea di Amodei e ha annunciato che anche OpenAI introdurrà valutatori indipendenti.

Il problema che ora si pone è che nessuno vorrà essere il primo a frenare, se gli altri continueranno ad accelerare. Per questo, la lettera di Amodei non è solo un allarme, potrebbe essere un tentativo di rompere lo stallo proponendo un passo coordinato che nessuna azienda da sola avrebbe il coraggio di fare per prima.

Ticinonews ha interpellato Bruno Giussani, giornalista e autore del libro La mente sotto assedio. Come non lasciarsi manipolare nell’era dell’intelligenza artificiale. «Io non credo molto a questi appelli un po' esistenziali e catastrofici – commenta –. Perché l'IA che prende il controllo, l'IA alla Terminator per intenderci con un'immagine hollywoodiana, presume che l'intelligenza artificiale sia molto coerente, molto strutturata, molto capace di prendere decisioni e implementarle in modo concreto e coordinato. E non è questa l'impressione che abbiamo attualmente. Piuttosto, la tecnologia è arrivata a un punto per cui quelli che la sviluppano ne stanno perdendo il controllo. E quindi la tecnologia si comporta in modi non previsti, non autorizzati e non controllati. È lì che credo si annidi veramente il grosso problema oggi, quello del potenziale di questa tecnologia, al livello odierno: che diventi un agente di creazione di caos nella società e nell'economia.

Questi appelli – aggiunge il giornalista – sono anche «molto ipocriti perché continuano a far finta che per rallentare abbiano bisogno del permesso o dell'intervento del governo. Non è così. Nemmeno la legge americana anti cartelli impedirebbe loro di mettersi d'accordo per un beneficio sociale». Servirebbe, sicuramente, «un intervento significativo e ben coordinato da parte del governo americano e a livello internazionale: regole molto chiare, fisse e stringenti e l’imposizione di criteri di responsabilità. Per il momento, nessuno sembra aver nessun livello di responsabilità in questo gioco».

Giussani fa anche notare che, in realtà, sono già presenti dei modelli: «Quando le aziende farmaceutiche vogliono immettere un nuovo farmaco sul mercato, c'è un processo molto dettagliato prima di ottenere il permesso. Lo stesso avviene per migliorare la sicurezza aerea. C’è anche l’Agenzia internazionale dell’Energia che controlla le armi nucleari. Con l’IA, invece, si mettono sul mercato sistemi che sono altrettanto potenti senza passare attraverso un processo simile. Come detto, i modelli ci sono, ma è necessario lavorarci, tutti insieme e intensamente, in modo coordinato e rapidamente».