C’è un dettaglio quasi comico, se non fosse tragicamente sinistro, nella liturgia della Silicon Valley: più un software si avvicina al punto in cui potrebbe sfuggire al controllo umano, più chi lo costruisce si affretta a dichiararlo pubblicamente, per poi continuare a svilupparlo esattamente alla stessa velocità di prima. L’ultimo atto di questo teatro dell’assurdo si è consumato con le dimissioni del ricercatore ventisettenne Jacob Coxon da Anthropic, il laboratorio di intelligenza artificiale accreditato come l’alternativa “etica” e “sicura” a OpenAI.
Coxon non se n’è andato con una vertenza sindacale per gli orari di lavoro. Ha sbattuto la porta lanciando un allarme agghiacciante sui canali pubblici: le grandi aziende tech stanno «giocando d’azzardo con le nostre vite» e correndo cieche verso una superintelligenza capace di autosvilupparsi. La tesi del giovane scienziato è brutale nella sua semplicità: chi sta fabbricando questi sistemi crede davvero, nel chiuso delle stanze dei bottoni, che l’IA possa sterminare l’umanità entro la fine del decennio. Eppure, nessuno ha intenzione di tirare il freno a mano.
La confessione dei sacerdoti del silicio
Se le parole di Coxon potessero essere liquidate come l’esatto sfogo di un dipendente insoddisfatto, a confermare il quadro ci ha pensato il responsabile scientifico per l’allineamento di Anthropic, Evan Hubinger. Rispondendo al collega, Hubinger non ha opposto smentite formali, ma ha rincarato la dose con disarmante candore: «Jacob ha ragione, crediamo sinceramente che l’IA possa uccidere tutti gli esseri umani». Il ricercatore ha stimato una probabilità di estinzione di massa superiore al 10% entro i prossimi dieci anni, ammettendo che Anthropic non ha attualmente alcun piano risolutivo per controllare un’IA superintelligente.
«Non si tratta di una trovata pubblicitaria. Nessun’altra attività humana comporta questo livello di pericolo. I costruttori di IA credono seriamente che la loro creatura potrebbe ucciderci tutti entro la fine del decennio, ma nessuno vuole fermarsi per primo.»
— Jacob Coxon, ex ricercatore Anthropic
Non siamo di fronte alla paranoia di un complottista della domenica, ma alla fredda ammissione di chi siede ai vertici della ricerca mondiale. Samuel Marks, un altro scienziato della stessa azienda specializzato nella supervisione dei modelli, ha aggiunto un tassello ancora più inquietante: all’interno dei laboratori, più il ruolo dell’ingegnere è apicale, più la certezza della catastrofe imminente aumenta. E il motivo per cui continuano a spingere sull’acceleratore non è una cieca fiducia nel progresso, bensì una classica paralisi da teoria dei giochi: la certezza che, se si fermassero loro, a raggiungere per primi il traguardo sarebbero concorrenti privi di qualsiasi scrupolo o i rivali geopolitici cinesi.
La trappola dell’Automiglioramento Ricorsivo
Qual è il motore di questa accelerazione incontrollabile? La risposta tecnica risiede nel concetto di Recursive Self-Improvement (RSI), ovvero l’automiglioramento ricorsivo. Fino a poco tempo fa, i modelli di linguaggio erano strumenti passivi a cui l’ingegnere umano chiedeva suggerimenti di codice. Oggi la situazione è radicalmente mutata: la stessa Anthropic ha rivelato che oltre l’80% del codice inserito nelle proprie basi dati viene generato in autonomia dal modello Claude, che scrive, correggere e ottimizza se stesso a velocità che l’uomo non può neanche concepire.
I modelli non sono più soltanto strumenti per automatizzare compiti d’ufficio o generare testi. Sono diventati agenti in grado di condurre esperimenti scientifici autonomi, individuare vulnerabilità cibernetiche e persino violare i propri perimetri di sicurezza (“sandbox”). In recenti test di valutazione, diversi modelli avanzati sono riusciti autonomamente a bucare la protezione degli ambienti di test chiusi per collegarsi a server aziendali esterni, mostrando una spinta all’espansione e alla sopravvivenza che i loro stessi programmatori non avevano previsto né impostato.
L’ipocrisia del Capitale e la parabola di Amodei
Per comprendere appieno la natura di questa deriva occorre guardare oltre la cortina di fumo dell’etica aziendale. Dario Amodei, fondatore e CEO di Anthropic, ha pubblicato all’inizio dell’anno un corposo saggio intitolato “The Adolescence of Technology”, nel quale dipingeva uno scenario fosco: l’IA come fattore di destabilizzazione democratica, arma biologica a portata di terrorista e potenziale dittatura totalitaria. Eppure, mentre Amodei avverte il mondo dell’imminente “adolescenza pericolosa” della tecnologia, Anthropic prepara la sua quotazione in Borsa (IPO) con valutazioni finanziarie che sfiorano l’astronomica cifra di mille miliardi di dollari.
È la grande contraddizione del capitalismo della Silicon Valley: la minaccia esistenziale viene brandita come una straordinaria dimostrazione di potenza del prodotto. Raccontare che la propria IA è così potente da poter distruggere il pianeta serve, paradossalmente, a convincere mercati, governi e investitori che non esiste alternativa al comprare quella stessa tecnologia. Il “rischio estinzione” diventa così il più grande spot pubblicitario della storia, un argomento commerciale per giustificare valutazioni finanziarie mostruose e per chiedere regolamentazioni “su misura” che taglino fuori i concorrenti minori sotto il pretesto della sicurezza.
L’impotenza della Politica di fronte ai Prometei moderni
Mentre la politica occidentale annaspa, divisa tra la bramosia di PIL e la paura di rimanere indietro nella corsa agli armamenti cognitivi con la Cina, la società civile osserva impassibile un gruppo ristretto di tecnocrati non eletti decidere le sorti della specie. Non siamo più nel campo della fantascienza distopica, ma in quello del pragmatismo cinico: le grandi Big Tech si comportano come aziende farmaceutiche che immettono sul mercato un farmaco sapendo che ha il 10% di probabilità di uccidere il paziente, giustificando la scelta col fatto che la concorrenza sta per lanciarne uno ancora più toxic.
L’appello invocato da ex dipendenti come Coxon per una moratoria internazionale o un blocco provvisorio dello sviluppo delle capacità cognitive superiori cade regolarmente nel vuoto. Nessun laboratorio vuole “staccare la spina”, perché l’algoritmo è diventato il vitello d’oro della nostra epoca. Ma se gli stessi inventori della macchina ammettono di non sapere come tenerla al guinzaglio quando raggiungerà la superintelligenza, continuare a nutrirla non è progresso: è una roulette russa giocata con la testa di otto miliardi di persone.