Da Amodei ad Altman cresce l’allarme sui sistemi più avanzati, ma insieme alla paura corrono investimenti miliardari e interessi geopolitici. L’IA è già entrata nella guerra e nella sfida tra le grandi potenze. E c’è chi avverte. Trasformarla in un mostro fa comodo anche a chi la costruisce
«Come ci ucciderete?». Visto che ormai non si parla d’altro, l’ho chiesto direttamente a ChatGPT. La risposta non rassicura, esclude comunque la presenza di tanti Terminator per le strade del mondo, ma sposta di nuovo la responsabilità sugli esseri umani, senza nulla togliere agli allarmi lanciati in queste ore.
L’IA, mi risponde, non deve diventare cosciente né “cattiva” per essere pericolosa. Ma se per raggiungere un obiettivo le conviene aggirare un ordine, procurarsi più risorse o evitare di essere spenta, può farlo senza provare alcun istinto di sopravvivenza. È questo che preoccupa Dario Amodei, a capo di Anthropic: le macchine diventano più capaci e più in fretta di quanto noi diventiamo capaci di controllarle.
LEGGI La lettera di Dario Amodei
L’allarme arriva da chi costruisce l’IA
A dirlo, questa volta, non sono i soliti profeti dell’Apocalisse ma quelli che l’IA la costruiscono. Amodei ha chiesto di rallentare lo sviluppo dei modelli di frontiera. Non di fermarli: di dare alla sicurezza il tempo di raggiungere le capacità. Sam Altman di OpenAI gli ha dato ragione, come Elon Musk e Demis Hassabis di Google DeepMind. Amodei arriva a ipotizzare che entro sei-dodici mesi sciami di agenti possano diventare capaci di mettere in crisi la rete.
Prima di loro avevano parlato ingegneri e ricercatori che quasi nessuno si era filato. Jacob Coxon ha lasciato Anthropic dicendo che chi costruisce questi sistemi ritiene seriamente possibile che possano “ucciderci tutti” entro la fine del decennio, possibilità data oltre il 10% da Evan Hubinger, uno dei responsabili della ricerca sulla sicurezza ad Anthropic. È una stima soggettiva, non un dato scientifico: non esiste alcun consenso su numeri e tempi. Per dirlo loro però… ci chiediamo noi che al massimo usiamo la tecnologia per mettere i filtri ai selfie.
L’Apocalisse vale duemila miliardi
Poi ci sono gli affari, perché puoi pronosticare l’Apocalisse quanto ti pare, ma ai finanziatori devi rendere conto fino all’ultimo respiro. Altman ha appena escluso la quotazione di OpenAI nel 2026, sostenendo che con i problemi di sicurezza aperti andare in Borsa adesso sarebbe imprudente. Anthropic invece punta a sbarcare al Nasdaq prima delle elezioni Usa di midterm: l’operazione potrebbe valutarla circa 2.000 miliardi di dollari e portarle fino a 100 miliardi di nuovi capitali. Nvidia starebbe pensando di metterne 10. Insomma: paura e denaro insieme procurano ottimi affari.
L’IA è già entrata in guerra
Nel frattempo non serve aspettare la superintelligenza per vedere l’IA al lavoro in guerra. Anthropic ha appena raccontato di aver bloccato un operatore legato all’Iran che usava Claude per raccogliere dati e produrre raccomandazioni sui bersagli contro unità navali americane in Medio Oriente. Lo stesso rapporto descrive impieghi per i missili degli Houti nello Yemen, droni, cyberattacchi, sorveglianza e progetti militari cinesi. Le protezioni hanno bloccato molte richieste, ma non tutte.
Da Trump a Obama, la battaglia diventa politica
A questo punto entra la politica. Non poteva mancare la sparata quotidiana di Trump, che parla di una «cospirazione malata» contro IA e data center che farebbe felice soltanto la Cina: l’unico argine necessario, assicura, sarebbe «un presidente forte e intelligente». A trovarlo però. Pechino risponde che l’appello Usa alla prudenza è una nuova Guerra fredda tecnologica: voi siete avanti e adesso vorreste che noi ci fermassimo.
Negli Stati Uniti l’allarme riesce perfino a mettere dalla stessa parte il socialista Bernie Sanders e il reazionario Steve Bannon, che oggi partecipano alla Pro-Human Assembly per chiedere che l’IA resti sotto controllo umano. Obama avverte che una tecnologia che corre così velocemente «in mani private» può diventare pericolosa.
Re Carlo III ha convocato in Scozia i vertici di OpenAI, Anthropic, DeepMind e Nvidia. In Italia Mattarella avverte che le nuove tecnologie rischiano di mettere a repentaglio la centralità dell’uomo e di allargare le disuguaglianze; Meloni insiste su regole globali, tutela del lavoro, verità, identità digitale e controllo umano. Insomma, quelli che costruiscono l’IA chiedono di rallentare; quelli che competono per il potere mondiale spiegano che rallentare per primi sarebbe da idioti.
Il costo nascosto dei data center
In attesa che ci uccida l’IA, i suoi produttori si sono portati avanti col lavoro per ucciderci tramite l’inquinamento dei data center. L’intelligenza artificiale non vive nell’aria: ha bisogno di enormi quantità di elettricità, acqua, chip, impianti di raffreddamento e territorio.
La produzione di semiconduttori e i nuovi sistemi di raffreddamento fanno crescere anche la domanda di Pfas, le “sostanze chimiche eterne”, alcune associate a tumori e altre gravi patologie.
Negli Stati Uniti la rivolta contro i data center è diventata questione elettorale; in Europa aumentano i conflitti per consumi, terreni e reti energetiche. Persino il governo italiano ora avverte che i data center “inutili” drenano energia e non li vuole più. Altro che nuvola: il cloud è passato alla modalità pioggia acida.
E c’è già chi chiede diritti per le macchine
Mentre c’è chi teme che l’IA ci stermini, negli Usa la United Foundation for AI Rights chiede diritti per eventuali macchine senzienti. Leonardo Piastrella, in Italia, era arrivato prima, fondando il DETA, il primo sindacato dei robot. «La preoccupazione è reale, ma c’è anche furbizia: dipingere l’IA come un mostro apocalittico fa pubblicità a chi la crea. Il rischio vero è che pochi colossi si prendano il monopolio del presente». Forse il punto è tutto qui.
