Il ricercatore britannico lascia Anthropic e accusa i grandi laboratori dell’IA di «giocare d’azzardo» con il futuro dell’umanità. Evan Hubinger stima oltre il 10% di probabilità che sistemi futuri possano rappresentare un rischio esistenziale nel prossimo decennio
L’intelligenza artificiale potrebbe trasformarsi entro la fine del decennio in un rischio esistenziale per l’umanità. A lanciare l’allarme è Jacob Coxon, ricercatore britannico di 27 anni che ha lasciato Anthropic denunciando i pericoli di una corsa senza controllo verso sistemi di superintelligenza capaci di auto-migliorarsi.
Coxon, riferisce il Financial Times, ha lavorato in precedenza anche per OpenAI e sostiene che proprio Anthropic e la sua principale concorrente stiano «giocando d’azzardo» con il futuro dell’umanità.
«Le persone che sviluppano l’Ia credono sinceramente che essa possa ucciderci tutti entro la fine del decennio», ha scritto su X annunciando le proprie dimissioni.
«Non è una mossa di marketing. Nessun’altra attività umana comporta un tale livello di pericolo».
L’addio di Coxon si aggiunge a una serie di uscite dai grandi laboratori americani dell’intelligenza artificiale
La fuga dai laboratori dell’IA
Dimissioni spesso motivate da preoccupazioni sulla sicurezza dei sistemi in fase di sviluppo.
A fine luglio aveva lasciato Anthropic Chloé Bakalar, unica eticista dedicata dell’azienda. Successivamente se ne sono andati Johannes Heidecke, responsabile del team Safety Systems, Joshua Achiam, già responsabile della Mission Alignment, il direttore operativo Brad Lightcap e il ricercatore Andrew Ho, che avrebbe lasciato per divergenze tecniche.
Secondo Coxon, chi osserva dall’esterno il settore sta sottovalutando la velocità e la portata dei progressi compiuti dall’intelligenza artificiale.
«Presto sistemi sovrumani»
«Presto si tratterà di sistemi sovrumani in grado di hackerare qualsiasi cosa, rivoluzionare qualsiasi settore dall’oggi al domani e acquisire potere e risorse reali», ha il ricercatore.
Le sue dimissioni arrivano in un momento particolarmente delicato per Anthropic, società che ha costruito una parte importante della propria immagine proprio sulla sicurezza dell’intelligenza artificiale e che si prepara a una possibile offerta pubblica iniziale, con una valutazione che potrebbe raggiungere i mille miliardi di dollari.
«Rischio superiore al 10%»
A rafforzare l’allarme è Evan Hubinger, ricercatore di Anthropic specializzato nella sicurezza dell’Ia. Secondo Hubinger, la tecnologia sta avanzando a una velocità tale da indurlo a stimare una probabilità superiore al 10% che possa arrivare a «sterminare tutta l’umanità» entro il prossimo decennio.
Hubinger precisa che il rischio rappresentato dai modelli oggi esistenti è ancora «basso». La sua preoccupazione riguarda ciò che potrebbe accadere con le prossime generazioni di sistemi, se raggiungessero capacità sufficienti a rappresentare un rischio esistenziale per l’umanità.
