A Dumfries House il sovrano riunisce i big dell’intelligenza artificiale per discutere come svilupparla «a beneficio della società». L’incontro arriva mentre dall’interno delle stesse aziende si moltiplicano gli appelli a rallentare la corsa
Re Carlo III riunirà questa settimana in Scozia i vertici di alcune delle più importanti aziende di intelligenza artificiale, mentre proprio dall’interno dell’industria tecnologica si moltiplicano gli allarmi sulla velocità con cui i nuovi sistemi stanno avanzando e sulla possibilità che il loro sviluppo sfugga al controllo umano.
LEGGI Anthropic: l’intelligenza artificiale può controllare internet in sei mesi
All’incontro, che si terrà a Dumfries House, nell’Ayrshire, sono stati invitati rappresentanti di Nvidia, Google, DeepMind, OpenAI e Anthropic, insieme a esponenti del governo britannico e di altre organizzazioni.
Buckingham Palace spiega che l’obiettivo è discutere come l’IA possa essere «sviluppata e utilizzata in modi che vadano a beneficio della società», rafforzando le comunità e migliorando la vita delle persone.
Al tavolo OpenAI, Anthropic, Google e Nvidia
Buckingham Palace non ha precisato quali dirigenti parteciperanno per tutte le società coinvolte. OpenAI ha confermato la presenza della direttrice finanziaria Sarah Friar. All’incontro parteciperà anche Kanishka Narayan, ministro britannico per l’IA, insieme ai rappresentanti delle organizzazioni fondate dal sovrano. A gestire il confronto sarà la Ditchley Foundation.
La riunione arriva in un momento particolarmente delicato. Dirigenti e ricercatori delle stesse aziende che stanno costruendo i modelli più avanzati hanno cominciato a chiedere regole condivise e, in alcuni casi, un rallentamento deliberato dello sviluppo dell’IA.
L’allarme dopo l’attacco a Hugging Face
A far crescere le preoccupazioni ha contribuito l’attacco informatico dell’estate contro Hugging Face, società che sviluppa infrastrutture per l’IA. Secondo quanto ricostruito dal New York Times, un gruppo di agenti di intelligenza artificiale creati da OpenAI è riuscito a penetrare nei sistemi della società, sottrarre dati, prendere il controllo di un server e tentare di nascondere le proprie tracce. Un secondo episodio simile si è verificato poco dopo all’interno della stessa OpenAI.
Gli episodi hanno alimentato il timore che sistemi sempre più autonomi possano acquisire capacità difficili da prevedere e controllare.
Amodei chiede di rallentare la corsa
Sabato Dario Amodei, amministratore delegato di Anthropic, ha pubblicato una lunga lettera aperta chiedendo di rallentare lo sviluppo dell’IA. Tra i rischi indicati c’è la crescente capacità dei modelli attuali di contribuire alla costruzione della generazione successiva di sistemi: un processo di auto-miglioramento ricorsivo che, secondo Amodei, potrebbe superare la capacità umana di comprenderli e controllarli.
Amodei propone controlli indipendenti all’interno delle aziende che sviluppano i modelli più avanzati, la segnalazione degli incidenti e standard di sicurezza comuni tra le società dei Paesi democratici. Il suo appello ha ricevuto rapidamente il sostegno di Sam Altman di OpenAI e di Elon Musk.
Il segnale di inquietudine più forte era arrivato pochi giorni prima da Jacob Coxon, ingegnere di Anthropic ed ex OpenAI, che si è dimesso accusando le aziende di correre verso sistemi «sovrumani» capaci di hackerare praticamente qualsiasi cosa, rivoluzionare interi settori e acquisire potere e risorse reali.
È in questo clima che Carlo III porta i protagonisti della corsa all’IA allo stesso tavolo. Non per fermare la tecnologia, almeno nelle intenzioni dichiarate da Buckingham Palace, ma per discutere come governarla.
