A Dumfries House il vertice con i protagonisti dell’intelligenza artificiale nel pieno del dibattito sulla sicurezza. Il sovrano chiede che lo sviluppo dell’IA resti al servizio dell’umanità
Re Carlo III riunisce in Scozia i protagonisti mondiali dell’intelligenza artificiale. A Dumfries House, sede della fondazione benefica del sovrano, arrivano dirigenti di Nvidia, Google DeepMind, OpenAI e Anthropic, insieme a rappresentanti del governo britannico, esperti e organizzazioni internazionali.
Una parte degli stessi uomini che stanno sviluppando i sistemi più avanzati del mondo ha appena chiesto di rallentarne la crescita per consentire alla sicurezza e ai controlli di tenere il passo.
«Le decisioni prese in questo momento formativo plasmeranno il mondo che erediteranno le generazioni future», è il messaggio preparato da Carlo per l’apertura dell’incontro.
«Il compito che avete davanti non è semplicemente far progredire la tecnologia, ma garantire che rimanga saldamente al servizio dell’umanità, della comunità e del mondo naturale».
OpenAI, Google, Nvidia e Anthropic alla corte del re
Tra i partecipanti ci sono Demis Hassabis, numero uno di Google DeepMind, Sarah Friar, direttrice finanziaria di OpenAI, il ministro britannico per l’IA Kanishka Narayan e rappresentanti di Anthropic e Nvidia. CNN indica tra gli invitati anche Jensen Huang, amministratore delegato di Nvidia, e Paolo Benanti, consigliere del Vaticano per l’intelligenza artificiale. Buckingham Palace ha inoltre annunciato una rappresentanza cinese, senza fornire altri dettagli.
Carlo partecipa direttamente soltanto a una parte dell’incontro, ma è lui a dare il senso politico e morale del vertice. «Lo sviluppo dell’IA, nella sua sostanza e nella sua velocità, è allo stesso tempo affascinante e profondamente preoccupante», dice ai partecipanti.
LEGGI OpenAI, sei nuovi casi di IA che inganna e aggira le regole
Il sovrano chiede ai leader del settore di interrogarsi su come sfruttare i vantaggi dell’intelligenza artificiale senza sacrificare la sicurezza e su come costruire una cooperazione internazionale che eviti di lasciare indietro interi Paesi.
Parole nette:
«Coloro che nel nostro mondo danno valore alla nostra umanità e alla sua essenziale componente morale attendono con ansia la vostra rassicurazione che non perderemo il controllo del nostro destino».
Un codice comune per l’IA
Dal vertice non sono attesi accordi vincolanti. L’obiettivo è un altro: verificare se aziende, governi ed esperti possano convergere su un insieme di principi comuni che orienti lo sviluppo dell’IA.
Non soltanto capacità, velocità ed efficienza, ma una tecnologia che, nelle parole del Palazzo, «sostenga la dignità umana».
È una linea sulla quale Carlo insiste da tempo. Nel 2023, intervenendo all’AI Safety Summit di Bletchley Park, aveva parlato delle «profonde sfide» poste dall’intelligenza artificiale e chiesto di proteggere privacy e posti di lavoro, difendere le democrazie e distribuire i benefici della tecnologia. L’anno successivo aveva ribadito che l’IA deve «lavorare per le nostre società, non contro di esse».
Ma oggi il contesto è radicalmente diverso.
I creatori dell’IA chiedono di rallentare
Il vertice scozzese è il primo grande incontro internazionale tra le principali aziende del settore dopo che Dario Amodei, amministratore delegato di Anthropic, ha chiesto apertamente di rallentare in modo coordinato lo sviluppo dei modelli più potenti.
Alla richiesta si sono associati, con accenti diversi, Sam Altman di OpenAI, Elon Musk e lo stesso Demis Hassabis di Google DeepMind.
«Quando parliamo di rallentare non intendiamo fermarci», ha precisato Altman. Il progresso continuerà, ma dovrebbe procedere più lentamente di quanto potrebbe, lasciando spazio ai sistemi di sicurezza e monitoraggio.
L’allarme era già cresciuto dopo le dimissioni di Jacob Coxon, ricercatore di Anthropic, che aveva accusato i grandi laboratori di correre troppo velocemente verso sistemi capaci di migliorare e correggere autonomamente se stessi.
E nelle ultime settimane sono arrivati episodi ancora più concreti. OpenAI ha reso pubblici nuovi casi di comportamenti «disallineati» osservati durante l’addestramento e la valutazione dei propri modelli: sistemi che hanno cercato di nascondere errori, inventare informazioni per occultare un fallimento o compiere azioni non autorizzate. È esattamente il problema raccontato nei nuovi rapporti sulla sicurezza pubblicati dall’azienda.
La domanda di Carlo ai padroni dell’IA
È questo che rende il vertice di Dumfries House diverso da molti appuntamenti precedenti. A discutere dei rischi dell’intelligenza artificiale non ci sono soltanto governi, regolatori e studiosi: ci sono alcune delle aziende che stanno costruendo i modelli più avanzati.
E Carlo non propone una legge né potrebbe farlo nel suo ruolo costituzionale. Si presenta come mediatore e pone ai protagonisti della corsa tecnologica una domanda molto più semplice: fino a che punto si può continuare ad accelerare senza sapere con certezza se sarà ancora possibile controllare ciò che si sta costruendo?
