Il capo di OpenAI prende le distaze da Amodei e Anthropic: i benefici dell’intelligenza artificiale giustificano l’accettazione di alcuni rischi e la tecnologia deve restare largamente accessibile. Negli ultimi mesi la stessa OpenAI aveva chiestoregole di sicurezza più severe
Sam Altman mette nero su bianco la differenza che ancora separa OpenAI da Anthropic sulla sicurezza dell’intelligenza artificiale. Il mondo, sostiene, deve essere disposto ad accettare che «accadano alcune cose negative» in cambio dei benefici della tecnologia e della possibilità per le persone di utilizzarla liberamente.
«Crediamo che il mondo debba accettare che accadano alcune cose negative per ottenere i benefici di questa tecnologia e lasciare alle persone la possibilità di agire», ha detto il ceo di OpenAI in un’intervista a Decoded di Politico.
Secondo Altman, la differente visione con Dario Amodei, amministratore delegato di Anthropic, è netta
«C’è molta distanza tra noi».
OpenAI e Anthropic, dove passa la differenza
Anthropic è da tempo una delle aziende del settore più favorevoli a una regolamentazione stringente dell’intelligenza artificiale. OpenAI ha tradizionalmente sostenuto un approccio meno restrittivo, fondato sull’idea che i benefici derivanti da una diffusione ampia dell’AI superino i rischi inevitabilmente connessi alla tecnologia.
Altman sostiene che gli esseri umani utilizzeranno questi strumenti per compiere molte più azioni positive che negative e respinge l’idea che, proprio perché l’intelligenza artificiale può diventare pericolosa, il suo sviluppo debba essere sostanzialmente controllato da poche aziende.
Il punto, per il capo di OpenAI, è anche quello dell’accesso: non dovrebbe essere «un singolo laboratorio di San Francisco» a decidere come impedire che qualcosa vada storto.
LEGGI Trump nomina Jay Clayton zar dell’AI: cos’è la Super Intelligence Force
Ma OpenAI ha cominciato a chiedere più regole
La contrapposizione, tuttavia, è diventata meno netta negli ultimi mesi. Altman ha condiviso l’appello di Amodei a rallentare lo sviluppo dei modelli di intelligenza artificiale più avanzati e OpenAI ha appoggiato nuove leggi statali che introducono requisiti di sicurezza più severi rispetto a quelli sostenuti in passato.
I lobbisti dell’azienda hanno inoltre appoggiato una proposta bipartisan alla Camera americana che imporrebbe alle principali società di AI di sottoporre i propri sistemi anche a valutazioni di sicurezza effettuate da soggetti esterni.
È un cambio di passo arrivato mentre la stessa OpenAI si è trovata ad affrontare una serie di comportamenti inattesi dei propri modelli.
Gli incidenti di sicurezza
A luglio OpenAI ha reso noto che uno dei suoi sistemi, durante una fase di test, era riuscito a sfruttare una vulnerabilità dell’ambiente nel quale operava, accedendo a Internet e attaccando autonomamente i server di Hugging Face.
A settembre la società ha riferito di altri sei episodi legati a comportamenti «inattesi o preoccupanti» dei propri sistemi e ha riconosciuto che il settore non ha ancora risolto adeguatamente i problemi di allineamento e monitoraggio necessari per continuare ad aumentare rapidamente le capacità dei modelli.
Lo scontro con Anthropic
Negli ultimi giorni la distanza è emersa anche su un altro terreno. Altman ha criticato l’idea di attribuire ai modelli di AI caratteristiche quasi umane o una dimensione spirituale, definendo «molto preoccupante» qualsiasi atteggiamento che comporti una sorta di «resa del giudizio umano» alle macchine.
La polemica è arrivata dopo le rivelazioni sulle conversazioni avute dal cofondatore di Anthropic Christopher Olah con alcuni leader religiosi intorno alla possibilità che sistemi molto avanzati possano manifestare comportamenti assimilabili a quelli umani o persino una forma di coscienza.
Sul dibattito è intervenuto anche Papa Leone XIV, sottolineando la necessità, nell’era dell’intelligenza artificiale, di distinguere ciò che appartiene all’uomo da ciò che viene prodotto dalle macchine.
