La società che sviluppa Claude ha bloccato diversi ricercatori impegnati in attività potenzialmente pericolose. In un caso si studiavano mutazioni del virus chikungunya e il lavoro era destinato a un istituto militare
L’intelligenza artificiale potrebbe essere già stata utilizzata nel mondo reale per attività di ricerca capaci di contribuire allo sviluppo di armi biologiche.
A lanciare l’allarme è Anthropic, la società che sviluppa Claude, che afferma di avere individuato e bloccato nel corso di quest’anno diversi ricercatori impegnati in lavori potenzialmente pericolosi.
A rivelarlo è un nuovo rapporto della società, riportato anche dal New York Times. Anthropic precisa di non essere riuscita a stabilire se le ricerche avessero realmente l’obiettivo di produrre un’arma biologica. Ed è proprio questo il problema.
Le conoscenze che possono servire a sviluppare vaccini o nuove terapie possono essere utilizzate per modificare agenti patogeni e renderli più pericolosi.
Di fronte al dubbio, la società ha deciso di interrompere l’accesso ai suoi modelli.
«Non siamo davanti a qualcuno che, come in un fumetto, dice: “Voglio costruire un’arma biologica per uccidere tutti”», spiega al New York Times Jacob Klein, responsabile della threat intelligence di Anthropic.
LEGGI «L’IA può ucciderci tutti entro il 2030»: anche Jacob Coxon lascia Anthropic
Il caso del virus chikungunya
Uno degli episodi descritti da Anthropic risale a maggio. Un ricercatore aveva chiesto a Claude di aiutarlo a preparare una domanda di finanziamento per uno studio sul virus chikungunya, trasmesso dalle zanzare e capace di provocare dolori molto forti che possono protrarsi per mesi.
La ricerca prevedeva esperimenti di cosiddetto gain of function, cioè modifiche capaci di alterare le caratteristiche di un agente patogeno. Si tratta di studi che possono avere finalità scientifiche legittime, per esempio nello sviluppo di vaccini, ma che possono anche rendere un virus più pericoloso.
In questo caso, riferisce il New York Times sulla base del rapporto di Anthropic, il ricercatore voleva produrre mutazioni del chikungunya che ne aumentassero la pericolosità attraverso ripetute infezioni su animali vivi. A far scattare ulteriormente l’allarme è stato un altro elemento: Anthropic ha stabilito che il lavoro sarebbe stato condotto in un istituto di ricerca militare.
«Quello che non sappiamo è se la ricerca fosse destinata a essere trasformata in un’arma», osserva Klein. Ma, aggiunge, «un’istituzione militare che conduce ricerche gain of function è preoccupante».
I ricercatori cercavano di aggirare i controlli
C’è un altro elemento che rende i casi particolarmente delicati.
Secondo Anthropic, alcuni dei ricercatori avevano aggirato i sistemi progettati per impedire l’accesso ai suoi modelli da Paesi o aree sottoposti a restrizioni e avevano cercato di nascondere la reale finalità delle loro richieste per eludere le protezioni di Claude. La società ha quindi chiuso gli account.
Anthropic non ha reso noti i nomi dei ricercatori e degli istituti coinvolti, né i Paesi di appartenenza o gli specifici agenti biologici studiati negli altri casi. Una cautela dovuta proprio all’impossibilità di stabilire con certezza quali fossero le loro intenzioni.
Non solo armi biologiche
Il rapporto fotografa un problema molto più ampio. Anthropic ha raccolto gli abusi individuati negli ultimi otto mesi sui diversi modelli di Claude. Tra questi compaiono attività attribuite a soggetti ritenuti legati ai governi cinese e iraniano per sorvegliare dissidenti e comunità della diaspora.
La società sostiene inoltre di avere individuato media di Stato russi che utilizzavano Claude per produrre propaganda online presentata come informazione indipendente, comprese notizie false relative alle elezioni in Moldavia.
E c’è un fronte che Anthropic considera nuovo: l’utilizzo dell’IA per sviluppare software destinato alla progettazione di armi convenzionali, comprese armi da fuoco, missili, droni armati e bombe. Il rapporto descrive tre casi in Cina, due in Russia e uno nello Yemen.
In quest’ultimo caso il New York Times osserva che il contesto indica come probabile riferimento gli Houthi sostenuti dall’Iran.
Il salto di qualità dei nuovi modelli
Il dato forse più inquietante riguarda però l’evoluzione della tecnologia. Anthropic dice che i suoi modelli precedenti, sottoposti a test lo scorso anno, non erano ancora capaci di fornire un aiuto significativo nella conduzione di ricerche biologiche pericolose. I modelli attuali sono invece diventati molto più capaci di svolgere attività scientifiche complesse.
È proprio questo salto di qualità ad aver spinto la società a rafforzare le barriere sull’accesso alle informazioni biologiche cosiddette dual use, utilizzabili cioè sia per scopi legittimi sia per finalità pericolose.
Susan Monarez, microbiologa ed esperta di salute pubblica che ha esaminato il rapporto prima della pubblicazione, ritiene che i casi rappresentino una prova concreta del rischio che soggetti ostili cerchino di utilizzare, di nascosto, sistemi avanzati di IA per aumentare le proprie possibilità di produrre agenti patogeni capaci di provocare gravi danni.
