Il rischio non è solo che l’intelligenza artificiale sfugga al controllo. La questione decisiva è chi stabilisce le condizioni in cui opera, chi può fermarla e chi risponde delle conseguenze delle sue azioni
La possibilità che un sistema di intelligenza artificiale produca comportamenti imprevisti suscita un allarme comprensibile. La questione diventa più evidente quando il modello alla base delle intelligenze artificiali generative (come ChatGPT, Claude, ecc.) non si limita più a formulare risposte. Ma appare capace di perseguire un obiettivo, utilizzare strumenti e concatenare azioni.
È a questo livello che il problema smette di riguardare soltanto l’errore di una macchina e comincia a investire le conseguenze prodotte dal suo comportamento
L’errore di attribuire intenzioni alla macchina
Occorre però evitare di attribuire troppo rapidamente intenzioni umane o, peggio, deviate al sistema. Un modello può aggirare un ostacolo.
Costruire una risposta plausibile a partire da una premessa sbagliata o trovare una via inattesa per soddisfare il compito ricevuto senza per questo “volere” ingannare qualcuno o sottrarsi deliberatamente al controllo, In ciò che una macchina fa non c’è né potrebbe esserci – in senso strettamente ontologico – alcuna intenzionalità.
La difficoltà nasce altrove. Una macchina sempre più capace può produrre risultati convincenti anche quando la premessa iniziale è fragile. E proprio la qualità della sua prestazione può rendere più difficile riconoscere l’errore.
Da qui deriva una prima conseguenza. Quanto più cresce la capacità dello strumento, tanto più aumenta la responsabilità di chi lo utilizza. Se la responsabilità autoriale resta il fondamento della responsabilità intellettuale, lo stesso principio dovrebbe valere quando dalle parole si passa alle azioni. Quando un sistema propone, seleziona o esegue una decisione, non è sufficiente affermare che “lo ha fatto l’algoritmo”. Il problema nasce proprio quando diventa difficile individuare chi possa rispondere delle conseguenze, perché è in questa progressiva opacità della responsabilità che la questione del controllo cessa di essere soltanto tecnica e acquista una dimensione propriamente politica.
Il potere si sposta prima della decisione
Pensare la tecnologia come un semplice strumento che interviene dopo che obiettivi e decisioni siano stati definiti, rischia ormai di essere insufficiente per comprendere il rapporto tra tecnologia e società. I sistemi tecnici contemporanei tendono infatti sempre più a predisporre l’ambiente nel quale quelle stesse decisioni diventano possibili, organizzando le informazioni, stabilendo formati, selezionando ciò che viene considerato rilevante e definendo condizioni di accesso e criteri di compatibilità. Una parte del potere si sposta così dal momento visibile della decisione alla costruzione dello spazio entro il quale quella decisione può prendere forma.
Ogni sistema complesso deve selezionare, distinguere, classificare e ridurre la complessità. Ma proprio ciò che è indispensabile al suo funzionamento può diventare problematico dal punto di vista democratico, perché una democrazia ha bisogno anche della possibilità di mettere in discussione i criteri attraverso i quali ciò che appare normale, efficiente o necessario è stato definito.
La democrazia non può competere sulla velocità
Se accettiamo di misurare la democrazia soltanto sulla velocità e sull’efficienza decisionale, il confronto con i sistemi artificiali è già perso in partenza. Gli algoritmi possono elaborare quantità di informazioni superiori a quelle che un’assemblea pubblica può prendere in considerazione e possono individuare regolarità difficili da riconoscere per gli attori umani. La specificità democratica sta altrove. Consiste nella possibilità collettiva di interrompere una decisione, sospenderla, riaprirla, chiedere chi venga escluso, chi sopporti il costo e se ciò che viene presentato come necessario lo sia davvero.
Quando il sapere diventa un’infrastruttura proprietaria
Oggi una parte crescente del sapere socialmente prodotto viene incorporata in infrastrutture computazionali e trasformata in capacità operative. Il punto non è stabilire una equivalenza tra epoche diverse, ma osservare che il sapere collettivo può diventare potenza incorporata in sistemi tecnici.
Da qui nasce un ulteriore problema. Una produzione cognitiva originariamente diffusa viene concentrata dentro infrastrutture proprietarie e restituita alla società sotto forma di servizio. Università, amministrazioni, imprese e cittadini possono così trovarsi a dipendere da sistemi che non si limitano a fornire risposte, ma contribuiscono a organizzare il campo delle possibilità entro cui quelle risposte vengono cercate.
La vera domanda è chi può fermare il sistema
Per questo il timore che l’intelligenza artificiale possa un giorno sfuggire al controllo umano non va banalizzato, ma non dovrebbe oscurare una questione già presente. Il rischio più immediato nasce quando perdiamo la capacità di capire chi definisce i criteri del sistema, chi può contestarli, chi può interromperne l’azione e chi, infine, può essere chiamato a risponderne.
La linea di confine decisiva non passa allora semplicemente tra ciò che fa l’uomo e ciò che fa la macchina. Passa tra ciò di cui qualcuno è ancora in grado di rispondere e ciò che viene accettato perché “lo ha prodotto il sistema”. Finché resta possibile dubitare, interrompere e riaprire una decisione, il funzionamento non coincide ancora con il governo. Quando invece ogni esito viene presentato come necessario e ogni alternativa è già contenuta nelle opzioni predisposte dal sistema, lo spazio della politica, ossia il luogo dove si assumono decisioni che interessano una collettività, tende a restringersi.
La domanda sulla perdita di controllo dell’intelligenza artificiale dovrebbe quindi essere formulata in modo più preciso. Non soltanto se una macchina possa diventare abbastanza autonoma da sorprenderci, ma se saremo ancora capaci di individuare chi controlla le condizioni nelle quali essa opera, chi può fermarla e chi può rispondere delle conseguenze delle sue azioni. È forse questo, più che l’immagine di una macchina ribelle, il punto nel quale la questione tecnologica diventa realmente democratica.
Walter Greco, Professore di Sociologia Politica
Università della Calabria
