Intelligenza artificiale, cresce l’allarme sui rischi estremi: “Oltre il 10% di possibilità di estinzione”
Un ricercatore di Anthropic ritiene superiore al 10% la probabilità che l’IA possa provocare l’estinzione dell’umanità entro un decennio. Non è una previsione, ma una valutazione sul rischio futuro della superintelligenza.
Quanto è grande il rischio che l’intelligenza artificiale possa un giorno sfuggire al controllo umano? La domanda, fino a pochi anni fa confinata soprattutto nei dibattiti tra esperti e filosofi della tecnologia, sta diventando sempre più centrale anche all’interno delle aziende che sviluppano i sistemi di IA.
A riaccendere il dibattito è stato Evan Hubinger, ricercatore di Anthropic specializzato proprio nella sicurezza e nell’allineamento dell’intelligenza artificiale. In un intervento pubblicato sui social, Hubinger ha affermato di ritenere superiore al 10% la possibilità che l’IA possa portare all’estinzione dell’umanità nei prossimi dieci anni.
È una dichiarazione estremamente forte, ma va letta nel suo corretto contesto: non significa che esista una previsione secondo cui tra dieci anni l’umanità avrà una probabilità del 10% di essere sterminata. Si tratta della stima soggettiva di un ricercatore sul rischio di uno scenario estremo legato allo sviluppo di sistemi di IA molto più avanzati di quelli attualmente disponibili.
Il problema del controllo
Hubinger lavora sul cosiddetto AI alignment, cioè sull’obiettivo di fare in modo che sistemi sempre più potenti rimangano coerenti con gli obiettivi e i valori stabiliti dagli esseri umani.
Ed è proprio questo il nodo della sua preoccupazione.
Secondo il ricercatore, Anthropic considera realmente il rischio esistenziale dell’IA, ma non avrebbe ancora un piano risolutivo per garantire che una futura superintelligenza rimanga sotto controllo umano. Ha anche sostenuto che l’attuale ritmo di sviluppo potrebbe essere troppo rapido rispetto alla capacità della ricerca sulla sicurezza di tenere il passo.
Il timore non riguarda necessariamente una macchina che “decide di distruggere l’umanità” nel senso cinematografico del termine. Gli scenari studiati dagli esperti sono molto più complessi e possono riguardare perdita di controllo, uso autonomo di risorse, cyberattacchi, manipolazione delle informazioni, armi autonome o sistemi capaci di perseguire obiettivi non compatibili con quelli umani.
Non è l’unico allarme
Le dichiarazioni di Hubinger arrivano dopo quelle di Jacob Coxon, un altro ricercatore che ha recentemente lasciato Anthropic e ha accusato l’industria dell’IA di procedere troppo velocemente nello sviluppo di sistemi sempre più potenti. Anche Coxon ha espresso la convinzione che i rischi di una futura IA sovrumana non vengano affrontati adeguatamente.
Le sue parole e quelle di Hubinger hanno provocato reazioni anche fuori dal settore tecnologico. Wendy Hall, informatica britannica e consulente delle Nazioni Unite sull’IA, ha definito sorprendenti le dichiarazioni, pur invitando a considerare anche la possibilità che dietro alcuni degli allarmi possa esserci una componente di comunicazione e marketing aziendale.
La discussione è quindi tutt’altro che chiusa.
Cosa dicono gli altri esperti
L’idea che l’IA possa comportare rischi catastrofici non appartiene soltanto ad Anthropic.
Uno studio condotto da ricercatori del MIT e dell’Università del Queensland, basato sulle valutazioni di 272 specialisti dell’IA provenienti da 37 Paesi, ha rilevato preoccupazioni significative per diverse categorie di rischio: cyberattacchi, armi basate sull’IA, concentrazione del potere, disinformazione e capacità autonome sempre più avanzate.
In un altro grande sondaggio, che ha coinvolto 2.778 ricercatori di IA, una parte consistente degli intervistati ha attribuito almeno una probabilità del 10% a scenari estremamente negativi, compresa l’estinzione umana. I risultati mostrano però anche una forte incertezza e profonde divisioni tra gli stessi esperti.
Questo è forse l’elemento più importante: non esiste oggi un consenso scientifico sulla probabilità che l’IA possa causare l’estinzione dell’umanità.
Il vero problema è quanto velocemente stiamo correndo
La questione non è quindi stabilire se dobbiamo credere o meno al “10%” indicato da Hubinger.
La domanda più concreta è un’altra: la ricerca sulla sicurezza dell’intelligenza artificiale sta procedendo abbastanza velocemente da accompagnare lo sviluppo delle sue capacità?
I sistemi di IA stanno diventando sempre più autonomi e capaci di utilizzare strumenti esterni, scrivere codice, analizzare grandi quantità di informazioni e svolgere compiti complessi. Parallelamente, sono già emersi casi nei quali strumenti basati sull’IA sono stati utilizzati in attività informatiche offensive, anche se molto lontane dallo scenario dell’estinzione umana.
Per questo il dibattito non riguarda più soltanto il futuro remoto.
Riguarda quanto controllo vogliamo mantenere sugli strumenti che stiamo costruendo oggi.
E, soprattutto, se saremo capaci di stabilire regole e sistemi di sicurezza prima che le macchine diventino molto più potenti di quanto possiamo prevedere.