Intelligenza artificiale, Anthropic lancia l’allarme: Claude usato in ricerche biologiche potenzialmente pericolose
L’intelligenza artificiale sta entrando sempre più profondamente nei laboratori scientifici. E proprio questa capacità, che può accelerare la ricerca di nuovi farmaci e terapie, sta aprendo anche una zona grigia difficile da controllare: quella delle applicazioni biologiche che possono essere utilizzate tanto per curare quanto per provocare danni.
A lanciare l’allarme è Anthropic, la società che sviluppa Claude, uno dei principali modelli di intelligenza artificiale generativa. In un rapporto pubblicato questa settimana, l’azienda afferma di avere individuato e bloccato cinque casi nei quali i propri modelli erano stati utilizzati in attività di ricerca potenzialmente riconducibili allo sviluppo di armi biologiche.
La precisazione è importante: Anthropic non sostiene che siano state costruite armi biologiche utilizzando Claude e non afferma neppure che i ricercatori coinvolti avessero necessariamente intenzioni criminali. La società ha scelto di non rendere pubblici i nomi degli istituti, dei Paesi e degli agenti biologici coinvolti, proprio perché si tratta di scienziati e perché non è possibile stabilire con certezza le loro intenzioni.
Il problema è la ricerca “dual use”
È questo il punto più delicato dell’intera vicenda.
La ricerca biologica non può essere facilmente divisa in attività buone e cattive. Una stessa conoscenza può servire a comprendere meglio un virus e sviluppare un vaccino oppure, in mani diverse, a rendere un agente patogeno più pericoloso.
È quello che gli esperti definiscono dual use, cioè uso duale.
Anthropic sostiene che proprio questa caratteristica rende molto più difficile affidarsi esclusivamente ai filtri automatici. Un sistema può riconoscere una richiesta apertamente pericolosa, ma può avere molte più difficoltà quando una serie di domande apparentemente legittime, considerate nel loro insieme, rivela un’attività potenzialmente rischiosa.
Cinque casi sotto osservazione
Nel primo caso individuato dall’azienda, una piattaforma utilizzata da ricercatori nel settore delle scienze della vita avrebbe cercato di aggirare le restrizioni territoriali di Anthropic. Tra le attività individuate figurava la preparazione di una richiesta di finanziamento relativa a una ricerca sul virus chikungunya.
In un secondo caso, un ricercatore avrebbe utilizzato Claude per settimane nell’ambito di uno studio sull’adattamento dell’influenza aviaria ai mammiferi.
Un terzo caso riguardava la preparazione, con l’aiuto del modello, di una proposta di ricerca relativa agli orthopoxvirus, la famiglia di virus alla quale appartengono anche il vaiolo e il mpox.
Gli altri due casi riguardavano ricerche su veleni e tossine. Anche qui la distinzione tra applicazioni terapeutiche e potenziali applicazioni dannose risultava particolarmente difficile.
Anthropic afferma di avere bloccato gli account collegati alle attività individuate e di av
