Dentro la “mente” di ChatGPT: pensa davvero o ci sembra soltanto?
Come funzionano i grandi modelli di intelligenza artificiale, perché possono sembrare intelligenti come un essere umano e perché, nonostante la loro straordinaria capacità, possono ancora sbagliare o inventare informazioni.
Digitiamo una domanda, premiamo invio e dopo pochi secondi compare sullo schermo una risposta articolata, spesso sorprendentemente precisa e scritta con un linguaggio naturale. Possiamo continuare la conversazione, correggere una frase, chiedere un approfondimento, cambiare argomento e ritrovare il filo del discorso.
È difficile, in queste condizioni, non avere la sensazione di parlare con qualcuno che comprende ciò che gli stiamo dicendo.
Ma cosa succede realmente dall’altra parte dello schermo?
Un recente approfondimento pubblicato dall’agenzia Dire prova a entrare nella “mente” di ChatGPT e degli altri grandi modelli linguistici, spiegando alcuni dei meccanismi che stanno alla base dell’intelligenza artificiale generativa.
Non c’è una mente dentro il computer
La prima cosa da chiarire è forse anche la più difficile da accettare: ChatGPT non è una persona e non possiede una coscienza umana.
I grandi modelli linguistici, conosciuti come LLM, elaborano il testo attraverso una complessa rappresentazione matematica. Le parole che scriviamo vengono trasformate in unità chiamate token e il sistema utilizza il contesto disponibile per generare una risposta.
La spiegazione secondo cui ChatGPT sarebbe semplicemente un gigantesco “autocompletamento” è utile per comprendere il principio di base, anche se la realtà tecnica è enormemente più complessa. Il modello non si limita a scegliere meccanicamente la parola successiva: utilizza una rete di relazioni matematiche costruite durante l’addestramento per produrre sequenze di testo coerenti con la richiesta e con il contesto della conversazione.
Il risultato, dal nostro punto di vista, è comunque sorprendente: una macchina senza esperienza personale può produrre una risposta che sembra ragionata, costruire un testo, tradurre, riassumere, spiegare un argomento e persino partecipare a una conversazione molto articolata.
E quando l’intelligenza artificiale sbaglia?
Qui arriviamo a uno dei problemi più importanti.
Un sistema di intelligenza artificiale può fornire una risposta formulata perfettamente e, nello stesso tempo, contenere un’informazione falsa.
Sono le cosiddette allucinazioni dell’intelligenza artificiale: il modello può generare nomi, fatti, date o perfino fonti che sembrano credibili ma che non corrispondono alla realtà.
Il problema è che la risposta non appare necessariamente falsa. Al contrario, può essere scritta con grande sicurezza e con una forma perfettamente convincente.
Per questo l’IA non dovrebbe essere considerata un oracolo.
Quando una risposta riguarda una notizia recente, un dato statistico, una questione giuridica, una persona, una dichiarazione o un avvenimento ancora in corso, la verifica delle fonti rimane fondamentale. È proprio uno dei motivi per cui l’utilizzo dell’IA nel giornalismo richiede particolare attenzione.
Perché allora sembra così intelligente?
La forza dei modelli linguistici sta anche nella quantità e nella varietà delle informazioni utilizzate durante il loro addestramento e nella capacità di riconoscere relazioni estremamente complesse tra le informazioni.
A questo si aggiunge il lavoro umano che ha contribuito a rendere i sistemi più utili, coerenti e sicuri. I modelli vengono infatti sottoposti a processi di valutazione e addestramento nei quali il feedback umano contribuisce a indirizzare il comportamento delle risposte.
È questa combinazione di capacità matematiche, enormi quantità di dati e addestramento che permette all’intelligenza artificiale di produrre testi che, per un essere umano, possono essere difficili da distinguere da quelli scritti da un’altra persona.
La vera sfida non è soltanto tecnologica
L’intelligenza artificiale sta ormai entrando rapidamente nella vita quotidiana. La utilizziamo per scrivere, tradurre, cercare informazioni, creare immagini, programmare, studiare e lavorare.
La questione, quindi, non è più soltanto quanto siano potenti questi sistemi.
La domanda è quanto siamo preparati noi a utilizzarli correttamente.
Il rischio maggiore potrebbe non essere una macchina che improvvisamente sviluppa una coscienza e decide di ribellarsi all’uomo, come raccontato per decenni dalla fantascienza. Il problema più immediato è molto più semplice: che gli esseri umani comincino a fidarsi ciecamente di una macchina soltanto perché quella macchina risponde in modo convincente.
È una differenza fondamentale.
Una risposta elegante non è necessariamente una risposta vera.
L’IA non sostituisce il giudizio umano
L’intelligenza artificiale può essere uno strumento straordinariamente potente, ma il suo valore dipende anche dal modo in cui viene utilizzata.
Chi la usa soltanto per ottenere rapidamente una risposta rischia di trasformarla in una scorciatoia.
Chi invece la utilizza per confrontare idee, elaborare informazioni, correggere un testo, cercare nuove prospettive e poi verificare ciò che è importante può trasformarla in un vero strumento di lavoro.
La differenza, in fondo, rimane tutta nella persona che sta davanti allo schermo.
E questo vale anche per il giornalismo.
L’intelligenza artificiale può aiutare a scrivere un articolo, ma non può assumersi la responsabilità dell’articolo. La responsabilità rimane di chi lo pubblica.
La domanda che resta aperta
Siamo ancora lontani dall’intelligenza artificiale generale, quella ipotetica tecnologia capace di apprendere e ragionare in modo paragonabile all’essere umano in qualsiasi campo.
Ma la distanza tra uomo e macchina, almeno nella comunicazione, si è già ridotta enormemente.
ChatGPT non ha bisogno di essere una persona per sembrare una persona.
Ed è proprio questo il punto che dovremmo ricordare ogni volta che iniziamo una conversazione con un’intelligenza artificiale: non dobbiamo chiederci soltanto quanto sia intelligente la macchina. Dobbiamo chiederci quanto siamo capaci noi di utilizzarla senza rinunciare al nostro giudizio.
