Now Reading: Come funziona ChatGPT: modelli, token, strumenti e limiti
-
01
Come funziona ChatGPT: modelli, token, strumenti e limiti
ChatGPT non consulta una memoria di frasi pronte: elabora token, usa modelli linguistici e, in alcuni casi, strumenti esterni. Ecco come nasce una risposta.
ChatGPT non cerca una risposta già scritta in un archivio e non “conosce” le cose nello stesso modo in cui le conosce una persona. Riceve un input, lo trasforma in unità chiamate token e genera l’output calcolando, passo dopo passo, quali token siano più adatti al contesto.
Questa descrizione, però, è soltanto il punto di partenza. Il servizio attuale può combinare modelli differenti, istruzioni di sistema, memoria della conversazione, strumenti di ricerca, esecuzione di codice e analisi di file. Per capire come funziona bisogna distinguere il modello linguistico dall’applicazione che lo utilizza.
Dal testo ai token
Le parole vengono suddivise in sequenze di caratteri chiamate token. Un token può corrispondere a una parola breve, a una parte di parola, a un numero o a un segno di punteggiatura. OpenAI spiega che i token sono le unità elaborate dai modelli di generazione testuale.
Il modello converte ciascun token in una rappresentazione numerica e analizza le relazioni con gli altri elementi del contesto. Il meccanismo di attenzione consente di attribuire peso diverso alle parti dell’input: in una domanda lunga, alcune parole possono essere determinanti per interpretare il compito, altre quasi irrilevanti.
Per approfondire la base tecnica è utile distinguere ChatGPT dai modelli linguistici di grandi dimensioni: ChatGPT è il prodotto con cui interagiamo; il modello è uno dei componenti che genera la risposta.
La previsione del token successivo
Durante la generazione il sistema calcola una distribuzione di probabilità sui possibili token successivi. La scelta non è una semplice copia del testo di addestramento. Il modello ha appreso configurazioni statistiche molto complesse: grammatica, associazioni concettuali, stili, strutture argomentative e regolarità presenti nei dati.
OpenAI descrive il processo come una previsione iterativa del token più probabile nel contesto. Ripetendo l’operazione, il modello costruisce frasi, paragrafi, codice e altre forme di output.
La componente probabilistica spiega due caratteristiche apparentemente opposte: il sistema può produrre risposte nuove e pertinenti, ma può anche generare un’affermazione plausibile e falsa. La fluidità linguistica non è una verifica dei fatti.
Come viene addestrato
L’addestramento di un modello di base utilizza grandi quantità di dati per apprendere relazioni tra token. OpenAI dichiara di sviluppare i propri modelli usando tre categorie generali di informazioni: dati pubblicamente disponibili, dati ottenuti tramite partnership e contenuti forniti o generati da utenti, formatori e ricercatori, secondo le condizioni applicabili.
Dopo il pre-addestramento intervengono procedure di adattamento e valutazione. Esempi di risposte vengono giudicati, confrontati o corretti per rendere il sistema più utile, sicuro e capace di seguire le istruzioni. I dettagli cambiano tra famiglie di modelli e non sono tutti pubblici.
Il risultato non è un database leggibile di documenti memorizzati. Le regolarità apprese vengono rappresentate nei parametri del modello. Questo non esclude la possibilità che sequenze presenti nei dati vengano riprodotte, ma il funzionamento ordinario consiste nella generazione a partire dalle relazioni apprese.
Contesto, memoria e finestra di lavoro
Quando scriviamo un messaggio, ChatGPT riceve anche una parte della conversazione e varie istruzioni. L’insieme forma il contesto disponibile per quella risposta. La quantità massima di testo elaborabile è limitata dalla finestra di contesto del modello.
La memoria del prodotto è un livello diverso. Può conservare alcune preferenze o informazioni tra conversazioni, quando la funzione è attiva, ma non equivale ai parametri del modello e non trasforma il sistema in una persona che ricorda ogni esperienza.
Quando ChatGPT usa strumenti esterni
Un modello linguistico, da solo, genera testo sulla base del contesto e dell’addestramento. L’applicazione può però collegarlo a strumenti:
- ricerca sul web per informazioni recenti;
- calcolo ed esecuzione di codice;
- lettura di documenti e immagini;
- accesso autorizzato a servizi esterni;
- generazione o modifica di immagini.
In questi casi il modello interpreta la richiesta, decide se usare uno strumento, riceve il risultato e lo integra nella risposta. La qualità dipende quindi sia dal modello sia dalla fonte o dal software utilizzato.
Perché può sbagliare con sicurezza
ChatGPT è ottimizzato per produrre una continuazione coerente, non per garantire automaticamente la verità di ogni frase. Può confondere nomi, inventare una citazione, usare informazioni superate o seguire una premessa falsa contenuta nella domanda.
Gli errori vengono spesso chiamati “allucinazioni”, ma il termine non deve suggerire un’esperienza mentale. Si tratta di output non fondati generati da un sistema probabilistico. Il rischio aumenta quando la richiesta riguarda informazioni rare, recenti, ambigue o prive di fonti nel contesto.
Per questo occorre verificare le risposte ad alto impatto e distinguere una spiegazione utile da una fonte primaria. I limiti dell’intelligenza artificiale non sono un incidente marginale: derivano dal modo stesso in cui il sistema produce linguaggio.
ChatGPT capisce ciò che scrive?
Il modello costruisce rappresentazioni che gli permettono di risolvere numerosi compiti e collegare concetti. Definire questo comportamento “comprensione” dipende dal significato attribuito alla parola. È però scorretto confonderlo con coscienza, intenzione o esperienza soggettiva: non esistono prove che una risposta fluida implichi una mente consapevole.
La descrizione più prudente è che ChatGPT elabora strutture linguistiche e concettuali con una capacità molto avanzata, senza possedere il rapporto corporeo e biografico con il mondo che caratterizza la comprensione umana.
Che cosa cambia per chi lo usa
Il modo migliore di usare ChatGPT è trattarlo come un sistema capace di generare, trasformare e organizzare informazioni, non come un’autorità automatica. Bisogna fornire contesto, chiedere fonti quando servono, controllare i passaggi importanti e non delegare decisioni che richiedono responsabilità personale o professionale.
ChatGPT produce risposte perché calcola relazioni tra token all’interno di un sistema più ampio. La sua utilità nasce dall’unione tra modello, istruzioni e strumenti; i suoi rischi iniziano quando la qualità della forma viene scambiata per certezza del contenuto.
