Now Reading: Come funziona ChatGPT: modelli, token, strumenti e limiti
-
01
Come funziona ChatGPT: modelli, token, strumenti e limiti
ChatGPT non è un archivio di risposte: combina modelli, token, contesto e strumenti. Ecco come genera output e perché può ancora sbagliare.
ChatGPT non cerca una risposta già pronta in un database. È un servizio che combina uno o più modelli di intelligenza artificiale con istruzioni, contesto e strumenti. Per capire come funziona conviene quindi separare due livelli: il modello, che elabora e genera contenuti, e il prodotto ChatGPT, che può aggiungere ricerca, file, immagini, codice e altre capacità.
Questa distinzione evita uno degli errori più comuni: immaginare ChatGPT come un motore di ricerca con una personalità. Un modello linguistico genera output sulla base dei pattern appresi durante l’addestramento e delle informazioni disponibili nel contesto corrente.
Dal testo ai token
I modelli non leggono le frasi esattamente come le leggiamo noi. Il testo viene trasformato in token, unità che possono corrispondere a parole intere, parti di parola, segni di punteggiatura o caratteri. Il numero di token dipende dalla lingua e dal sistema di tokenizzazione.
Quando scrivi un messaggio, il modello riceve una sequenza di token e produce nuovi token come output. Questa rappresentazione è anche alla base dei limiti di contesto e dei costi delle API.
La generazione avviene token dopo token
Un modello linguistico di grandi dimensioni stima quali continuazioni siano più appropriate dato il contesto. Lo fa ripetutamente, costruendo l’output un token alla volta.
Dire che “prevede il token successivo” non significa però che l’intero sistema sia un semplice completamento automatico. Nei modelli moderni la previsione è il risultato di reti neurali con moltissimi parametri capaci di rappresentare relazioni complesse tra concetti, strutture linguistiche e informazioni apprese.
Come vengono sviluppati i modelli
OpenAI descrive lo sviluppo dei propri foundation model come una sequenza che comprende preparazione dei dati, pre-training, post-training, valutazione e miglioramento dopo il deployment. Le fonti di dati includono informazioni pubblicamente disponibili, contenuti ottenuti tramite partnership e dati forniti o generati da utenti, trainer e ricercatori secondo le relative politiche.
Per capire il processo in generale puoi leggere anche come vengono addestrati i modelli AI e l’articolo sui dataset.
Il contesto non è la stessa cosa della memoria
Durante una conversazione il modello riceve una quantità di informazioni che costituisce il suo contesto operativo: messaggi precedenti, istruzioni, eventuali file e risultati degli strumenti. La dimensione disponibile non è infinita e varia a seconda del modello e del prodotto.
Le funzioni di memoria del prodotto sono un livello ulteriore: possono fornire al sistema informazioni provenienti da interazioni precedenti, ma non equivalgono al fatto che il modello “ricordi” come una persona.
ChatGPT può usare strumenti esterni
Il prodotto attuale non è limitato alla conoscenza codificata nei pesi del modello. Può lavorare con file, immagini, ricerca web, codice e workflow multi-step quando queste capacità sono disponibili.
Questo cambia la natura della risposta. Se il sistema utilizza una ricerca esterna, una parte dell’informazione deriva dalle fonti recuperate in quel momento; se usa codice, può calcolare un risultato invece di stimarlo linguisticamente; se lavora su un file, può basarsi sul contenuto fornito dall’utente.
Perché può ancora sbagliare
La generazione linguistica ottimizza la plausibilità e l’utilità dell’output, non garantisce automaticamente che ogni affermazione sia vera. Un modello può confondere dettagli, costruire riferimenti inesistenti o presentare con sicurezza una ricostruzione errata.
Gli strumenti riducono alcuni tipi di errore ma non eliminano il problema: una ricerca può recuperare una fonte debole, un file può essere interpretato male, un calcolo può partire da un presupposto sbagliato.
ChatGPT “capisce” quello che scrive?
Dipende da cosa intendiamo per capire. Il sistema costruisce rappresentazioni interne molto ricche e sa applicare conoscenze a compiti nuovi; allo stesso tempo non abbiamo motivo di attribuirgli automaticamente esperienza soggettiva, coscienza o comprensione umana.
La formulazione più utile è operativa: ChatGPT può eseguire molti compiti che richiedono comprensione funzionale del linguaggio, ma questo non rende corretto trattarlo come una persona.
Come usarlo meglio
Il modo più efficace di lavorare con ChatGPT è distinguere generazione e verifica. Per brainstorming, trasformazioni e prime bozze può bastare una buona istruzione; per dati recenti, decisioni importanti e affermazioni verificabili è meglio fornire fonti, usare strumenti di ricerca e controllare i passaggi decisivi.
Il valore di ChatGPT nasce proprio dall’unione tra modello, contesto e strumenti. Il rischio nasce quando la fluidità della risposta viene scambiata per certezza.
