Il fine tuning specializza un modello su esempi mirati. Ma prima servono eval, prompt solidi e dati di qualità: non è la soluzione automatica a ogni problema.
Il fine tuning è una tecnica con cui un modello già addestrato viene ulteriormente ottimizzato su un insieme di esempi più specifico. Non si costruisce un’intelligenza artificiale da zero: si parte da capacità generali e si cerca di rendere il comportamento più adatto a un compito.
È una distinzione fondamentale. Addestrare un foundation model richiede quantità enormi di dati e calcolo; specializzarlo può richiedere un dataset molto più piccolo e un obiettivo più delimitato.
Nel fine tuning vengono aggiornati parametri del modello sulla base di nuovi esempi o segnali di preferenza. Il risultato è una nuova variante che tende a comportarsi in modo più coerente con il dataset fornito.
Le tecniche possono essere diverse: supervised fine tuning su coppie input/output, metodi basati su preferenze e forme di reinforcement fine tuning per compiti in cui un grader può valutare la qualità delle risposte.
Il fine tuning ha senso quando il comportamento desiderato è ripetitivo e misurabile: classificare casi in categorie specifiche, produrre un formato molto stabile, seguire convenzioni linguistiche o gestire un dominio con pattern ricorrenti.
Può anche permettere di usare prompt più corti a grande scala, perché parte degli esempi viene incorporata nel comportamento del modello invece di essere inviata ogni volta nel contesto.
Se il problema è che il modello non conosce informazioni aggiornate o dati privati, spesso è più adatto il retrieval: recuperare i documenti pertinenti al momento della richiesta.
Se invece il risultato migliora fornendo istruzioni chiare e pochi esempi, il prompt engineering può essere sufficiente. Fare fine tuning prima di aver provato soluzioni più semplici aggiunge costi e complessità senza garanzia di beneficio.
Uno dei cambiamenti più importanti nella pratica moderna è l’attenzione alla valutazione. Non si dovrebbe decidere di fare fine tuning perché “il modello non sembra abbastanza bravo”: bisogna costruire casi di test e misurare quali errori compie.
Le guide di ottimizzazione di OpenAI descrivono un ciclo: definire eval, migliorare il prompt, valutare se serve fine tuning, misurare di nuovo e iterare. È un approccio più solido della semplice raccolta di esempi.
La qualità del fine tuning dipende dagli esempi utilizzati. Se il dataset contiene risposte incoerenti, errori o criteri contraddittori, il modello può imparare proprio quei difetti.
Per questo serve una distinzione chiara tra dati di training e dati di valutazione. L’articolo sui dataset per l’AI approfondisce questo passaggio.
Un errore comune è usare il fine tuning come database. Se vuoi che un assistente risponda con prezzi, normative o cataloghi che cambiano spesso, incorporare tutto nel modello è poco pratico. Aggiornare una fonte esterna è molto più semplice che riaddestrare continuamente.
Il fine tuning è più adatto a modificare comportamento e competenza su un compito che a mantenere una base di conoscenza dinamica.
Le tecniche di fine tuning restano parte del machine learning, ma i prodotti offerti dai singoli provider cambiano nel tempo: modelli supportati, costi, metodi disponibili e limiti possono essere modificati o ritirati.
Per questo una guida evergreen deve separare la tecnica dalla piattaforma. Prima si decide se il fine tuning è il metodo giusto; solo dopo si sceglie il provider e si controlla la documentazione aggiornata.
Se non sai descrivere l’errore e misurare il miglioramento, probabilmente non sei ancora pronto per il fine tuning. Potrebbe servire un prompt migliore, una fonte dati più affidabile o un workflow diverso.
Il fine tuning è potente quando il problema è chiaro. Usato come risposta generica a “voglio un’AI più brava”, rischia invece di rendere più costoso un sistema che non abbiamo ancora capito.