Soluzionismo AI: quando automatizzare nasconde il problema

Un ospedale ha liste d’attesa troppo lunghe. Un’azienda non riesce a gestire i clienti. Una scuola ha pochi insegnanti. La risposta proposta è spesso la stessa: introdurre un sistema di intelligenza artificiale. La tecnologia può migliorare una parte del processo, ma non aumenta automaticamente personale, risorse, competenze o responsabilità.

Il soluzionismo AI nasce quando un problema politico, sociale o organizzativo viene tradotto in un difetto tecnico e l’automazione viene presentata come risposta sufficiente. Il rischio non è soltanto che il sistema funzioni male. È che funzioni bene nel compito sbagliato, rendendo più efficiente una struttura che avrebbe bisogno di essere ripensata.

Ottimizzare non significa risolvere

Un algoritmo può ordinare pratiche, prevedere domanda o riassumere documenti. Non può decidere da solo quali obiettivi siano giusti, quali gruppi debbano avere priorità e quali errori siano accettabili. Queste sono scelte di valore.

Se una pubblica amministrazione automatizza la selezione delle richieste senza correggere criteri ingiusti, distribuisce l’ingiustizia più velocemente. Se un’azienda usa un chatbot perché ha ridotto troppo l’assistenza umana, l’AI può diminuire i costi senza risolvere l’impossibilità di ottenere una risposta responsabile.

L’UNESCO indica proporzionalità, sicurezza, controllo umano e diritti come principi centrali. Il sistema non dovrebbe andare oltre ciò che serve a un obiettivo legittimo. È il contrario della logica “mettiamo l’AI ovunque e vediamo che cosa succede”.

Perché il soluzionismo è conveniente

Una soluzione tecnica appare misurabile e acquistabile. Consente di annunciare un progetto, affidarlo a un fornitore e produrre indicatori. Una riforma organizzativa richiede invece confronto, assunzioni, redistribuzione del potere e responsabilità politica.

L’AI può quindi funzionare come linguaggio di depoliticizzazione. La mancanza di personale diventa “inefficienza”; una scelta controversa diventa “output del modello”; la riduzione di un servizio viene presentata come innovazione.

Il vantaggio per l’organizzazione è evidente: una decisione umana può essere contestata; un punteggio automatico sembra neutrale. Ma il punteggio incorpora dati, obiettivi e soglie scelti da qualcuno.

Tre esempi di problema mal formulato

Scuola

Un tutor AI può offrire esercizi personalizzati e spiegazioni aggiuntive. Non risolve classi sovraffollate, disuguaglianze di accesso o mancanza di insegnanti. Se viene usato per sostituire il rapporto educativo, il risparmio può essere chiamato personalizzazione.

Lavoro

Un sistema può classificare candidature o misurare prestazioni. Non decide quali competenze contino davvero e può replicare criteri storici. L’automazione rende più rapida la selezione, ma può ridurre la possibilità di contestare un giudizio.

Sanità

L’AI può aiutare a interpretare immagini o prevedere rischi. Non stabilisce da sola come allocare risorse scarse e non elimina la necessità di una responsabilità clinica. Un buon modello inserito in un processo mal progettato può aumentare confusione e dipendenza.

Come riconoscere il soluzionismo AI

Prima di adottare un sistema occorre rispondere a domande concrete:

• qual è il problema, descritto senza nominare la tecnologia?
• quale parte del problema è davvero informativa o ripetitiva?
• esiste una soluzione organizzativa più semplice?
• chi beneficia dell’automazione e chi sostiene gli errori?
• chi può contestare la decisione?
• che cosa accade se il sistema viene rimosso?

Se il progetto non riesce a rispondere, l’AI sta probabilmente guidando la definizione del bisogno invece di essere scelta dopo averlo compreso.

La proporzionalità come criterio pratico

L’OCSE collega l’AI affidabile a valori umani, trasparenza, robustezza e responsabilità. Tradotto in termini operativi: l’automazione dovrebbe essere proporzionata al rischio e mantenere la possibilità di intervento umano.

Per un compito reversibile e a basso impatto si può accettare una maggiore autonomia. Per salute, credito, lavoro, istruzione o accesso a servizi essenziali servono spiegazioni, controllo e possibilità di ricorso. L’efficienza non può essere l’unico parametro.

Quando l’AI è invece una buona soluzione

Criticare il soluzionismo non significa rifiutare la tecnologia. L’AI è utile quando:

• il compito è definito con precisione;
• la qualità può essere misurata;
• gli errori vengono rilevati e corretti;
• il sistema supporta persone competenti anziché nascondere la loro assenza;
• costi e benefici sono distribuiti in modo trasparente.

Un modello che riduce il tempo dedicato a un compito amministrativo può liberare risorse per attività umane più importanti. Diventa soluzionismo quando quella possibilità viene trasformata nella promessa di sostituire competenze, relazioni e scelte collettive.

La tecnologia non è fuori dalla decisione

Ogni sistema AI incorpora una definizione del problema. Decide che cosa misurare, che cosa ignorare e quale risultato ottimizzare. Per questo la domanda non è soltanto “funziona?”, ma quale realtà costruisce quando viene usato?

Automatizzare può essere una parte della soluzione. Quando diventa il modo per evitare la discussione su risorse, diritti e responsabilità, l’intelligenza artificiale smette di essere uno strumento e diventa una copertura organizzativa.

Fonti

• UNESCO Recommendation on the Ethics of AI
• OECD AI Principles
• OECD – Human-centred use of AI