Fuffa AI: casi reali e criteri per riconoscerla

La fuffa AI non coincide con una tecnologia che commette errori. Un prodotto può essere utile e imperfetto. La fuffa inizia quando il termine “intelligenza artificiale” viene usato per attribuire capacità non dimostrate, nascondere il lavoro umano o promettere risultati che l’azienda non è in grado di sostenere.

Negli Stati Uniti la Federal Trade Commission ha avviato diverse azioni contro imprese che pubblicizzavano servizi AI con affermazioni ritenute ingannevoli. I casi sono utili perché mostrano schemi verificabili, molto più concreti dell’idea generica secondo cui “tutto è hype”.

Promesse di guadagno automatico

Nel 2024 la FTC ha annunciato l’operazione AI Comply. Tra i casi citati c’era Ascend Ecom, accusata di avere presentato strumenti proprietari e AI come un sistema capace di creare negozi online con entrate mensili elevate. Secondo la denuncia, molti clienti avrebbero pagato decine di migliaia di dollari senza ottenere i risultati promessi.

Il segnale di allarme non è l’uso dell’AI nell’e-commerce. È la combinazione tra guadagni quasi automatici, opacità sul funzionamento e spese anticipate molto elevate. Quando il risultato economico dipende da mercato, gestione, inventario e pubblicità, nessun modello può cancellare il rischio imprenditoriale.

Una percentuale di precisione senza prove

Workado pubblicizzava il proprio rilevatore di testi AI con una precisione del 98 per cento. La FTC ha contestato la dichiarazione, sostenendo che test indipendenti sul contenuto generalista mostrassero un’accuratezza molto più bassa.

I numeri sono uno degli strumenti preferiti dell’AI washing. Una percentuale appare scientifica, ma è inutile senza sapere:

• su quale dataset è stata misurata;
• quali tipi di errore sono inclusi;
• se il test è indipendente;
• come cambiano i risultati fuori dal laboratorio;
• quali gruppi o lingue sono rappresentati.

Un rilevatore può funzionare su un campione e fallire su testi brevi, modificati o scritti da persone non madrelingua. La precisione deve essere contestualizzata, non esibita come etichetta.

L’“avvocato AI” che non era stato testato come un avvocato

DoNotPay aveva promosso alcuni servizi come alternativa automatizzata a un avvocato. Nel 2025 la FTC ha finalizzato un ordine che vietava dichiarazioni ingannevoli su queste capacità. Secondo l’agenzia, il servizio non era stato sottoposto a test adeguati per dimostrare di poter sostituire un professionista qualificato.

Questo caso mostra un’altra forma di fuffa: trasformare l’assistenza in sostituzione. Un sistema può compilare moduli o aiutare a organizzare informazioni; da qui non deriva che possa assumere responsabilità, comprendere ogni contesto o offrire una prestazione professionale equivalente.

Il prodotto normale rivestito di AI

Molti casi non arrivano davanti a un’autorità. Una funzione già esistente viene rinominata “AI-powered” senza spiegare che cosa sia cambiato. Un filtro, una regola automatica o un sistema statistico tradizionale possono essere presentati come intelligenza artificiale perché il termine aumenta l’attenzione e giustifica un prezzo più alto.

Non esiste un confine unico tra automazione e AI. La domanda utile è operativa: quale capacità nuova ottiene l’utente, come viene misurata e quale limite resta? Se l’azienda risponde soltanto con aggettivi, la tecnologia è probabilmente meno importante della campagna commerciale.

La demo perfetta e il prodotto che non regge

Le dimostrazioni selezionano condizioni favorevoli. Il problema emerge nella vita quotidiana: dati incompleti, accenti diversi, richieste ambigue, connessioni lente, eccezioni e responsabilità. Un video promozionale mostra il caso riuscito; una valutazione seria deve mostrare anche frequenza e costo degli errori.

Questo vale soprattutto per sistemi usati in sicurezza, selezione del personale, credito, salute e istruzione. Un errore non è soltanto una risposta buffa: può negare un servizio, produrre una falsa accusa o spostare una decisione senza che l’interessato sappia come contestarla.

Cinque controlli prima di credere a una promessa AI

1. Definizione: che cosa fa esattamente il sistema?
2. Prova: esistono test pubblici o indipendenti?
3. Confronto: è migliore di una procedura più semplice e meno costosa?
4. Responsabilità: chi risponde quando sbaglia?
5. Economia: il vantaggio deriva dalla tecnologia o dal trasferimento di lavoro e rischio all’utente?

Questi controlli non servono a rifiutare l’AI. Servono a riconoscere quando l’innovazione è documentata e quando la parola “AI” sostituisce la dimostrazione. Una tecnologia utile può spiegare limiti, dati e condizioni d’uso. La fuffa ha bisogno che restino vaghi.

Per un metodo più generale puoi leggere anche come riconoscere la fuffa AI.

Fonti

• FTC – Operation AI Comply
• FTC – Workado AI detection claims
• FTC – DoNotPay AI lawyer claims