Claude, Anthropic e il paradosso della AI Safety

Anthropic si vende da mesi come il laboratorio serio, prudente, quasi sacerdotale dell’intelligenza artificiale. Quello che mette i paletti quando gli altri sgasano. Quello che parla di sicurezza, di limiti, di responsabilità. Poi però è bastato un errore umano in un aggiornamento per spedire in giro una montagna di codice interno di Claude Code. Non i pesi del modello, d’accordo. Non i dati dei clienti, d’accordo. Ma abbastanza materiale da far capire al mondo come si costruisce davvero uno degli strumenti più forti del momento.

Il punto non è il dettaglio tecnico. Il punto è politico, industriale, culturale. Perché quando un’azienda costruisce la propria reputazione sul concetto di safety, e poi inciampa su una cosa così banale come la confezione di una release, il problema non è solo l’incidente. Il problema è la distanza tra la narrativa e la macchina reale. Anthropic ha spiegato che si è trattato di un problema di packaging e non di una violazione esterna; la ricostruzione del Guardian parla di quasi 2.000 file e circa 500.000 righe finite rapidamente su GitHub, mentre Axios racconta che la vicenda è già arrivata a Washington, con richieste formali di chiarimento sui rischi per la sicurezza nazionale.

Qui sta il cuore del pezzo. L’industria AI vuole essere trattata come infrastruttura critica, ma spesso si comporta ancora come una startup isterica con il culto della velocità. Vuole sedersi ai tavoli della difesa, dell’intelligence, della produttività globale, ma poi basta un errore di rilascio per lasciare in vetrina pezzi sensibili della propria architettura. È il solito vecchio vizio della Silicon Valley: chiedere fiducia sistemica mentre si lavora in modalità “poi sistemiamo”. Solo che qui non stiamo parlando di una app per consegnare sushi.

La cosa si fa ancora più interessante se si guarda il contesto. A marzo il Pentagono aveva affibbiato ad Anthropic una designazione formale di “supply-chain risk”, limitando l’uso della sua tecnologia nei contratti militari, mentre Reuters ha raccontato anche le tensioni legate all’uso di Claude in ambiti di sicurezza e difesa. Quando un soggetto del genere perde il controllo del proprio codice, la storia non resta dentro la nicchia dei developer: entra nel discorso sul potere, sulla credibilità e sulla fragilità di chi pretende di governare la prossima infrastruttura cognitiva del pianeta.

E non basta liquidarla con la formula rassicurante: “nessun dato cliente esposto”. Certo, meglio così. Ma il danno reputazionale sta altrove. Sta nel fatto che un’azienda che parla di allineamento, supervisione, guardrail e rischio esistenziale viene bucata non da un genio del male, ma dalla banalità organizzativa. In fondo è una lezione antica: spesso i sistemi più ambiziosi non crollano dove dichiarano di essere deboli, ma dove si credono già al sicuro.

In più, questa fuga di codice arriva in un momento in cui il valore vero non è solo nel modello, ma nella sua messa a terra: agenti, orchestrazione, strumenti, interfacce, workflow. Cioè esattamente la parte che separa il laboratorio dal prodotto. Se lasci vedere quella, lasci vedere la cucina. E in questa fase del mercato mostrare la cucina significa regalare vantaggio competitivo, idee di prodotto, scorciatoie di implementazione e perfino spunti per attacchi più intelligenti. Il modello da solo non basta più. Conta il modo in cui lo fai agire.

Per questo il caso Anthropic dice qualcosa di più generale sull’AI del 2026. I laboratori non stanno solo vendendo modelli: stanno vendendo affidabilità istituzionale. Vogliono essere i nuovi snodi del lavoro, dell’educazione, della sicurezza, della ricerca. Ma affidabilità istituzionale non significa scrivere bei principi sul blog. Significa costruire processi che reggano quando la pressione sale, quando il ciclo di rilascio accelera, quando la concorrenza corre e quando la tentazione di fare in fretta diventa sistema.

Il vero problema non è che l’AI diventi troppo autonoma. È che venga dichiarata affidabile molto prima di esserlo davvero.

Approfondimenti:

limiti strutturali dell’intelligenza artificiale

AI agent