Vale la pena mettere l’occhio nella serratura per spiare bene cosa sta accadendo alla Casa Bianca su Anthropic. Il cortocircuito ideologico e geopolitico sull’intelligenza artificiale ha certamente allarmato l’Europa, dipendente dall’innovazione della Silicon Valley e nei corridoi di Washington iniziano a girare strane voci su Dario Amodei.
Pare che Anthropic, la startup nata con la promessa di mettere la sicurezza dell’intelligenza artificiale davanti a ogni logica di profitto, sia finita al centro di un duro scontro con il governo degli Stati Uniti ma per ragioni diverse da quelle che sono finite sui giornali.
A rivelare i dettagli retroscenisti di questa rottura è David Sacks, imprenditore tech, investitore (Craft Ventures, All-In Podcast) e Co-Presidente del Council of Advisers on Science & Technology della Casa Bianca. Andando al sodo, pare che Amodei si sia impuntato. Questa insubordinazione al potere politico dell’amministrazione di Trump può costargli caro.
Sacks ha spiegato come il recente blocco delle esportazioni imposto ad Anthropic non sia una mossa punitiva casuale, ma la diretta conseguenza del rifiuto dell’azienda di correggere una grave vulnerabilità nei propri modelli di punta.
Sommario
Il “paradosso Anthropic” che si inceppa
Ormai avete capito chi è l’attore principale sulla scena. Il cuore della vicenda ruota attorno al rilascio di Fable, la versione commerciale del potentissimo modello di nuova generazione denominato Mythos. Secondo Sacks, la transizione da laboratorio a mercato ha evidenziato una fragilità strutturale insostenibile per la sicurezza nazionale.
“Fable è Mythos dotato di barriere di sicurezza (guardrails). Ma se quelle barriere falliscono, allora hai esposto Mythos e le sue avanzate capacità informatiche a persone che non dovrebbero averle.”
Sacks evidenzia un’ironia di fondo che rischia di compromettere la reputazione dell’azienda guidata da Dario Amodei. È stata la stessa Anthropic, in passato, a fare pressione sulla politica affinché regolamentasse il settore, descrivendo i propri modelli come potenzialmente pericolosi.
“Tenete presente che la stessa Anthropic ha ampiamente promosso l’idea che Mythos fosse un’arma informatica e che dovesse essere regolamentata come tale. Hanno chiesto la regolamentazione governativa di Mythos e hanno sostenuto le barriere protettive su Fable. Se c’è una vulnerabilità – grande o piccola che sia – è responsabilità di Anthropic risolverla con una patch.”
Il rifiuto di Dario Amodei e il “Jailbreak” della discordia
Il punto di rottura istituzionale si è consumato a seguito dei test effettuati da un soggetto terzo indipendente, ritenuto altamente affidabile sia dall’azienda che dall’amministrazione americana. Questo partner ha scoperto un jailbreak, ovvero una tecnica in grado di aggirare completamente i blocchi di sicurezza di Fable, dando libero accesso alle potenzialità “offensive” del modello.
Di fronte alla minaccia, la reazione del governo è stata immediata, trovando però un inatteso muro da parte dei vertici di Anthropic:
“Un partner di fiducia altamente credibile sia di Anthropic che del governo statunitense, che stava testando Fable, si è fatto avanti dimostrando un jailbreak di quelle barriere di sicurezza. L’Amministrazione ha chiesto a Dario [Amodei] di correggere il jailbreak o di ritirare il modello. Dario si è rifiutato.”
Ciò che l’amministrazione USA contesta duramente ad Anthropic è il cambio di postura filosofica. Nel giustificare la propria decisione tramite un post sul blog aziendale, la startup ha minimizzato l’entità del problema, una mossa che Sacks definisce incomprensibile e contraria all’identità stessa del brand.
“Nel loro post sul blog, Anthropic ha difeso la propria decisione dicendo che il jailbreak non è serio. Questo non è ciò che credono il partner di fiducia e il governo; né questo tipo di linguaggio minimizzante è coerente con il brand di Anthropic come azienda per la sicurezza dell’IA. È difficile comprendere come possano sostenere che un jailbreak che consente il funzionamento di un’arma informatica possa essere definito non ‘serio’.”
Il profitto prima della sicurezza
Per Sacks, il verdetto politico e commerciale è netto: Anthropic avrebbe ceduto alle lusinghe del mercato consumer, sacrificando i propri principi fondativi sull’altare della continuità del servizio.
“In passato, Anthropic ha sempre affermato che la sicurezza doveva essere la massima priorità e presa super sul serio. In questo caso, Anthropic ha dato la priorità al mantenimento dell’offerta del modello commerciale rispetto alla sicurezza.”
La risposta di Washington – il blocco delle esportazioni – è stata quindi una scelta obbligata e, secondo Sacks, presa con riluttanza da un’amministrazione visibilmente “sconcertata” dall’improvvisa mancanza di cooperazione.
Il diplomatico tecnologico conclude però con un’apertura, smentendo le voci che volevano questa sanzione legata a vecchie ruggini geopolitiche o a dispute precedenti (come le questioni legate al Dipartimento della Difesa):
“La speranza dell’Amministrazione ora è che Anthropic rimedi al problema di sicurezza, che il controllo delle esportazioni venga revocato e che Fable torni alla distribuzione generale. L’Amministrazione vuole che tutto questo avvenga il prima possibile. […] La palla ora passa nel campo di Anthropic.”
La palla, dunque, si ferma nel campo di Dario Amodei. Resta da capire se Anthropic sceglierà di piegarsi alle richieste di Washington per blindare il proprio software o se rivendicherà l’autonomia delle proprie valutazioni tecniche, ridisegnando i confini del delicato rapporto tra Stato profondo e Silicon Valley.
