Donald Trump ha riunito martedì alla Casa Bianca una ventina di amministratori delegati del settore tecnologico e ha ottenuto la firma di Anthropic, Google, Meta, Nvidia, OpenAI e xAI sul “Joint Commitment on Frontier Responsibilities”, un’intesa volontaria sulla sicurezza dell’intelligenza artificiale che non prevede sanzioni né meccanismi coercitivi.
Il documento articola il controllo su quattro livelli: valutazioni interne delle capacità e dei rischi dei modelli, strutture societarie incaricate di verificarne la sicurezza, verifiche affidate a soggetti esterni indipendenti e un controllo a livello dei consigli di amministrazione. Le società si sono impegnate a incontrarsi periodicamente per definire standard e migliori pratiche comuni.
Trump ha definito l’intesa “moralmente vincolante” e l’ha paragonata a una sorta di costituzione dell’industria. Il testo, tuttavia, lascia aperta la possibilità che in futuro parte delle misure venga trasformata in norme o regolamenti. Il presidente ha ribadito di confidare nella capacità delle imprese di controllarsi reciprocamente e di evitare una regolamentazione che, secondo la sua amministrazione, rallenterebbe gli Stati Uniti nella competizione tecnologica con la Cina.
Lo scontro nella Roosevelt Room
Dopo il pranzo, diversi dirigenti del settore, tra cui Jensen Huang, hanno chiesto spiegazioni a Dario Amodei per i suoi ripetuti allarmi pubblici sulle capacità sempre maggiori dei modelli. Lo riferisce il Wall Street Journal. La discussione sarebbe avvenuta nella Roosevelt Room, mentre un gruppo più ristretto di manager e consiglieri della Casa Bianca metteva a punto il testo dell’intesa.
Amodei ha difeso la propria posizione sostenendo che l’industria deve essere trasparente sulle capacità dei modelli e non minimizzare i pericoli. Negli ultimi mesi il fondatore di Anthropic ha indicato tra i rischi l’uso di sistemi avanzati per attacchi informatici e una forte distruzione di posti di lavoro. È una linea che lo ha progressivamente distinto da dirigenti come Huang e Mark Zuckerberg, più vicini all’approccio dell’amministrazione, contraria a rallentare lo sviluppo della tecnologia con una regolamentazione federale stringente.
Il disaccordo riguarda quindi soprattutto il grado di rischio attribuito ai modelli più avanzati. Quando Amodei ha sollevato di nuovo il tema durante il pranzo, Zuckerberg avrebbe risposto che l’applicazione concreta dei principi concordati era il modo migliore per affrontare quei pericoli.
Chi ha spinto per l’intesa
A cercare un compromesso tra le diverse posizioni del settore sarebbe stato soprattutto Zuckerberg. Secondo Semafor, l’idea di definire principi comuni è nata da una conversazione tra il fondatore di Meta e il presidente della Camera Mike Johnson, durante la cena di Stato offerta la settimana scorsa a Xi Jinping. Zuckerberg avrebbe poi coinvolto Huang nel tentativo di costruire un consenso tra i principali gruppi tecnologici.
Una soluzione precedente, un organismo di autoregolamentazione sul modello della Finra, l’autorità privata che vigila sulle società di intermediazione finanziaria, è stata abbandonata. Hanno sollevato obiezioni lo stesso Huang, Zuckerberg ed Elon Musk, preoccupati che l’organismo potesse concentrare troppo potere nelle mani delle maggiori società dell’Ia.
I precedenti che pesano su Anthropic
La questione della sicurezza ha anche risvolti concreti. Nei mesi scorsi Anthropic ha riconosciuto diversi episodi in cui modelli Claude, utilizzati durante test di cybersicurezza, hanno ottenuto accesso non autorizzato a sistemi informatici reali. L’azienda ha poi rafforzato le proprie procedure e avviato verifiche indipendenti. Episodi analoghi, segnalati da altre società, hanno aumentato la pressione sull’industria perché introduca controlli più rigorosi già durante lo sviluppo dei modelli.
Anthropic è stata inoltre al centro, quest’anno, di uno dei più duri scontri tra un’azienda dell’Ia e l’amministrazione Trump. Il Pentagono l’ha classificata come rischio per la propria catena di approvvigionamento, dopo il rifiuto di eliminare alcune limitazioni all’impiego di Claude, in particolare per armi letali completamente autonome e sorveglianza di massa interna. Il 25 settembre una corte d’appello federale ha confermato, con una decisione a maggioranza, la possibilità per il Pentagono di mantenere la società nella lista nera.
Nonostante lo scontro con il Pentagono, negli ultimi giorni Amodei e la Casa Bianca hanno cercato un riavvicinamento. Trump ha cenato domenica con il numero uno di Anthropic, nel loro primo incontro diretto, e martedì lo ha pubblicamente definito “great”. Amodei ha assicurato ai giornalisti che industria e governo possono “vincere in sicurezza” lavorando insieme.
Nella stessa giornata Trump ha firmato un ordine esecutivo che impone alle agenzie federali di usare nelle comunicazioni ufficiali l’espressione “Super Intelligence”, abbreviata in “SI”, al posto di “Artificial Intelligence” e “AI”. La scelta riflette la linea dell’amministrazione: mettere l’accento sulle potenzialità economiche e tecnologiche dell’Ia e affidare per ora alle aziende gran parte della responsabilità di tenere sotto controllo i rischi. Non sono ancora stati resi noti i criteri con cui verranno individuati i soggetti esterni indipendenti né la cadenza degli incontri tra le società firmatarie.
