La corsa alla superintelligenza preoccupa Anthropic: “Potrebbe ucciderci tutti”

Evan Hubinger, responsabile dell’Alignment Science di Anthropic, ha stimato in oltre il 10% la probabilità che una futura Intelligenza artificiale possa “uccidere tutti gli esseri umani” nel prossimo decennio. L’avvertimento, pubblicato su X, riguarda i sistemi che potrebbero svilupparsi attraverso un processo di auto-miglioramento ricorsivo, non i modelli oggi disponibili.

Il ricercatore lavora proprio sul problema che potrebbe rendere possibile questo scenario: l’allineamento dei sistemi avanzati agli obiettivi e ai vincoli stabiliti dagli esseri umani. La sua valutazione acquista rilievo perché proviene dall’interno di Anthropic, una delle aziende impegnate nello sviluppo di modelli di Ia avanzati e che presenta la sicurezza come uno dei propri principali ambiti di ricerca.

L’ammissione sul rischio futuro

Hubinger è intervenuto dopo le dimissioni da Anthropic di Jacob Coxon, ricercatore britannico di 27 anni, che ha accusato le principali aziende del settore di spingersi verso una superintelligenza capace di auto-migliorarsi senza disporre di garanzie sufficienti.

“Jacob ha ragione: crediamo davvero, sinceramente, che l’Ia potrebbe uccidere tutti gli esseri umani”, ha scritto Hubinger. Poi ha precisato la propria valutazione: “Personalmente penso che la probabilità sia superiore al 10% nel prossimo decennio”.

Il ricercatore ha però separato il rischio ipotizzato per una futura superintelligenza da quello associato ai modelli già disponibili. “Per essere chiari, penso che il rischio derivante dai modelli attuali sia basso”, ha precisato sempre su X.

La distinzione è centrale. Hubinger non sostiene che gli strumenti di Ia oggi utilizzati siano prossimi a provocare l’estinzione umana. Il rischio che considera riguarda un salto di capacità futuro, legato alla possibilità che sistemi sufficientemente avanzati possano contribuire alla progettazione e all’addestramento di versioni ancora più potenti di se stessi.

Il nodo dell’auto-miglioramento

Il processo indicato da Hubinger è quello dell’”auto-miglioramento ricorsivo”. In uno scenario di questo tipo, un sistema avanzato potrebbe essere impiegato per migliorare la progettazione, la programmazione o l’addestramento di altri sistemi, aumentando progressivamente le proprie capacità.

Il timore è che l’accelerazione possa superare la capacità dei ricercatori di comprenderne e controllarne gli effetti. È questo il punto nel quale il tema tecnico dell’allineamento diventa una questione di sicurezza.

“Credo che Anthropic stia facendo del suo meglio, ma non abbiamo ancora un piano per risolvere il problema dell’allineamento della superintelligenza e non siamo chiaramente sulla buona strada per riuscirci”, ha affermato Hubinger.

L’allineamento consiste, in termini generali, nel fare in modo che un sistema molto più capace dell’uomo continui a rispettare gli obiettivi, i vincoli e le intenzioni definite dagli esseri umani. Il problema diventa più complesso quanto maggiore è l’autonomia del sistema e quanto più rapidamente aumentano le sue capacità.

Le dimissioni che hanno riaperto il confronto

L’intervento di Hubinger è arrivato dopo l’uscita di Coxon da Anthropic. Prima di entrare nella società aveva lavorato anche a OpenAI. Nell’annunciare le dimissioni, il ricercatore ha accusato il settore di “giocare d’azzardo con le nostre vite”.

Coxon ha sostenuto che “le persone che costruiscono l’Ia credono sinceramente che potrebbe ucciderci tutti entro la fine del decennio”. E ha respinto l’idea che simili avvertimenti siano soltanto comunicazione per attirare attenzione: “Non si tratta di una trovata di marketing”.

La sua critica riguarda soprattutto la velocità con cui le aziende stanno sviluppando sistemi sempre più potenti. A questo si aggiunge la competizione internazionale: se una società o un Paese decidesse di rallentare, gli altri potrebbero proseguire, creando un incentivo a mantenere il ritmo dello sviluppo.

Il problema della competizione

Secondo Coxon, la questione non può quindi essere affrontata soltanto all’interno di un singolo laboratorio. La competizione tra le principali aziende tecnologiche e tra gli Stati rende più difficile una scelta unilaterale di rallentamento, perché chi si fermasse potrebbe perdere terreno rispetto ai concorrenti.

Da qui la sua richiesta di valutare anche misure drastiche, come una sospensione temporanea dello sviluppo delle capacità dei modelli, accompagnata da un coordinamento più ampio.

La posizione di Hubinger non coincide necessariamente con quella di Coxon sul rimedio, ma ne rafforza il punto centrale: anche all’interno di una società che ha fatto della sicurezza dell’Ia uno dei propri campi di ricerca, il problema della superintelligenza non viene considerato risolto.

Il dato più significativo della sua dichiarazione resta dunque la distanza tra la capacità prevista dei sistemi futuri e gli strumenti oggi disponibili per garantirne il controllo. Hubinger considera basso il rischio associato ai modelli attuali, ma ritiene superiore al 10% quello legato a una possibile superintelligenza nel prossimo decennio.

Non sono stati resi noti, nel materiale disponibile, criteri quantitativi dettagliati attraverso i quali Hubinger abbia calcolato quella percentuale. La stima resta quindi una valutazione personale del ricercatore, inserita in un dibattito sulla sicurezza dell’Ia nel quale la velocità dello sviluppo tecnologico si confronta con la capacità della ricerca di prevenire comportamenti non allineati agli obiettivi umani.