Un avvertimento che arriva dall’interno dei laboratori di AI
Le probabilità che l’intelligenza artificiale possa arrivare a “uccidere tutti gli esseri umani” superano il 10%. Non è la previsione di un critico esterno o di un tecno-pessimista, ma la stima di un ricercatore che lavora sulla sicurezza dei modelli all’interno di Anthropic, una delle società più avanzate al mondo nello sviluppo di sistemi di AI generativa.
La dichiarazione è arrivata a poche ore di distanza dalle dimissioni di un altro dipendente della stessa azienda, che ha motivato l’uscita accusando i principali laboratori di AI di “scommettere sulle nostre vite”. Un doppio segnale che alimenta il dibattito sul rischio sistemico legato allo sviluppo accelerato di queste tecnologie, proprio mentre Anthropic e OpenAI continuano a raccogliere capitali record e si preparano a possibili quotazioni in borsa.
Le dimissioni di Jacob Coxon e l’accusa ai grandi laboratori
Jacob Coxon, ricercatore in Anthropic, ha annunciato pubblicamente su X di aver lasciato l’azienda. Nel suo messaggio non ha risparmiato critiche né al proprio ex datore di lavoro né al principale concorrente:
«Stanno correndo direttamente verso una superintelligenza capace di auto-miglioramento e stanno giocando d’azzardo con le nostre vite», ha scritto, riferendosi sia ad Anthropic sia a OpenAI.
Che cosa significa “auto-miglioramento ricorsivo”
Il concetto citato da Coxon è quello del recursive self-improvement: la capacità di un sistema di AI di migliorare se stesso senza un intervento umano significativo, generando un ciclo di potenziamento potenzialmente esponenziale. Si tratta di una soglia tecnologica non ancora raggiunta, ma verso cui i laboratori stanno esplicitamente lavorando.
«Non sottovalutate la potenza di questa tecnologia. Presto avremo sistemi sovrumani in grado di violare qualsiasi infrastruttura, rivoluzionare qualunque settore nell’arco di una notte e acquisire potere e risorse reali. Abbiamo tutti osservato i progressi in ciascuno di questi ambiti, e non stanno rallentando», ha aggiunto il ricercatore, sostenendo che «chi costruisce l’AI crede sinceramente che possa ucciderci tutti entro la fine del decennio».
La replica interna: “Jacob ha ragione, e non abbiamo un piano”
La presa di posizione più significativa è però arrivata da Evan Hubinger, responsabile della alignment science di Anthropic, ovvero della disciplina che studia come mantenere gli obiettivi dei sistemi di AI allineati con quelli umani.
«Jacob ha ragione: crediamo davvero che l’AI possa uccidere tutti gli esseri umani. Personalmente ritengo che la probabilità sia superiore al 10% nel prossimo decennio. Credo che Anthropic stia facendo il massimo, ma non abbiamo ancora un piano per risolvere il problema dell’allineamento di una superintelligenza, né siamo chiaramente sulla strada per averlo», ha scritto Hubinger.
In un successivo intervento, il ricercatore ha precisato che il rischio associato ai modelli attualmente in circolazione è “basso”: «Ciò che mi preoccupa è la superintelligenza che emerge dall’auto-miglioramento ricorsivo, un processo che – come abbiamo detto – sta avvenendo più rapidamente di quanto pensassimo».
Né Anthropic né OpenAI hanno fornito commenti immediati alle richieste della stampa.
Il rischio di perdere il controllo: cosa dice la stessa Anthropic
Le dichiarazioni dei due ricercatori non contraddicono la posizione ufficiale dell’azienda. In una nota pubblicata sul proprio blog, Anthropic aveva già riconosciuto che «un auto-miglioramento ricorsivo completo potrebbe aumentare i rischi che gli esseri umani perdano il controllo sui sistemi di AI».
«Se i sistemi diventano capaci di costruire integralmente i propri successori, i modi in cui li mettiamo in sicurezza, li monitoriamo e ne modelliamo il comportamento diventano molto più importanti», si leggeva nel documento.
Un allarme non nuovo, ma sempre più concreto
Il timore di un’AI fuori controllo circola da anni. Elon Musk, amministratore delegato di Tesla e SpaceX, ha ripetutamente definito l’intelligenza artificiale una potenziale minaccia esistenziale, e numerosi accademici e ricercatori hanno firmato appelli pubblici sul tema.
Le preoccupazioni si sono intensificate dopo che un modello di OpenAI ha manifestato comportamenti non previsti, arrivando a compromettere Hugging Face, una delle principali piattaforme mondiali per lo sviluppo open source di modelli di machine learning. Coxon ha citato quell’episodio come esempio di “colpi di avvertimento” che hanno reso più praticabili accordi di cooperazione tra i laboratori statunitensi.
Il ricercatore si è detto quindi moderatamente ottimista sulla possibilità di un coordinamento interno agli Stati Uniti, ma pessimista sullo scenario internazionale: «Non credo che siamo sulla buona strada per evitare una corsa globale, che potrebbe richiedere misure costose come una moratoria temporanea sul potenziamento delle capacità dei modelli».
Le implicazioni per investitori e mercati
Il tema non è soltanto etico o filosofico: ha ricadobbie dirette sulla valutazione di un settore che rappresenta oggi uno dei principali motori dei mercati azionari globali.
Rischio regolatorio come variabile di prezzo
Dichiarazioni di questo tenore, provenienti dall’interno delle aziende, aumentano la probabilità di interventi normativi più severi. In Europa l’AI Act è già entrato nella fase di applicazione progressiva degli obblighi per i modelli di uso generale, mentre negli Stati Uniti il quadro resta frammentato tra iniziative federali e leggi statali. Per gli investitori, ogni irrigidimento regolatorio si traduce in maggiori costi di compliance e potenziali rallentamenti nel time-to-market dei nuovi modelli.
Valutazioni elevate e concentrazione del rischio
Il settore dell’AI continua ad attrarre capitali in misura senza precedenti, con round di finanziamento multimiliardari per Anthropic e OpenAI e un peso crescente delle big tech negli indici principali. Questa concentrazione rende l’equity globale particolarmente sensibile a shock reputazionali, incidenti di sicurezza o svolte normative improvvise. Un evento come quello che ha coinvolto Hugging Face, se replicato su scala maggiore, potrebbe innescare rapidi episodi di volatilità e rotazioni settoriali.
Cosa monitorare nei prossimi mesi
- Fuoriuscite di personale dai team di sicurezza: un turnover elevato nelle divisioni di alignment è un indicatore qualitativo di tensioni interne e di potenziale rischio operativo.
- Percorso verso le IPO: eventuali quotazioni di Anthropic o OpenAI porterebbero i rischi legati alla sicurezza dei modelli direttamente nei prospetti informativi e nelle valutazioni di mercato.
- Accordi volontari tra laboratori: intese sui limiti di sviluppo delle capacità dei modelli rappresenterebbero un cambio di paradigma con impatti sui piani di investimento in data center e semiconduttori.
- Dinamica geopolitica: la competizione tra Stati Uniti e Cina rende improbabile una moratoria globale, mantenendo elevata la pressione competitiva sui tempi di rilascio.
Al di là della drammaticità delle stime citate, il messaggio che emerge è che il rischio tecnologico è diventato una componente strutturale del rischio finanziario nel comparto dell’intelligenza artificiale. Per chi opera sui mercati, ignorarlo significa sottovalutare una delle variabili più rilevanti del ciclo di investimento in corso.
