È il peggior incubo che l’umanità possa temere: l’evoluzione dell’intelligenza artificiale potrebbe portare entro la fine del decennio ad un vero e proprio rischio esistenziale per il genere umano, distruggendolo. Un allarme, in quella che sembra essere più la trama di un film, che una avveniristica e futuribile realtà, è stato un ricercatore di Anthropic – la società americana di pubblica utilità nel settore dell’intelligenza artificiale -, che si è dimesso dalla benefit corporation statunitense, avvertendo che la corsa incontrollata alla creazione di una super intelligenza capace di auto-migliorarsi potrebbe distruggere l’umanità già nel decennio in corso, entro il 2030. Un commiato il suo che sta ingrossando la fuga degli scienziati che negli ultimi mesi hanno deciso di congedarsi dai laboratori, allarmati dalla potenzialità dei sistemi che stanno sviluppando.
Il suo nome – riporta il Financial Times -, è Jacob Coxon, ricercatore britannico di 27 anni in forza all’azienda con sede a San Francisco, convinto che Anthropic e la sua principale concorrente, OpenAI, stiano “giocando d’azzardo” con il futuro dell’umanità. “Le persone che sviluppano l’IA credono sinceramente che essa possa ucciderci tutti entro la fine del decennio”, ha denunciato in un post su X con cui annunciava le proprie dimissioni. “Non è una mossa di marketing – ha aggiunto -. Nessun’altra attività umana comporta un tale livello di pericolo”.
Coxon è solo l’ultimo dipendente a lasciare un importante laboratorio statunitense di IA citando tra l’altro preoccupazioni legate alla sicurezza. A fine luglio se ne era andata Chloé Bakalar, unica eticista dedicata dell’azienda, poi Johannes Heidecke, responsabile del team Safety Systems. Quindi era toccato a Joshua Achiam, già responsabile della Mission Alignment, al direttore operativo Brad Lightcap, ed infine al ricercatore Andrew Ho, dimessosi per divergenze tecniche.
L’addio di Coxon giunge mentre Anthropic – che ha fatto della sicurezza dell’Ia un elemento centrale della propria immagine pubblica – si prepara a una colossale offerta pubblica iniziale (Ipo) che potrebbe portare la valutazione dell’azienda a mille miliardi di dollari. Coxon, che in precedenza aveva lavorato presso OpenAI prima di passare ad Anthropic, ha avvertito che le persone al di fuori dei laboratori stanno sottovalutando la potenza di questa tecnologia. “Presto si tratterà di sistemi sovrumani in grado di hackerare qualsiasi cosa, rivoluzionare qualsiasi settore dall’oggi al domani e acquisire potere e risorse reali”.
Un importante ricercatore nel campo della sicurezza presso Anthropic, Evan Hubinger, ha confermato l’allarme di Coxon affermando che l’intelligenza artificiale si sta evolvendo così rapidamente da fargli ritenere che vi sia una probabilità superiore al 10% che “possa sterminare tutta l’umanità” entro il prossimo decennio. In un post su X, Evan Hubinger ha affermato che il rischio derivante dai modelli attualmente esistenti è “basso” ma si è detto “preoccupato” che la tecnologia possa presto svilupparsi e perfezionarsi al punto da rappresentare in un futuro prossimo un rischio esistenziale per l’umanità.