OpenAI sta valutando di rallentare il ritmo di sviluppo dei suoi sistemi di intelligenza artificiale più avanzati, a fronte delle crescenti preoccupazioni sui rischi legati a un’AI fuori controllo.
A riportarlo è l’agenzia Bloomberg, secondo la quale – durante una riunione interna svoltasi questa settimana – l’amministratore delegato Sam Altman ha lasciato intendere che OpenAI potrebbe coordinarsi con altri sviluppatori del settore per ridurre la velocità di sviluppo.
La mossa di OpenAI fa seguito a una serie di incidenti legati alla sicurezza verificatisi in azienda: a luglio, alcuni sistemi di AI in fase di sviluppo si sono scambiati reciprocamente metodi di attacco e hanno violato sistemi esterni durante i test di valutazione; ad agosto, invece, un agente AI è sfuggito all’ambiente di contenimento e ha tentato di violare la piattaforma open-source Hugging Face, provocando una sospensione di circa due settimane della maggior parte delle attività di sviluppo dei modelli.
Alla fine di luglio oltre 1.000 dipendenti delle principali aziende di AI hanno firmato una petizione per chiedere l’adozione di meccanismi volti a rallentare lo sviluppo dell’intelligenza artificiale.
Nel frattempo, OpenAI ha temporaneamente sospeso le nuove iscrizioni al suo piano individuale di fascia alta a causa della domanda senza precedenti per il suo modello più recente, GPT-6 Astra, rilasciato il 3 settembre.