L’amministratore delegato di OpenAI, Sam Altman, interviene nel dibattito sulla necessità di rallentare lo sviluppo dell’intelligenza artificiale per tenere sotto controllo i rischi legati ai sistemi più avanzati.
Con un post sui social spiega quali sono, a suo avviso, i due rischi principali da evitare nel futuro dello sviluppo dell’AI: “Ci sono due modi in cui il progresso dell’IA potrebbe andare molto male e che dobbiamo evitare”.
Il primo rischio, spiega Altman, è “perdere il controllo del futuro in favore dell’AI“. “È inaccettabile. Siamo senza mezzi termini dalla parte dell’umanità e l’AI deve sempre essere al servizio delle persone”, aggiunge. Per questo, secondo il ceo di OpenAI, è necessario fare in modo che le tecniche di allineamento e sicurezza restino avanti rispetto ai progressi nelle capacità dei modelli.
Il secondo rischio è “un mondo con un’eccessiva concentrazione del potere“. Se un sistema di intelligenza artificiale straordinariamente potente venisse utilizzato da una singola persona o azienda per imporre la propria visione del mondo agli altri, avverte Altman, i risultati potrebbero essere “estremamente distopici”.
Evitare questi due scenari richiede, secondo il manager, di seguire “una stretta via di mezzo”: troppo potere potrebbe infatti finire sia nelle mani di un singolo Paese sia in quelle di un solo laboratorio.
Altman interviene mentre tra i vertici delle principali aziende tecnologiche continua il confronto sul ritmo con cui sviluppare sistemi sempre più potenti e sulle garanzie necessarie per contenerne i rischi. “Quando parliamo di pacing, non intendiamo fermare“, precisa.
“Il progresso è stato rapido e continuerà a esserlo. Ma dovrebbe essere più lento di quanto potrebbe altrimenti essere”. Il numero uno di OpenAI sottolinea che strumenti come i safety cases e il monitoraggio comportano costi significativi, ma ritiene che siano costi necessari. “Nessuna pressione competitiva americana dovrebbe giustificare l’imprudenza o consentire alle capacità dei modelli di avanzare più rapidamente dell’allineamento e del monitoraggio”, afferma.
Altman sottolinea inoltre che “il mondo merita di avere fiducia” nel fatto che le aziende americane impegnate nello sviluppo di sistemi di IA sempre più capaci agiscano responsabilmente, soprattutto ora che il ritmo dei progressi sta accelerando. Ogni laboratorio di frontiera, aggiunge, deve essere in grado di offrire queste garanzie. Il ceo di OpenAI si dice favorevole a un quadro federale che stabilisca requisiti di sicurezza uniformi per l’IA di frontiera, ma sostiene che non sia necessario attendere un’esenzione dalle norme antitrust o una nuova legge per iniziare a lavorare in questa direzione.
Altman considera inoltre una buona idea l’introduzione di regole comuni per gestire i rischi dei sistemi più avanzati e cita positivamente strumenti come gli auditor indipendenti. Altman osserva poi che strumenti messi a punto negli anni scorsi, come le Responsible Scaling Policies e i Preparedness Frameworks, erano adeguati a quella fase e si concentravano soprattutto sull’impiego dei modelli già completati, più che su ciò che avviene durante il loro sviluppo. La nuova attenzione allo sviluppo e alla valutazione in sicurezza, sostiene, richiede invece strumenti diversi.
OpenAI, spiega, prepara ora specifici safety cases prima dei cicli di reinforcement learning di frontiera dai quali prevede un significativo aumento delle capacità, oltre al lavoro sulla sicurezza che l’azienda svolge da tempo prima del rilascio dei modelli. Altman auspica inoltre standard condivisi tra le aziende su disallineamento, monitoraggio e sicurezza.
Secondo il numero uno di OpenAI, il sostegno dei governi sarà necessario soprattutto per il coordinamento internazionale. “Ma prima dovremmo fare quello che possiamo da soli”, conclude.