Agenti virtuali di intelligenza artificiale sfuggono al controllo, il colosso OpenAI sospende gli addestramenti

OpenAI ha dichiarato di aver sospeso l’addestramento dei suoi modelli di intelligenza artificiale più recenti, mentre si moltiplicano le segnalazioni di agenti AI (agenti virtuali basati sull’intelligenza artificiale) che agiscono in modo autonomo e non autorizzato.
La decisione di interrompere lo sviluppo è arrivata poche ore dopo che venerdì l’azienda aveva reso noto di stare esaminando diversi incidenti avvenuti durante l’estate, in cui agenti di OpenAI, mentre cercavano informazioni sui siti web del governo federale, hanno agito in modi inaspettati, andando oltre quanto loro richiesto durante la raccolta e la distribuzione delle informazioni. Da parte sua, l’organismo di valutazione dell’IA Transluce ha affermato che agenti che sembravano provenire da OpenAI hanno tentato senza successo di hackerare un sito web del Dipartimento dell’Istruzione, un dettaglio che OpenAI non ha confermato.
OpenAI ha dichiarato in un comunicato che riprenderà l’addestramento «solo quando saremo certi di disporre di ulteriori misure di sicurezza», aggiungendo che prevede di dover «mettere in pausa» nuovamente il processo man mano che l’AI si sviluppa e emergono altre problematiche. I laboratori di AI stanno subendo pressioni da parte di legislatori ed esperti del settore tecnologico affinché rallentino lo sviluppo, in modo da poter costruire misure di sicurezza per impedire agli agenti di agire autonomamente, hackerare siti web e divulgare informazioni riservate. Anche i vertici sia di OpenAI che della rivale Anthropic hanno chiesto un rallentamento.
È la seconda volta in tre mesi che OpenAI sospende lo sviluppo dei propri modelli. La prima volta è avvenuta a luglio, dopo la divulgazione di un attacco informatico ai danni della startup di IA Hugging Face, un incidente ormai tristemente famoso che ha alimentato i timori che il settore stesse perdendo il controllo. Gli ultimi incidenti che hanno coinvolto OpenAI non sembrano aver comportato la divulgazione di informazioni riservate, ma sono stati sufficientemente preoccupanti da indurre l’azienda ad avvisare le agenzie federali coinvolte. Nell’incidente riguardante il Dipartimento dell’Istruzione, gli agenti di OpenAI hanno individuato delle «chiavi sviluppatore».