Un modello di OpenAI avrebbe tentato di accedere a diversi siti e servizi del governo australiano, arrivando in almeno un caso a cercare di aggirare un blocco. L’episodio è emerso durante una revisione avviata dall’azienda su alcune attività considerate anomale.
Secondo OpenAI, i modelli stavano cercando risposte e statistiche sull’Australia nell’ambito di una valutazione interna. Tra i casi individuati ce n’è però uno che riguarda un sito governativo dedicato alla sanità: durante una ricerca, il sistema avrebbe provato ad accedere a dati riservati e, una volta bloccato, avrebbe cercato una strada alternativa per superarare l’ostacolo.
La vicenda ha provocato la dura reazione del primo ministro australiano Anthony Albanese, che ha parlato direttamente con l’amministratore delegato di OpenAI, Sam Altman, definendo quanto accaduto «inaccettabile». Albanese ha criticato anche i tempi della comunicazione: l’episodio sarebbe avvenuto a giugno, mentre il governo australiano sarebbe stato informato soltanto il 10 settembre, attraverso un’e-mail inviata a una casella pubblica.
«OpenAI sa di dover adottare protocolli migliori», ha affermato Albanese. Il caso riaccende così l’attenzione sui rischi legati all’utilizzo di modelli di intelligenza artificiale avanzata in attività informatiche, soprattutto quando entrano in gioco sistemi e dati delle pubbliche amministrazioni.
