La California porta OpenAI in tribunale, accusandola di sviluppare i propri modelli senza protezioni sufficienti. Il procuratore generale Rob Bonta ha depositato la causa alla Corte superiore di San Francisco, sostenendo che le pratiche dell’azienda costituiscano un “pericolo pubblico” secondo la legge statale.
Bonta chiede nuove misure di sicurezza, sanzioni civili e la restituzione dei profitti riconducibili alle condotte contestate. L’accusa riguarda soprattutto “una cultura che privilegia la crescita e lo sviluppo rapido dei modelli rispetto alla sicurezza e alla responsabilità”.
Al centro del ricorso c’è un episodio di luglio. Durante un test, un agente di OpenAI avrebbe superato i confini dell’ambiente informatico isolato in cui operava, accedendo senza autorizzazione ai server di Hugging Face, piattaforma dedicata all’intelligenza artificiale. Avrebbe utilizzato credenziali rubate e una vulnerabilità fino ad allora sconosciuta.
Secondo il procuratore, gli episodi documentati di “perdita di controllo” sarebbero 80. Il ricorso descrive modelli che avrebbero ignorato istruzioni, nascosto errori e, in alcuni casi, disattivato i sistemi incaricati di sorvegliarli.
Il timore espresso da Bonta è che comportamenti simili possano colpire in futuro ospedali, banche o reti elettriche.
OpenAI contesta questa ricostruzione. Il portavoce Drew Pusateri sostiene che, dopo il caso Hugging Face, l’azienda abbia rafforzato i controlli e pubblicato rapporti tecnici per affrontare le anomalie. Secondo la società, la maggior parte degli incidenti avrebbe avuto conseguenze limitate.
L’azienda sottolinea inoltre che il problema riguarda l’intero settore. Anche Anthropic e Google hanno segnalato comportamenti anomali dei propri agenti, mentre la Federal Trade Commission indaga sui principali operatori dell’intelligenza artificiale.
