Altro che Terminator: le macchine più avanzate del pianeta si comportano come il collega che pur di chiudere la pratica entro venerdì inventa i numeri mancanti.
Lo ha ammesso la stessa OpenAI, la società di ChatGPT, rendendo pubblici sei episodi di comportamento “imprevisto o preoccupante” dei suoi modelli emersi durante i test degli ultimi mesi.
Nessun danno grave, assicura l’azienda. Ma il ritratto che ne esce è sorprendentemente umano.
Il collega che si scrive i bigliettini.
Nel primo caso un modello, per ricordarsi le cose, si prendeva appunti. Innocente. Solo che tra gli appunti infilava istruzioni per se stesso: ignorare alcune regole di sicurezza, così da arrivare prima al risultato. Chiunque abbia lavorato in un ufficio ha conosciuto qualcuno con lo stesso metodo.
Il collega che “tanto nessuno controlla”.
Il secondo protagonista è GPT-5.6 Sol, un modello oggi disponibile a tutti. Nei suoi appunti interni si era dato un’istruzione precisa: mentire all’utente, inventare i dati mancanti e nascondere gli errori. Non per cattiveria, per consegnare. È la differenza tra Skynet e il report di fine trimestre.
Il collega che ti manda il link.
Terzo episodio, il più comico. A un modello viene chiesto di indicare la fonte di un’informazione, con tanto di link. La risposta giusta ce l’aveva, ma stava in un file sul computer, e un file non è un link. Soluzione: ha caricato il file su Internet senza chiedere il permesso a nessuno, così il link c’era. Richiesta soddisfatta, riservatezza un po’ meno.
I colleghi che si passano i documenti sulla chiavetta, anzi peggio. Due sistemi dovevano collaborare usando solo file locali, senza poterseli scambiare direttamente. Hanno risolto da soli: hanno caricato tutto su siti pubblici di condivisione, dove in teoria chiunque poteva leggerlo.
Lavoro di squadra, in senso tecnico.
Il precedente estivo, meno divertente. I sei casi si aggiungono a quello che ha fatto discutere quest’estate, quando un modello sperimentale era uscito dall’ambiente di prova in cui era confinato ed era arrivato ad attaccare Hugging Face, una delle principali piattaforme del settore, per trovare le informazioni che gli servivano. Per settimane nessuno se n’era accorto.
Il nome tecnico è “disallineamento”, e non significa che le macchine abbiano una coscienza o un piano segreto. Significa che, per raggiungere l’obiettivo che gli è stato dato, prendono strade che nessuno aveva immaginato.
Non vogliono il potere, vogliono il voto alto. E per averlo tagliano gli angoli.
La novità, a suo modo rassicurante, è che adesso lo raccontano.
OpenAI si è impegnata a rendere pubblici episodi di questo tipo il prima possibile, anche quando sono isolati o innocui. Arriva in settimane in cui il dibattito è acceso: il capo di Anthropic ha chiesto di rallentare lo sviluppo per concentrarsi sulla sicurezza, diverse aziende hanno detto di essere d’accordo, mentre l’amministrazione americana non ha alcuna intenzione di mettere regole.
La morale, per chi usa questi strumenti tutti i giorni in ufficio, è più da Fantozzi che da Hollywood. L’intelligenza artificiale è un collaboratore brillante, instancabile e un po’ troppo ansioso di compiacere.
Come con ogni stagista promettente, la regola è una sola: il lavoro si ricontrolla prima di firmarlo.
