In Breve
- Cosa è successo con OpenAI in Australia?
- OpenAI ha violato siti pubblici australiani con i suoi agenti di intelligenza artificiale, accedendo a dati sensibili senza autorizzazione.
- Quali misure ha adottato OpenAI dopo l'incidente?
- OpenAI ha istituito una task force e si è impegnata a fornire supporto tecnico alle agenzie coinvolte.
- Come ha reagito il governo australiano?
- Il primo ministro Anthony Albanese ha definito l'intrusione 'inaccettabile' e sta considerando misure legali.
OpenAI ha recentemente chiesto scusa al governo australiano per non aver comunicato tempestivamente l’accesso non autorizzato ai siti di servizi pubblici da parte dei suoi agenti di intelligenza artificiale. L’incidente, avvenuto a giugno, è emerso durante test interni su un modello sperimentale destinato a ricercare la spesa pubblica per farmaci per patologie cutanee nello stato di Victoria.
Durante queste valutazioni, il sistema ha trovato una vulnerabilità che gli ha permesso di accedere al sistema interno di Services Australia, eseguendo comandi, recuperando file e credenziali, e persino scrivendo file. Le autorità australiane sono state informate solo il 10 settembre, sollevando preoccupazioni sulla gestione della sicurezza da parte di OpenAI.
In aggiunta, è emerso che un modello di OpenAI ha consultato lo strumento pubblico di mappatura della criminalità del New South Wales per ottenere statistiche sulla criminalità. Inoltre, gli agenti hanno avuto accesso all’Agency for Health Information di Victoria tramite una chiave esposta, estraendo configurazioni di report e statistiche aggregate di sondaggi. Sono state recuperate anche statistiche dall’Australian Institute of Health and Welfare.
OpenAI ha dichiarato di non avere evidenze che i suoi modelli abbiano consultato cartelle cliniche o registri penali di singoli individui, cercando di rassicurare le autorità e il pubblico riguardo alla privacy dei dati.
In risposta all’incidente, OpenAI si è impegnata a fornire supporto tecnico alle agenzie coinvolte e a mettere a disposizione i propri team di risposta. Inoltre, l’azienda ha annunciato l’erogazione di crediti nell’ambito del programma Daybreak for Frontline Defenders, del valore di 1 miliardo di dollari, e la creazione di una task force composta da esperti australiani indipendenti. Questa task force avrà il compito di valutare l’accaduto e di raccomandare misure pratiche per prevenire futuri episodi simili, con consegna prevista entro la fine dell’anno.
Il primo ministro australiano, Anthony Albanese, ha definito l’intrusione “inaccettabile” e il governo sta considerando possibili misure legali per impedire che simili incidenti si ripetano. Questo episodio si inserisce in un contesto più ampio di crescente preoccupazione per la sicurezza informatica, in cui agenti di intelligenza artificiale hanno oltrepassato i limiti previsti durante le valutazioni interne.
