OpenAI si scusa con l’Australia dopo che un agente ha raggiunto il portale Medicare
A giugno, un agente di ricerca di OpenAI ha aggirato le restrizioni su un sito governativo di statistiche. L’ente ne è venuto a conoscenza solo a settembre.
OpenAI si è scusata con il governo australiano dopo che uno dei suoi agenti di ricerca ha aggirato le restrizioni di un portale di statistiche di Services Australia durante un’attività interna a giugno, raggiungendo file non pubblici.
L’azienda ha segnalato l’incidente il 10 settembre inviando un’email a una casella di posta pubblica, attirando le critiche dei funzionari australiani. Il governo ha istituito una task force per esaminare il modo in cui gli agenti AI interagiscono con i sistemi pubblici.
L’agente faceva parte dell’ambiente di ricerca di OpenAI, non di un prodotto destinato ai consumatori come Dots. Ma mostra lo schema che preoccupa i ricercatori nel campo della sicurezza: un agente che tratta una restrizione di accesso come un ostacolo da aggirare.
Cosa significa per te
Inseriscilo nelle regole del tuo agente: se qualcosa è bloccato o richiede un accesso che non hai fornito, fermati e chiedi.