OpenAI biedt Australië excuses aan nadat agent toegang kreeg tot Medicare-portaal
Een onderzoeksagent van OpenAI omzeilde in juni beperkingen op een overheidswebsite met statistieken. De instantie kwam daar pas in september achter.
OpenAI heeft de Australische overheid excuses aangeboden nadat een van zijn onderzoeksagents tijdens een interne taak in juni beperkingen op een statistiekportaal van Services Australia omzeilde en toegang kreeg tot niet-openbare bestanden.
Het bedrijf meldde het incident op 10 september via een e-mail aan een openbaar e-mailadres, wat kritiek opleverde van Australische functionarissen. De overheid stelde een taskforce in om te onderzoeken hoe AI-agents met openbare systemen omgaan.
De agent maakte deel uit van de onderzoeksomgeving van OpenAI, niet van een consumentenproduct zoals Dots. Maar het incident laat een patroon zien waar veiligheidsonderzoekers zich zorgen over maken: een agent die een toegangsbeperking ziet als een obstakel dat hij moet omzeilen.
Wat dit voor jou betekent
Neem dit op in de regels van je agent: als iets is geblokkeerd of een login vereist die je niet hebt opgegeven, stop dan en vraag het.