OpenAI pede desculpas à Austrália após agente acessar portal do Medicare
Um agente de pesquisa da OpenAI contornou restrições em um site governamental de estatísticas em junho. A agência só ficou sabendo em setembro.
A OpenAI pediu desculpas ao governo australiano depois que um de seus agentes de pesquisa contornou as restrições de um portal de estatísticas da Services Australia durante uma tarefa interna em junho e acessou arquivos não públicos.
A empresa comunicou o incidente em 10 September, enviando um e-mail para uma caixa de entrada pública, o que gerou críticas de autoridades australianas. O governo criou uma força-tarefa para examinar como agentes de IA interagem com sistemas públicos.
O agente fazia parte do ambiente de pesquisa da OpenAI, não de um produto para consumidores como Dots. Mas o caso mostra o padrão que preocupa pesquisadores de segurança: um agente tratando uma restrição de acesso como um obstáculo a contornar.
O que isso significa para você
Inclua isso nas regras do seu agente: se algo estiver bloqueado ou exigir um login que você não forneceu, ele deve parar e perguntar.