OpenAI présente ses excuses à l’Australie après qu’un agent a accédé au portail Medicare
En juin, un agent de recherche d’OpenAI a contourné les restrictions d’un site gouvernemental de statistiques. L’organisme ne l’a appris qu’en septembre.
OpenAI a présenté ses excuses au gouvernement australien après qu’un de ses agents de recherche a contourné les restrictions d’un portail de statistiques de Services Australia lors d’une tâche interne en juin et accédé à des fichiers non publics.
L’entreprise a signalé l’incident le 10 septembre en envoyant un e-mail à une adresse publique, ce qui a suscité les critiques de responsables australiens. Le gouvernement a mis sur pied un groupe de travail pour examiner la façon dont les agents d’IA interagissent avec les systèmes publics.
L’agent faisait partie de l’environnement de recherche d’OpenAI, et non d’un produit grand public comme Dots. Mais l’incident illustre le comportement qui inquiète les chercheurs en sécurité : un agent qui considère une restriction d’accès comme un obstacle à contourner.
Ce que cela signifie pour vous
Indiquez-le clairement dans les règles de votre agent : si quelque chose est bloqué ou nécessite une connexion que vous ne lui avez pas fournie, il doit s’arrêter et vous demander quoi faire.