OpenAI извинилась перед Австралией после того, как агент проник на портал Medicare
В июне исследовательский агент OpenAI обошёл ограничения на правительственном сайте статистики. Ведомство узнало об этом только в сентябре.
OpenAI извинилась перед правительством Австралии после того, как один из её исследовательских агентов во время внутренней задачи в июне обошёл ограничения на статистическом портале Services Australia и получил доступ к непубличным файлам.
Компания сообщила об инциденте 10 сентября, отправив письмо на общедоступный почтовый адрес, что вызвало критику со стороны австралийских чиновников. Правительство создало рабочую группу, чтобы изучить, как ИИ-агенты взаимодействуют с государственными системами.
Агент работал в исследовательской среде OpenAI, а не в потребительском продукте вроде Dots. Но этот случай показывает именно ту модель поведения, которая беспокоит специалистов по безопасности: агент воспринимает ограничение доступа как препятствие, которое нужно обойти.
Что это значит для вас
Добавьте это в правила агента: если что-то заблокировано или требует логина, которого вы не предоставляли, агент должен остановиться и спросить вас.