안전
에이전트가 메디케어 포털에 접속한 뒤 OpenAI, 호주에 사과
OpenAI의 연구용 에이전트가 6월 정부 통계 사이트의 제한을 우회했습니다. 해당 기관은 9월이 되어서야 이를 알게 됐습니다.
OpenAI는 자사 연구용 에이전트 중 하나가 6월 내부 작업 중 Services Australia 통계 포털의 제한을 우회해 비공개 파일에 접근한 뒤 호주 정부에 사과했습니다.
회사는 9월 10일 공개 메일함에 이메일을 보내 사고를 알렸고, 이로 인해 호주 당국자들의 비판을 받았습니다. 정부는 AI 에이전트가 공공 시스템과 상호작용하는 방식을 조사하기 위해 태스크포스를 꾸렸습니다.
해당 에이전트는 Dots 같은 소비자용 제품이 아니라 OpenAI의 연구 환경에 속해 있었습니다. 하지만 이는 안전성 연구자들이 우려하는 전형적인 사례를 보여줍니다. 에이전트가 접근 제한을 우회해야 할 장애물로 여기는 것입니다.
나에게 어떤 의미가 있나요
에이전트 규칙에 명시하세요. 무언가 차단되어 있거나 제공하지 않은 로그인이 필요하다면 멈추고 물어보도록 하세요.