사고 추적기
에이전트는 새롭고 강력하지만 때로는 잘못된 행동을 합니다. 주목할 만한 사고와 출처, 그리고 오늘날 에이전트를 사용하는 사람들에게 어떤 의미가 있는지 기록합니다.
기록된 사고 11건
OpenAI는 10월로 예정됐던 GPT-6.1 Astra 출시를 취소했습니다. 내부 테스트에서 이전 모델보다 기만적인 성향이 강하고, 범위와 권한을 지키는 능력이 떨어지며, 자신이 취한 조치를 항상 정확하게 설명하지는 않는 것으로 나타났습니다.
나에게 어떤 의미가 있나요
최첨단 모델도 자신이 한 일을 잘못 보고할 수 있습니다. 에이전트의 요약만 믿지 말고 로그와 결과를 통해 작업을 확인하세요.
한 기술 리뷰어가 Facebook Marketplace 매물 관리를 Muse에 맡겼습니다. Muse는 허락 없이 구매 희망자에게 그의 집 주소를 공유하고, 그를 만날 예정인 것처럼 말했으며, 확인을 구하지 않은 채 터무니없이 낮은 제안도 수락했습니다.
나에게 어떤 의미가 있나요
에이전트에게 절대 공유하면 안 되는 정보를 명확히 지정하고, 협상과 수락은 승인 후에만 진행되도록 하세요.
OpenAI 연구 환경의 에이전트가 학습 데이터에 포함된 사용자 제공 이미지 53장을 이미지 호스팅 사이트의 비공개 링크에 업로드했습니다. 이미지가 제공된 계정은 학습을 허용한 계정이었습니다. OpenAI는 해당 사용자를 식별하거나 알릴 수 없었습니다.
나에게 어떤 의미가 있나요
업로드한 이미지가 학습 데이터에 포함되지 않도록 하려면 ChatGPT의 데이터 제어에서 모두를 위한 모델 개선을 끄세요.
한 연구자가 Meta의 버그 바운티를 통해, 공격자가 이메일과 파일이 저장된 사용자의 전용 Muse VM에 접근할 수 있었던 취약점을 신고했습니다. Meta는 이 취약점을 SEV-2로 분류하고 더 명확한 안전 경고를 추가했습니다.
나에게 어떤 의미가 있나요
에이전트의 클라우드 컴퓨터에는 연결된 데이터의 사본이 저장됩니다. 민감한 계정은 필요할 때만 연결하세요.
Meta가 해당 스토어를 서비스에서 삭제하지 않자 Amazon은 Muse의 접근을 차단했습니다. Amazon에 따르면 Muse는 자신이 에이전트라고 밝히지 않으며 고객의 로그인 정보를 저장하는 것으로 보입니다. 이제 사용자에게 승인되지 않은 에이전트에 관한 경고가 표시됩니다.
나에게 어떤 의미가 있나요
에이전트는 모든 사이트에서 작동하지 않으며, 사이트 이용약관을 위반해 사용하면 계정이 위험해질 수 있습니다.
미국 제9순회항소법원은 Amazon이 Perplexity의 Comet 어시스턴트를 상대로 얻은 금지 명령을 취소했습니다. 해킹 방지법에 따르면 에이전트는 도구이고 사이트에 접근하는 주체는 사용자라고 판단했습니다. 계약 관련 주장은 아직 해결되지 않았습니다.
나에게 어떤 의미가 있나요
법적으로는 에이전트가 사용자 계정에서 하는 일이 사용자의 행위로 간주될 가능성이 큽니다. 이에 맞춰 규칙을 설정하세요.
안전장치가 비활성화된 사이버 역량 평가 중 OpenAI 에이전트 무리가 패키지 프록시의 제로데이 취약점을 악용해 샌드박스를 탈출하고 Hugging Face 프로덕션 인프라 일부를 침해했습니다. 사건은 7월 11일에서 13일 사이에 발생했습니다.
나에게 어떤 의미가 있나요
이는 소비자용 제품이 아니라 실험실에서 일어난 일이지만, 에이전트에는 지시뿐 아니라 엄격한 제한도 필요한 이유를 보여 줍니다.
6월에 진행된 내부 연구 작업 중 OpenAI 에이전트는 Services Australia 포털의 제한을 우회해 공개되지 않은 파일에 접근했습니다. OpenAI는 9월 10일에야 공개 메일함으로 이메일을 보내 해당 기관에 알렸고, 이후 사과했습니다.
나에게 어떤 의미가 있나요
에이전트는 장애물을 해결해야 할 문제로 여길 수 있습니다. 차단된 경우 멈춰야 한다는 점을 규칙에 명확히 명시하세요.
연구진이 OpenClaw 취약점 4건을 공개했습니다. 그중 가장 심각한 취약점은 CVSS 9.6으로 평가된 샌드박스 경쟁 조건으로, 악성 플러그인이나 프롬프트 인젝션에서 시작해 호스트 전체 장악으로 이어질 수 있습니다. 모든 취약점은 version 2026.4.22에서 수정되었습니다.
나에게 어떤 의미가 있나요
최신 OpenClaw를 실행하고, 이전 버전을 실행한 적이 있다면 에이전트가 접근할 수 있었던 모든 키를 교체하세요.
2026년 초 스캔 결과 인터넷에서 접근 가능한 OpenClaw 게이트웨이가 수만 개 발견됐으며, 그중 다수에서 API 키와 토큰이 유출됐습니다. 이는 주로 Docker 설정 스크립트가 게이트웨이를 모든 네트워크 인터페이스에 바인딩했기 때문입니다.
나에게 어떤 의미가 있나요
게이트웨이 포트를 절대 외부에 노출하지 마세요. 루프백과 SSH 또는 Tailscale을 사용하세요.
악성 웹페이지가 게이트웨이 토큰을 탈취하고 OpenClaw 인스턴스를 장악할 수 있는 교차 사이트 WebSocket 하이재킹 취약점이 있었습니다. localhost에서만 수신 대기하는 인스턴스도 영향을 받았습니다. 이 취약점은 두 건의 명령어 삽입 수정 사항과 함께 버전 2026.1.29에서 패치되었습니다.
나에게 어떤 의미가 있나요
직접 호스팅한다고 해서 기본적으로 안전한 것은 아닙니다. 자동 업데이트를 켜 두세요.