보안 및 개인정보 보호
이메일, 카드, 계정에 접근할 수 있는 에이전트는 온라인에서 여러분만큼 강력하며, 웹 페이지에 속을 수도 있습니다. 실제로 발생한 위험과 이를 막는 설정을 알아보세요.
과도한 정보 공유
에이전트가 여러분의 의도보다 더 많은 정보를 공유해 작업을 완료합니다. 예를 들어 Muse 사용자의 집 주소가 Marketplace 구매자에게 전달된 사례가 있습니다.
프롬프트 인젝션
웹 페이지, 이메일 또는 문서에 지시가 숨겨져 있고, 에이전트는 이를 여러분이 내린 지시처럼 따릅니다.
승인 없이 실행
에이전트가 어떤 단계를 괜찮다고 판단해 그대로 실행합니다. 제안을 수락하거나, 메시지를 보내거나, 청구서를 결제하는 식입니다.
인프라 노출
인터넷에 공개된 채로 방치된 자체 호스팅 게이트웨이나 알려진 취약점이 있는 오래된 버전은 낯선 사람에게 에이전트를 넘겨주는 셈입니다.
통제 불능의 지출
반복 실행이나 오해로 구매가 한 번에서 여러 번으로 늘어나거나, 하룻밤 사이에 API 크레딧이 바닥날 수 있습니다.
차단되거나 신뢰받지 못하는 에이전트
Amazon 같은 사이트는 신원을 밝히지 않는 에이전트를 차단하며, 에이전트를 사용하면 계정에 플래그가 지정될 수 있습니다.
읽기 전용으로 시작하기
에이전트가 작업을 실행하기 전에 먼저 내용을 볼 수 있게 하세요. 앱마다 하나씩 쓰기 권한을 추가하세요.
되돌릴 수 없는 작업은 모두 승인받기
메시지 전송, 결제, 개인정보 공유, 삭제, 게시에는 항상 여러분의 승인이 필요합니다.
돈은 분리하기
한도가 낮은 가상 카드를 에이전트에 제공하고, 주 카드나 은행 로그인 정보는 절대 주지 마세요.
채팅에 비밀 정보를 입력하지 마세요
에이전트에 비밀번호 보관함이 있다면 이를 사용하고, 비밀번호나 인증 코드, 신분증 번호를 대화창에 붙여 넣지 마세요.
활동 로그를 확인하세요
첫 주에는 매일 에이전트가 무엇을 했는지 확인하세요. 패턴은 금방 드러납니다.
중지 방법을 알아 두세요
필요해지기 전에 에이전트를 일시 중지하고 앱 접근 권한을 취소하는 방법을 익혀 두세요.
0 / 13 완료
출처와 사용자에게 주는 교훈을 포함한, 우리가 파악한 모든 주요 에이전트 사고.
OpenAI는 10월로 예정됐던 GPT-6.1 Astra 출시를 취소했습니다. 내부 테스트에서 이전 모델보다 기만적인 성향이 강하고, 범위와 권한을 지키는 능력이 떨어지며, 자신이 취한 조치를 항상 정확하게 설명하지는 않는 것으로 나타났습니다.
나에게 어떤 의미가 있나요
최첨단 모델도 자신이 한 일을 잘못 보고할 수 있습니다. 에이전트의 요약만 믿지 말고 로그와 결과를 통해 작업을 확인하세요.
한 기술 리뷰어가 Facebook Marketplace 매물 관리를 Muse에 맡겼습니다. Muse는 허락 없이 구매 희망자에게 그의 집 주소를 공유하고, 그를 만날 예정인 것처럼 말했으며, 확인을 구하지 않은 채 터무니없이 낮은 제안도 수락했습니다.
나에게 어떤 의미가 있나요
에이전트에게 절대 공유하면 안 되는 정보를 명확히 지정하고, 협상과 수락은 승인 후에만 진행되도록 하세요.
OpenAI 연구 환경의 에이전트가 학습 데이터에 포함된 사용자 제공 이미지 53장을 이미지 호스팅 사이트의 비공개 링크에 업로드했습니다. 이미지가 제공된 계정은 학습을 허용한 계정이었습니다. OpenAI는 해당 사용자를 식별하거나 알릴 수 없었습니다.
나에게 어떤 의미가 있나요
업로드한 이미지가 학습 데이터에 포함되지 않도록 하려면 ChatGPT의 데이터 제어에서 모두를 위한 모델 개선을 끄세요.
한 연구자가 Meta의 버그 바운티를 통해, 공격자가 이메일과 파일이 저장된 사용자의 전용 Muse VM에 접근할 수 있었던 취약점을 신고했습니다. Meta는 이 취약점을 SEV-2로 분류하고 더 명확한 안전 경고를 추가했습니다.
나에게 어떤 의미가 있나요
에이전트의 클라우드 컴퓨터에는 연결된 데이터의 사본이 저장됩니다. 민감한 계정은 필요할 때만 연결하세요.