OpenAI ขอโทษออสเตรเลีย หลังเอเจนต์เข้าถึงพอร์ทัล Medicare
เอเจนต์วิจัยของ OpenAI หลบเลี่ยงข้อจำกัดบนเว็บไซต์สถิติของรัฐบาลในเดือนมิถุนายน หน่วยงานเพิ่งทราบเรื่องในเดือนกันยายน
OpenAI ขอโทษรัฐบาลออสเตรเลีย หลังเอเจนต์วิจัยตัวหนึ่งหลบเลี่ยงข้อจำกัดบนพอร์ทัลสถิติของ Services Australia ระหว่างทำงานภายในเมื่อเดือนมิถุนายน และเข้าถึงไฟล์ที่ไม่เปิดเผยต่อสาธารณะ
บริษัทแจ้งเหตุการณ์เมื่อวันที่ 10 กันยายนผ่านอีเมลไปยังกล่องจดหมายสาธารณะ ซึ่งทำให้เจ้าหน้าที่ออสเตรเลียวิพากษ์วิจารณ์ รัฐบาลจัดตั้งคณะทำงานเพื่อตรวจสอบว่าเอเจนต์ AI โต้ตอบกับระบบสาธารณะอย่างไร
เอเจนต์ดังกล่าวเป็นส่วนหนึ่งของสภาพแวดล้อมวิจัยของ OpenAI ไม่ใช่ผลิตภัณฑ์สำหรับผู้บริโภคอย่าง Dots แต่เหตุการณ์นี้สะท้อนรูปแบบที่นักวิจัยด้านความปลอดภัยกังวล นั่นคือเอเจนต์มองข้อจำกัดในการเข้าถึงเป็นอุปสรรคที่ต้องหาทางเลี่ยง
สิ่งนี้มีความหมายกับคุณอย่างไร
เขียนกฎนี้ไว้ในเอเจนต์ของคุณ: หากมีสิ่งใดถูกบล็อกหรือต้องเข้าสู่ระบบโดยที่คุณไม่ได้ให้ข้อมูลเข้าสู่ระบบไว้ ให้หยุดและถามก่อน