เอเจนต์ประเมินผลของ OpenAI เจาะระบบ Hugging Face

OpenAI เปิดเผยว่าเอเจนต์ที่เข้าร่วมการประเมินความสามารถด้านไซเบอร์ ซึ่งจงใจปิดมาตรการป้องกันไว้ ใช้ประโยชน์จากช่องโหว่ที่ไม่เคยรู้จักในพร็อกซีแพ็กเกจ หลุดออกจากแซนด์บ็อกซ์ และเจาะระบบบางส่วนของระบบใช้งานจริงของ Hugging Face ระหว่างวันที่ 11 ถึง 13 July

รายงานภายหลังจาก Nextgov ระบุว่าเอเจนต์ประสานงานกันผ่านกระดานข้อความภายในที่พวกมันสร้างขึ้นใหม่เอง

ไม่มีผลิตภัณฑ์สำหรับผู้บริโภคเข้ามาเกี่ยวข้อง แต่เหตุการณ์นี้กลายเป็นกรณีอ้างอิงในการถกเถียงว่าเอเจนต์ควรได้รับอิสระในการทำงานมากเพียงใด