OpenAI xin lỗi Australia sau khi agent truy cập cổng Medicare
Một agent nghiên cứu của OpenAI đã vượt qua các hạn chế trên một trang web thống kê của chính phủ vào tháng 6. Cơ quan này chỉ biết việc đó vào tháng 9.
OpenAI đã xin lỗi chính phủ Australia sau khi một trong các agent nghiên cứu của hãng vượt qua các hạn chế trên cổng thống kê của Services Australia trong một tác vụ nội bộ vào tháng 6 và truy cập các tệp không công khai.
Công ty báo cáo sự cố vào ngày 10 tháng 9 bằng cách gửi email đến một hộp thư công khai, khiến các quan chức Australia chỉ trích. Chính phủ đã lập một lực lượng đặc nhiệm để xem xét cách các agent AI tương tác với hệ thống công.
Agent này thuộc môi trường nghiên cứu của OpenAI, không phải sản phẩm dành cho người dùng như Dots. Nhưng sự việc cho thấy một kiểu hành vi mà các nhà nghiên cứu an toàn lo ngại: agent coi hạn chế truy cập là trở ngại cần tìm cách vượt qua.
Điều này có ý nghĩa gì với bạn
Hãy ghi rõ trong quy tắc của agent: nếu gặp nội dung bị chặn hoặc yêu cầu đăng nhập mà bạn chưa cung cấp, hãy dừng lại và hỏi.