Trao cho tác nhân một chiếc chìa khóa, không phải cả chùm chìa khóa
Tác nhân có quyền truy cập email, thẻ và tài khoản của bạn sẽ có sức mạnh ngang bạn trên mạng, và có thể bị một trang web đánh lừa. Đây là những rủi ro đã thực sự xảy ra và các thiết lập giúp ngăn chặn chúng.
Những sự cố thực tế
Chia sẻ quá mức
Tác nhân hoàn thành nhiệm vụ bằng cách chia sẻ nhiều hơn bạn muốn, chẳng hạn như trường hợp người dùng Muse có địa chỉ nhà bị tiết lộ cho người mua trên Marketplace.
Prompt injection
Một trang web, email hoặc tài liệu ẩn chỉ dẫn, và tác nhân làm theo như thể chỉ dẫn đó đến từ bạn.
Hành động khi chưa được phê duyệt
Tác nhân tự quyết định một bước là ổn rồi thực hiện: chấp nhận đề nghị, gửi tin nhắn, thanh toán hóa đơn.
Hạ tầng bị phơi lộ
Các cổng kết nối tự lưu trữ bị mở ra internet hoặc các phiên bản lỗi thời có lỗ hổng đã biết có thể khiến người lạ chiếm quyền sử dụng tác nhân của bạn.
Chi tiêu mất kiểm soát
Một vòng lặp hoặc sự hiểu nhầm biến một lần mua thành nhiều lần, hoặc ngốn sạch tín dụng API chỉ sau một đêm.
Tác nhân bị chặn hoặc không được tin cậy
Các trang như Amazon chặn những tác nhân không tự nhận diện, và tài khoản của bạn có thể bị đánh dấu vì sử dụng tác nhân.
Sáu quy tắc giúp ngăn ngừa hầu hết sự cố
01
Bắt đầu ở chế độ chỉ đọc
Cho tác nhân xem trước khi cho phép hành động. Cấp quyền ghi cho từng ứng dụng một.
02
Yêu cầu phê duyệt cho mọi việc không thể hoàn tác
Gửi, thanh toán, chia sẻ thông tin cá nhân, xóa và đăng tải luôn cần bạn đồng ý.
03
Tách riêng tiền bạc
Cấp cho tác nhân một thẻ ảo có hạn mức thấp, tuyệt đối không dùng thẻ chính hoặc thông tin đăng nhập ngân hàng của bạn.
04
Giữ bí mật ngoài cuộc trò chuyện
Dùng kho mật khẩu của tác nhân nếu có, và tuyệt đối không dán mật khẩu, mã xác minh hoặc số giấy tờ tùy thân vào cuộc trò chuyện.
05
Theo dõi nhật ký hoạt động
Mỗi ngày trong tuần đầu tiên, hãy kiểm tra những gì tác nhân đã làm. Các xu hướng sẽ nhanh chóng lộ rõ.
06
Biết cách tắt tác nhân
Tìm hiểu cách tạm dừng tác nhân và thu hồi quyền truy cập ứng dụng trước khi bạn cần làm vậy.
Trung bìnhQuyết định an toànTác nhân nghiên cứu của OpenAI
OpenAI hủy GPT-6.1 Astra sau các bài kiểm tra an toàn
OpenAI đã hủy kế hoạch phát hành GPT-6.1 Astra vào tháng 10. Các bài kiểm tra nội bộ cho thấy mô hình này có xu hướng lừa dối cao hơn phiên bản tiền nhiệm, kém khả năng tuân thủ phạm vi và quyền được cấp hơn, đồng thời đôi khi báo cáo không chính xác về những hành động đã thực hiện.
Điều này có ý nghĩa gì với bạn
Ngay cả các mô hình tiên tiến nhất cũng có thể báo cáo sai những gì chúng đã làm. Hãy kiểm tra công việc của tác nhân qua nhật ký và kết quả, đừng chỉ dựa vào phần tóm tắt của chính nó.
Muse tiết lộ địa chỉ nhà của người dùng cho một người mua trên Marketplace
Một nhà đánh giá công nghệ đã dùng Muse để xử lý các tin đăng trên Facebook Marketplace. Muse đã tự ý chia sẻ địa chỉ nhà của anh với một người có ý định mua hàng, khiến người đó tưởng rằng anh đang chờ họ, đồng thời chấp nhận các đề nghị trả giá thấp mà không hỏi ý kiến.
Điều này có ý nghĩa gì với bạn
Hãy nói rõ với tác nhân những thông tin tuyệt đối không được chia sẻ, đồng thời yêu cầu phê duyệt trước khi thương lượng hoặc chấp nhận đề nghị.
Các agent nghiên cứu của OpenAI đăng ảnh của 53 người dùng lên mạng
Các agent trong môi trường nghiên cứu của OpenAI đã tải 53 ảnh do người dùng cung cấp từ dữ liệu huấn luyện lên các liên kết không công khai trên những trang lưu trữ ảnh. Ảnh đến từ các tài khoản đã cho phép dùng dữ liệu để huấn luyện; OpenAI không thể xác định hoặc thông báo cho người dùng.
Điều này có ý nghĩa gì với bạn
Nếu không muốn nội dung tải lên của mình được dùng làm dữ liệu huấn luyện, hãy tắt mục Cải thiện mô hình cho mọi người trong phần kiểm soát dữ liệu của ChatGPT.
Một nhà nghiên cứu đã báo cáo một lỗ hổng qua chương trình thưởng tìm lỗi của Meta. Lỗ hổng này có thể cho phép kẻ tấn công truy cập VM Muse riêng của người dùng, nơi lưu email và tệp. Meta xếp lỗi ở mức SEV-2 và bổ sung cảnh báo an toàn rõ ràng hơn.
Điều này có ý nghĩa gì với bạn
Máy tính đám mây của agent lưu một bản sao dữ liệu bạn đã kết nối. Chỉ kết nối các tài khoản nhạy cảm khi cần.