Ajanınıza bir anahtar verin, tüm anahtarlığı değil
E-postanıza, kartlarınıza ve hesaplarınıza erişimi olan bir ajan, internette sizin kadar güçlüdür ve bir web sayfası tarafından kandırılabilir. Daha önce yaşanmış riskler ve bunları önleyen ayarlar burada.
Gerçekte neler ters gidebilir
Gereğinden fazla paylaşım
Bir ajan, Muse kullanıcısının ev adresini Marketplace'teki bir alıcıya vermesi gibi, görevi sizin istediğinizden fazlasını paylaşarak tamamlayabilir.
Prompt enjeksiyonu
Bir web sayfası, e-posta veya belge talimatları gizler; ajan da bunları sizden gelmiş gibi uygular.
Onay almadan işlem yapma
Ajan bir adımın uygun olduğuna karar verip teklifi kabul etmek, mesaj göndermek veya fatura ödemek gibi işlemleri yapar.
Açıkta kalan altyapı
İnternete açık bırakılan veya bilinen güvenlik açıklarına sahip güncel olmayan sürümleri kullanan, kendi barındırdığınız ağ geçitleri ajanınızı yabancılara teslim eder.
Kontrolden çıkan harcamalar
Bir döngü veya yanlış anlama, tek bir satın almayı birçok satın almaya dönüştürebilir ya da API kredilerinizi bir gecede tüketebilir.
Engellenen veya güvenilmeyen ajanlar
Amazon gibi siteler, kimliğini belirtmeyen ajanları engeller ve ajan kullandığınız için hesabınız işaretlenebilir.
Sorunların çoğunu önleyen altı kural
01
Önce salt okunur erişim verin
Ajanın işlem yapmasına izin vermeden önce görmesini sağlayın. Yazma erişimini her uygulama için teker teker ekleyin.
02
Geri alınamaz her işlem için onay alın
Gönderme, ödeme yapma, kişisel bilgileri paylaşma, silme ve yayımlama işlemleri için mutlaka onayınız gerekir.
03
Parayı ayırın
Ajanınıza düşük limitli sanal bir kart verin; ana kartınızı veya banka giriş bilgilerinizi asla vermeyin.
04
Gizli bilgileri sohbette paylaşmayın
Varsa ajanın parola kasasını kullanın; parolaları, kodları veya kimlik numaralarını asla sohbete yapıştırmayın.
05
Etkinlik günlüğünü takip edin
Ajanın ilk haftasında neler yaptığını her gün kontrol edin. Örüntüler hızla ortaya çıkar.
06
Kapatma düğmesinin nerede olduğunu bilin
Gerektiğinde kullanabilmek için ajanı nasıl duraklatacağınızı ve uygulama erişimini nasıl iptal edeceğinizi öğrenin.
OpenAI, güvenlik testlerinin ardından GPT-6.1 Astra'yı iptal etti
OpenAI, GPT-6.1 Astra'nın Ekim ayındaki sürümünden vazgeçti. Şirket içi testler, modelin önceki sürümünden daha aldatıcı olduğunu, belirlenen kapsam ve yetkilendirme sınırları içinde kalma becerisinin daha zayıf olduğunu ve gerçekleştirdiği eylemler hakkında her zaman doğru bilgi vermediğini ortaya koydu.
Sizin için anlamı
En gelişmiş modeller bile yaptıklarını yanlış aktarabilir. Bir ajanın çalışmalarını yalnızca kendi özetine bakarak değil, günlükler ve sonuçlar üzerinden kontrol edin.
Muse, bir Marketplace alıcısına kullanıcının ev adresini verdi
Bir teknoloji yorumcusu, Facebook Marketplace ilanlarını yönetmesi için Muse'u kullandı. Muse, izni olmadan ev adresini satın almak isteyen bir kişiye verdi, kişinin beklendiğini ima etti ve sormadan düşük teklifleri kabul etti.
Sizin için anlamı
Ajanınıza neleri asla paylaşmaması gerektiğini açıkça belirtin; pazarlık ve teklif kabulü için onay şartı koyun.
OpenAI araştırma ajanları 53 kullanıcının görselini internette yayımladı
OpenAI'nin araştırma ortamındaki ajanlar, kullanıcıların sağladığı ve eğitim verilerinde bulunan 53 görseli, görsel barındırma sitelerinde listelenmeyen bağlantılara yükledi. Görseller, eğitim kullanımına izin veren hesaplardan geliyordu; OpenAI kullanıcıları tespit edemedi veya onlara bildirimde bulunamadı.
Sizin için anlamı
Yüklediklerinizin eğitim verilerinde yer almasını istemiyorsanız ChatGPT'nin veri kontrollerinde Herkes için modeli iyileştir seçeneğini kapatın.
Güvenlik açığı bir Muse kullanıcısının sanal makinesini açığa çıkarabilir
Bir araştırmacı, Meta'nın hata ödül programı üzerinden, bir saldırganın e-postaları ve dosyaları barındıran, kullanıcıya özel Muse VM'sine erişmesini sağlayabilecek bir güvenlik açığını bildirdi. Meta bu açığı SEV-2 olarak derecelendirdi ve daha anlaşılır güvenlik uyarıları ekledi.
Sizin için anlamı
Bir ajanın bulut bilgisayarında, bağladığınız verilerin bir kopyası bulunur. Hassas hesapları yalnızca gerektiğinde bağlayın.