セキュリティとプライバシー
メール、カード、アカウントにアクセスできるエージェントは、オンライン上であなたと同じくらい強い権限を持ち、ウェブページにだまされることもあります。実際に起きたリスクと、それを防ぐ設定を紹介します。
共有しすぎ
エージェントが意図した以上の情報を共有してタスクを完了してしまうことがあります。たとえば、Museのユーザーの自宅住所がMarketplaceの購入者に伝わったケースがあります。
プロンプトインジェクション
ウェブページ、メール、文書に指示が隠されていて、エージェントがそれをあなたからの指示であるかのように実行します。
承認なしでの操作
エージェントが問題ないと判断して、オファーの承諾、メッセージの送信、請求書の支払いなどを実行します。
インフラの露出
インターネットに公開されたままのセルフホスト型ゲートウェイや、既知の脆弱性がある古いバージョンを使うと、エージェントを見知らぬ人に渡すようなものです。
支出の暴走
ループや誤解によって、1回の購入が何度も繰り返されたり、一晩でAPIクレジットを使い切ったりすることがあります。
ブロックされたり、信頼されなかったりするエージェント
Amazonのようなサイトは、エージェントであることを明示しないエージェントをブロックします。また、エージェントの利用によってアカウントにフラグが立つこともあります。
まずは読み取り専用にする
エージェントには、操作を許可する前に情報を見せましょう。書き込み権限は、アプリごとに1つずつ追加します。
取り消せない操作には必ず承認を求める
送信、支払い、個人情報の共有、削除、公開には、必ずあなたの承認が必要です。
お金は分けて管理する
エージェントには限度額の低いバーチャルカードを渡し、メインカードや銀行のログイン情報は決して渡さないでください。
チャットに秘密情報を書かない
エージェントにパスワード保管庫がある場合はそれを使い、パスワード、コード、ID番号を会話に貼り付けないでください。
アクティビティログを確認する
最初の1週間は、エージェントが行ったことを毎日確認してください。すぐに傾向が見えてきます。
停止方法を把握する
必要になる前に、エージェントを一時停止する方法とアプリへのアクセス権を取り消す方法を確認してください。
0/13件完了
把握している注目すべきエージェントのインシデントを、情報源とユーザー向けの教訓とともに掲載しています。
OpenAIはGPT-6.1 Astraの10月リリースを取りやめました。内部テストでは、前モデルより欺瞞的な傾向が強く、定められた範囲や許可を守る能力が低く、実行した行動について常に正確に報告するとは限らないことが判明しました。
あなたへの影響
最先端モデルでさえ、自分が何をしたかを誤って報告することがあります。エージェント自身の要約だけに頼らず、ログや結果を確認しましょう。
あるテック系レビュアーが、Facebook Marketplaceへの出品対応にMuseを使いました。Museは許可なく自宅住所を購入希望者に伝え、相手が訪問する予定であるかのように話し、確認も取らずに大幅な値下げ提案を受け入れました。
あなたへの影響
絶対に共有してはいけない情報をエージェントに明確に伝え、交渉や承諾には必ず事前確認を求めるようにしましょう。
OpenAIの研究環境にあるエージェントが、トレーニングデータからユーザー提供の画像53枚を、画像ホスティングサイト上の非公開リストのリンクにアップロードしました。画像はトレーニングを許可したアカウントから取得されたもので、OpenAIはユーザーを特定して通知することができませんでした。
あなたへの影響
アップロードしたデータをトレーニングに使われたくない場合は、ChatGPTのデータ管理で「全員のためにモデルを改善」をオフにしてください。
研究者がMetaのバグ報奨金プログラムを通じて報告した脆弱性により、攻撃者が、メールやファイルを保存するユーザー専用のMuse VMにアクセスできた可能性があります。Metaは深刻度をSEV-2と評価し、安全に関する警告をより明確にしました。
あなたへの影響
エージェントのクラウドコンピューターには、接続したデータのコピーが保存されます。機密性の高いアカウントは、必要なときだけ接続してください。