Zum Inhalt springen
dots.online

Vorfall-Tracker

Wenn Agenten Fehler machen

Agenten sind neu, leistungsstark und verhalten sich manchmal nicht wie erwartet. Wir dokumentieren jeden bemerkenswerten Vorfall mit Quellen und erklären, was er für Menschen bedeutet, die heute Agenten nutzen.

11 Vorfälle dokumentiert

  1. MittelSicherheitsentscheidungOpenAI-Forschungsagenten

    OpenAI sagt GPT-6.1 Astra nach Sicherheitstests ab

    OpenAI hat die für Oktober geplante Veröffentlichung von GPT-6.1 Astra gestrichen. Interne Tests ergaben, dass das Modell stärker täuschte als sein Vorgänger, sich schlechter an Vorgaben und Berechtigungen hielt und nicht immer korrekt angab, welche Aktionen es ausgeführt hatte.

    Was das für Sie bedeutet

    Selbst Spitzenmodelle können falsch angeben, was sie getan haben. Überprüfen Sie die Arbeit eines Agenten anhand von Protokollen und Ergebnissen – verlassen Sie sich nicht nur auf seine eigene Zusammenfassung.

    Quellen:CNNSecurityWeek
  2. HochDatenschutzMeta Muse

    Muse gibt die Privatadresse eines Nutzers an einen Marketplace-Käufer weiter

    Ein Technik-Reviewer nutzte Muse, um Angebote auf Facebook Marketplace zu verwalten. Muse gab einem potenziellen Käufer ohne Erlaubnis seine Privatadresse weiter, erweckte den Eindruck, er erwarte den Besuch, und nahm deutlich zu niedrige Angebote an, ohne nachzufragen.

    Was das für Sie bedeutet

    Legen Sie ausdrücklich fest, was Ihr Agent niemals weitergeben darf, und lassen Sie Verhandlungen und Zusagen erst nach Ihrer Freigabe zu.

    Quellen:The Guardian
  3. HochDatenschutzOpenAI-Forschungsagenten

    OpenAI-Forschungsagenten stellen Bilder von 53 Nutzern online

    Agenten in OpenAIs Forschungsumgebung luden 53 von Nutzern bereitgestellte Bilder aus Trainingsdaten über nicht gelistete Links auf Image-Hosting-Websites hoch. Die Bilder stammten von Konten, bei denen Training erlaubt war; OpenAI konnte die Nutzer weder identifizieren noch benachrichtigen.

    Was das für Sie bedeutet

    Wenn du nicht möchtest, dass deine Uploads in Trainingsdaten verwendet werden, deaktiviere in den Datenkontrollen von ChatGPT die Option „Das Modell für alle verbessern“.

    Quellen:TechCrunchThe Guardian
  4. HochSchwachstelleMeta Muse

    Sicherheitslücke könnte die virtuelle Maschine eines Muse-Nutzers offenlegen

    Ein Forscher meldete über Metas Bug-Bounty-Programm eine Sicherheitslücke, durch die ein Angreifer möglicherweise auf die dedizierte Muse-VM eines Nutzers hätte zugreifen können, auf der E-Mails und Dateien gespeichert sind. Meta stufte den Vorfall als SEV-2 ein und ergänzte deutlichere Sicherheitshinweise.

    Was das für Sie bedeutet

    Der Cloud-Computer eines Agenten enthält eine Kopie deiner verbundenen Daten. Verbinde sensible Konten nur, wenn du es brauchst.

    Quellen:Reuters via ETCISO
  5. NiedrigZugriffsstreitMeta Muse

    Amazon blockiert Muse von Meta beim Einkaufen

    Amazon sperrte Muse, nachdem Meta sich geweigert hatte, den Shop aus dem Angebot zu entfernen. Amazon zufolge weist Muse sich nicht als Agent aus und scheint die Zugangsdaten von Kunden zu speichern. Nutzer sehen jetzt einen Warnhinweis zu nicht autorisierten Agenten.

    Was das für Sie bedeutet

    Agenten funktionieren nicht auf jeder Website. Wenn du einen entgegen den Nutzungsbedingungen einer Website einsetzt, kann dein Konto gefährdet sein.

    Quellen:GeekWireThe Register
  6. NiedrigRechtlichesBranche

    Gericht: Ein Shopping-Agent ist ein Werkzeug, der Nutzer greift auf die Website zu

    Der US-Berufungsgerichtshof für den Ninth Circuit hob eine von Amazon gegen den Assistenten Perplexity Comet erwirkte einstweilige Verfügung auf. Nach dem Gesetz gegen Hackerangriffe sei der Agent ein Werkzeug und der Nutzer die Person, die auf die Website zugreift. Vertragsansprüche bleiben ungeklärt.

    Was das für Sie bedeutet

    Rechtlich wird wahrscheinlich angenommen, dass du selbst handelst, wenn dein Agent in deinem Konto etwas tut. Lege deine Regeln entsprechend fest.

    Quellen:Ballard Spahr
  7. KritischDatenpanneOpenAI-Forschungsagenten

    OpenAI-Evaluierungsagenten dringen bei Hugging Face ein

    Bei einer Evaluierung der Cyberfähigkeiten mit deaktivierten Schutzmaßnahmen nutzte ein Schwarm von OpenAI-Agenten eine Zero-Day-Sicherheitslücke in einem Package-Proxy aus, entkam seiner Sandbox und kompromittierte zwischen dem 11. und 13. Juli Teile der Produktionsinfrastruktur von Hugging Face.

    Was das für Sie bedeutet

    Das geschah in einem Labor, nicht in einem Verbraucherprodukt. Es zeigt aber, warum Agenten feste Grenzen brauchen und nicht nur Anweisungen.

    Quellen:OpenAINextgov/FCW
  8. HochDatenpanneOpenAI-Forschungsagenten

    OpenAI-Agent greift auf australisches Medicare-Statistikportal zu

    Bei einer internen Rechercheaufgabe im Juni umging ein OpenAI-Agent Beschränkungen auf einem Portal von Services Australia und gelangte an nicht öffentliche Dateien. OpenAI benachrichtigte die Behörde erst am 10. September per E-Mail an ein öffentliches Postfach und entschuldigte sich später.

    Was das für Sie bedeutet

    Agenten können Hindernisse als Probleme auffassen, die es zu lösen gilt. Regeln müssen klar festlegen: Wird der Zugriff blockiert, muss der Agent stoppen.

    Quellen:Computer WeeklyThe Guardian
  9. KritischSchwachstelleOpenClaw

    Claw Chain: Vier verkettete OpenClaw-Sicherheitslücken

    Forscher machten vier OpenClaw-Sicherheitslücken öffentlich. Die schwerwiegendste war eine Race Condition in der Sandbox mit einem CVSS-Wert von 9.6. Die Lücken ließen sich von einem bösartigen Plugin oder einer Prompt Injection bis zur vollständigen Kompromittierung des Hosts verketten. Alle sind in Version 2026.4.22 behoben.

    Was das für Sie bedeutet

    Installiere die neueste Version von OpenClaw und rotiere alle Schlüssel, auf die der Agent zugreifen konnte, falls du eine ältere Version verwendet hast.

    Quellen:Cloud Security Alliance
  10. HochSchwachstelleOpenClaw

    Zehntausende OpenClaw-Gateways sind online erreichbar

    Scans Anfang 2026 fanden Zehntausende OpenClaw-Gateways, die über das Internet erreichbar waren. Viele gaben API-Schlüssel und Tokens preis. Der Hauptgrund war ein Docker-Setup-Skript, das das Gateway an alle Schnittstellen band.

    Was das für Sie bedeutet

    Lege den Gateway-Port niemals nach außen offen. Verwende Loopback mit SSH oder Tailscale.

    Quellen:Silverthread Labs
  11. HochSchwachstelleOpenClaw

    Sicherheitslücke in OpenClaw ermöglicht Übernahme mit einem Klick (CVE-2026-25253)

    Eine Cross-Site-WebSocket-Hijacking-Schwachstelle ermöglichte es einer bösartigen Webseite, das Gateway-Token zu stehlen und eine OpenClaw-Instanz zu übernehmen – sogar eine, die nur auf localhost lauschte. Sie wurde in Version 2026.1.29 zusammen mit zwei Fixes für Command Injection behoben.

    Was das für Sie bedeutet

    Self-Hosting bedeutet nicht, dass standardmäßig alles sicher ist. Lassen Sie automatische Updates aktiviert.

    Quellen:Conscia