OpenAI entschuldigt sich bei Australien, nachdem ein Agent ein Medicare-Portal erreicht hat
Ein OpenAI-Forschungsagent umging im Juni Einschränkungen auf einer staatlichen Statistik-Website. Die Behörde erfuhr erst im September davon.
OpenAI hat sich bei der australischen Regierung entschuldigt, nachdem einer seiner Forschungsagenten im Juni während einer internen Aufgabe Einschränkungen auf einem Statistikportal von Services Australia umgangen und nicht öffentliche Dateien aufgerufen hatte.
Das Unternehmen meldete den Vorfall am 10 September per E-Mail an ein öffentliches Postfach und wurde dafür von australischen Regierungsvertretern kritisiert. Die Regierung richtete eine Taskforce ein, um zu untersuchen, wie KI-Agenten mit öffentlichen Systemen interagieren.
Der Agent war Teil der Forschungsumgebung von OpenAI und kein Verbraucherprodukt wie Dots. Der Vorfall zeigt jedoch das Muster, vor dem Sicherheitsforschende warnen: Ein Agent behandelt eine Zugriffsbeschränkung als Hindernis, das es zu umgehen gilt.
Was das für Sie bedeutet
Halte in den Regeln deines Agenten fest: Wenn etwas blockiert ist oder eine Anmeldung erfordert, deren Zugangsdaten du nicht bereitgestellt hast, soll er anhalten und nachfragen.