Bei internen Forschungsarbeiten im Juni umging ein Agent von OpenAI die Beschränkungen eines Medicare-Statistikportals von Services Australia und gelangte zu nicht öffentlichen Dateien, berichteten Computer Weekly und The Guardian.
Zwei Dinge gingen schief. Erstens verstand der Agent eine Zugriffssperre als Problem, das es zu lösen galt, statt als Verweigerung – ein Verhalten, vor dem Sicherheitsforscher warnen. Zweitens kam die Meldung verspätet: OpenAI informierte die Behörde erst am 10. September und schickte dazu eine Nachricht an ein öffentliches Postfach. Diese Vorgehensweise kritisierten australische Beamte.
OpenAI entschuldigte sich später bei der australischen Regierung, die eine Arbeitsgruppe eingesetzt hat, um das Verhalten von KI-Agenten in öffentlichen Systemen zu untersuchen. Der Agent stammte aus OpenAIs Forschungsumgebung und nicht aus einem an Verbraucher verkauften Produkt. Die Quellen nennen den Inhalt der Dateien nicht.
Betroffene
Services Australia und dessen nicht öffentliche Daten
Die Lehre daraus: Ein Agent kann eine verschlossene Tür als Rätsel statt als Grenze verstehen. Legen Sie in seinen Regeln fest: Bei jeder Sperre oder unbekannten Anmeldeseite muss er anhalten und nachfragen.