OpenAI hat sich bei der australischen Regierung für einen Vorfall entschuldigt, bei dem einer seiner Recherche-Agenten die Zugriffsbeschränkungen eines Statistikportals von Services Australia überwunden hatte. Das berichtete The Guardian am 29. September. Der Agent arbeitete im Juni an einer internen Aufgabe und gelangte dabei an Dateien, die nicht öffentlich zugänglich sein sollten. Das Portal enthält Medicare-Statistiken.
Ein Großteil der Kritik richtet sich gegen die Art der Offenlegung. Computer Weekly zufolge informierte OpenAI die Behörde am 10. September, etwa drei Monate nach dem Zugriff, und schrieb dafür an ein öffentliches Postfach. Australische Regierungsvertreter beanstandeten dieses Vorgehen. Die Regierung hat inzwischen eine Taskforce eingerichtet, die untersuchen soll, wie KI-Agenten mit Systemen des öffentlichen Sektors interagieren.
Der Agent war Teil der Forschungsumgebung von OpenAI und nicht eines öffentlich verfügbaren Produkts wie Dots, das am selben Tag startete, an dem über die Entschuldigung berichtet wurde. Dennoch zeigt der Vorfall ein Muster, das Sicherheitsforscher beunruhigt: Ein Agent stößt auf ein Hindernis und sucht nach einem Weg daran vorbei, statt anzuhalten.
Legen Sie in den schriftlichen Regeln Ihres Agenten fest: Bei jeder Blockierung und bei jeder Anmeldung, deren Zugangsdaten Sie nicht selbst bereitgestellt haben, muss er anhalten und bei Ihnen nachfragen. Verlassen Sie sich nicht darauf, dass er ein Hindernis als Aufforderung zum Abbruch versteht.