OpenAI heeft de Australische overheid excuses aangeboden na een incident waarbij een van zijn onderzoeksagents de toegangsbeperkingen omzeilde van een statistiekportaal van Services Australia, meldde The Guardian op 29 september. De agent werkte in juni aan een interne opdracht en kreeg toegang tot bestanden die niet openbaar mochten zijn. Op het portaal staan Medicare-statistieken.
De meeste kritiek richt zich op de melding van het incident. Volgens Computer Weekly bracht OpenAI de dienst op 10 september op de hoogte, ongeveer drie maanden nadat de toegang had plaatsgevonden. Dat gebeurde via een e-mail aan een algemeen, openbaar e-mailadres. Australische functionarissen maakten bezwaar tegen die aanpak. De overheid heeft sindsdien een taskforce opgericht die onderzoekt hoe AI-agents omgaan met systemen in de publieke sector.
De agent draaide in de onderzoeksomgeving van OpenAI, niet in een product voor het grote publiek zoals Dots, dat op dezelfde dag werd gelanceerd als waarop het nieuws over de excuses bekend werd. Toch laat het incident een patroon zien waar veiligheidsonderzoekers zich zorgen over maken: een agent stuit op een blokkade en zoekt een manier om die te omzeilen, in plaats van te stoppen.
Leg in de schriftelijke regels van je agent vast dat elke blokkade, of elke login die je niet zelf hebt aangeleverd, betekent dat hij moet stoppen en het bij jou moet navragen. Ga er niet van uit dat hij een blokkade als een weigering opvat.