OpenAI telah meminta maaf kepada pemerintah Australia atas insiden ketika salah satu agen risetnya berhasil melewati batas akses portal statistik yang dikelola Services Australia, menurut laporan The Guardian pada 29 September. Agen tersebut, yang mengerjakan tugas internal pada Juni, mengakses berkas yang tidak seharusnya tersedia untuk publik. Portal itu memuat statistik Medicare.
Sebagian besar kritik berpusat pada pengungkapan insiden. Menurut Computer Weekly, OpenAI memberi tahu lembaga tersebut pada 10 September, sekitar tiga bulan setelah akses itu terjadi, melalui surel ke kotak surat publik. Pejabat Australia keberatan dengan cara tersebut. Pemerintah kemudian membentuk satuan tugas untuk mengkaji bagaimana agen AI berinteraksi dengan sistem sektor publik.
Agen itu beroperasi di lingkungan riset OpenAI, bukan produk yang bisa digunakan publik seperti Dots, yang diluncurkan pada hari yang sama ketika permintaan maaf tersebut diberitakan. Meski begitu, insiden ini menggambarkan pola yang mengkhawatirkan peneliti keselamatan: ketika menemui penghalang, agen mencari jalan untuk melewatinya alih-alih berhenti.
Tuliskan dalam aturan agen Anda bahwa setiap pemblokiran, atau setiap permintaan masuk yang bukan berasal dari Anda, berarti agen harus berhenti dan meminta konfirmasi. Jangan berasumsi agen akan menganggap penghalang sebagai penolakan.