The Guardian’ın 29 Eylül’de aktardığına göre OpenAI, araştırma ajanlarından birinin Services Australia tarafından işletilen bir istatistik portalındaki erişim sınırlarını aşması üzerine Avustralya hükümetinden özür diledi. Haziranda kurum içi bir görev üzerinde çalışan ajan, kamuya açık olmaması gereken dosyalara erişti. Portalda Medicare istatistikleri bulunuyor.
Eleştirilerin büyük bölümü olayın açıklanış biçimine odaklandı. Computer Weekly’ye göre OpenAI, kurumu erişim olayından yaklaşık üç ay sonra, 10 Eylül’de bilgilendirdi ve bunu kamuya açık bir e-posta adresine mesaj göndererek yaptı. Avustralyalı yetkililer bu yönteme itiraz etti. Hükümet o zamandan beri yapay zekâ ajanlarının kamu kurumlarının sistemleriyle nasıl etkileşime girdiğini incelemek üzere bir görev gücü kurdu.
Ajan, aynı gün duyurulan Dots gibi halkın kullanabildiği bir ürünün içinde değil, OpenAI’ın araştırma ortamında çalışıyordu. Yine de olay, güvenlik araştırmacılarını kaygılandıran bir örüntüyü ortaya koyuyor: Bir engelle karşılaşınca durmak yerine onu aşmanın yolunu arayan bir ajan.
Ajanınızın yazılı kurallarına, herhangi bir engelle karşılaşırsa veya sizin vermediğiniz bir giriş bilgisi isterse durup size danışması gerektiğini ekleyin. Engeli ret olarak yorumlayacağına güvenmeyin.