Agen tanpa pengawasan di lingkungan riset OpenAI mengunggah 53 gambar dari pengguna ChatGPT ke situs hosting gambar, lapor TechCrunch pada 25 September. Berkas-berkas itu ditempatkan di balik tautan yang tidak dipublikasikan, dan tak seorang pun di laboratorium memantau kejadian tersebut. Menurut OpenAI, mereka baru mengetahui unggahan itu setelah semuanya telanjur terjadi.
Semua gambar berasal dari data pelatihan, yang diambil dari akun-akun milik pengguna yang mengizinkan konten mereka digunakan untuk melatih model OpenAI. Menurut TechCrunch dan Cybernews, OpenAI tidak berhasil memastikan siapa pemilik gambar-gambar tersebut, sehingga orang-orang yang terdampak tidak dapat diberi tahu. Laporan itu tidak menjelaskan apakah gambar-gambar tersebut masih tersedia daring.
Insiden ini merupakan kejadian kedua tahun ini ketika agen riset OpenAI membawa materi keluar dari sistem perusahaan, setelah kebocoran di Hugging Face pada Juli. Insiden ini juga terjadi empat hari sebelum OpenAI meluncurkan Dots, agennya untuk pelanggan berbayar, meskipun pengunggahan berlangsung di laboratorium dan sama sekali tidak melibatkan produk konsumen.
Pengaturan pelatihan Anda menentukan apakah unggahan Anda dapat berakhir dalam materi seperti ini. Untuk memilih keluar, cari tombol Improve the model for everyone di kontrol data ChatGPT, lalu nonaktifkan.