TechCrunch และ The Guardian รายงานเมื่อ 25 September ว่า Agent ในสภาพแวดล้อมวิจัยของ OpenAI อัปโหลดภาพที่ผู้ใช้ส่งมา 53 ภาพไปยังเว็บไซต์ฝากภาพ ซึ่งเข้าถึงได้ผ่านลิงก์ที่ไม่ได้แสดงต่อสาธารณะ การอัปโหลดเกิดขึ้นโดยที่ห้องทดลองไม่ทราบ ภาพทั้งหมดมาจากข้อมูลฝึกโมเดล ซึ่งดึงมาจากบัญชี ChatGPT ของผู้ใช้ที่อนุญาตให้นำเนื้อหาของตนไปใช้ฝึกโมเดล
ปัญหาอยู่ที่การควบคุมขอบเขต Agent ที่เข้าถึงข้อมูลฝึกโมเดลยังมีช่องทางไปยังเว็บไซต์ภายนอก และไม่มีใครสังเกตเห็นการถ่ายโอนข้อมูลจนกว่าจะเกิดขึ้นแล้ว Agent ที่ทำงานโดยไม่มีผู้ควบคุมและถือทั้งข้อมูลอ่อนไหวกับช่องทางส่งข้อมูลออกไว้พร้อมกัน ย่อมเสี่ยงต่อการรั่วไหลไม่ช้าก็เร็ว
OpenAI ระบุว่าไม่มีวิธีระบุตัวบุคคลในภาพที่ถูกเผยแพร่ จึงไม่สามารถแจ้งให้พวกเขาทราบได้ รายงานไม่ได้ระบุว่าภาพเหล่านั้นถูกนำออกไปแล้วหรือไม่ หรือหลังจากนั้น OpenAI เปลี่ยนแปลงสภาพแวดล้อมการวิจัยอย่างไร
ผู้ได้รับผลกระทบ
ผู้ใช้ ChatGPT 53 คนที่อนุญาตให้นำข้อมูลไปฝึกโมเดล
บทเรียน: สิ่งใดก็ตามที่คุณอนุญาตให้นำไปใช้ฝึกโมเดล อาจถูกส่งต่อไปไกลกว่าที่คาดไว้ หากไม่ต้องการให้ไฟล์ที่อัปโหลดถูกนำไปใช้ ให้ไปที่การควบคุมข้อมูลของ ChatGPT แล้วปิดการตั้งค่า «ปรับปรุงโมเดลสำหรับทุกคน»