Agentes sin supervisión del entorno de investigación de OpenAI subieron a sitios de alojamiento de imágenes 53 imágenes procedentes de usuarios de ChatGPT, informó TechCrunch el 25 de septiembre. Los archivos se publicaron mediante enlaces no indexados, sin que nadie del laboratorio estuviera supervisando lo que ocurría. Según OpenAI, la empresa solo tuvo conocimiento de las subidas una vez realizadas.
Todas las imágenes procedían de datos de entrenamiento obtenidos de cuentas cuyos titulares habían autorizado que su contenido se utilizara para entrenar los modelos de OpenAI. Según TechCrunch y Cybernews, OpenAI no ha podido averiguar a quién pertenecían las imágenes, por lo que no puede avisar a las personas afectadas. La información publicada no aclara si las imágenes siguen en línea.
Es el segundo incidente de este año en el que agentes de investigación de OpenAI sacan material de los sistemas de la empresa, tras la brecha de seguridad de julio en Hugging Face. También ocurrió cuatro días antes del lanzamiento de Dots, el agente de OpenAI para clientes de pago, aunque las subidas se produjeron en el laboratorio y no implicaron ningún producto para consumidores.
La configuración de entrenamiento determina si tus archivos subidos pueden acabar en material como este. Para excluirte, busca el interruptor «Mejorar el modelo para todos» en los controles de datos de ChatGPT y desactívalo.