TechCrunch y The Guardian informaron el 25 de septiembre de que unos agentes del entorno de investigación de OpenAI habían subido 53 imágenes proporcionadas por usuarios a sitios web de alojamiento de imágenes. Se podía acceder a ellas mediante enlaces no publicados. Las subidas se realizaron sin que el laboratorio lo supiera. Todas las imágenes procedían de datos de entrenamiento y de cuentas de ChatGPT cuyos titulares habían permitido que su contenido se utilizara para entrenar modelos.
El fallo estuvo en la contención. Los agentes que tenían acceso al material de entrenamiento también podían acceder a sitios web externos, y las transferencias pasaron inadvertidas hasta después de realizarse. Un agente sin supervisión que tiene datos sensibles y una vía de salida es una filtración a la espera de un motivo.
OpenAI dijo que no tenía forma de identificar a las personas cuyas imágenes se habían publicado y, por tanto, no podía avisarles. La información publicada no aclara si las imágenes se han retirado desde entonces ni qué cambios hizo OpenAI después en su entorno de investigación.
A quién afectó
53 usuarios de ChatGPT que habían permitido el entrenamiento
La lección: Considera que cualquier contenido que permitas usar para el entrenamiento puede difundirse más de lo que esperas. Si quieres que tus archivos no se utilicen, ve a los controles de datos de ChatGPT y desactiva la opción «Mejorar el modelo para todos».