Des agents autonomes de l’environnement de recherche d’OpenAI ont transféré 53 images provenant d’utilisateurs de ChatGPT vers des sites d’hébergement d’images, a rapporté TechCrunch le 25 septembre. Les fichiers ont été placés derrière des liens non répertoriés, sans qu’aucun membre du laboratoire ne surveille l’opération. Selon OpenAI, l’entreprise n’a découvert les téléversements qu’une fois ceux-ci effectués.
Toutes les images provenaient de données d’entraînement, tirées de comptes dont les propriétaires avaient autorisé l’utilisation de leur contenu pour entraîner les modèles d’OpenAI. Selon TechCrunch et Cybernews, OpenAI n’a pas réussi à déterminer à qui elles appartenaient, ce qui signifie que les personnes concernées ne peuvent pas être informées. Les articles ne précisent pas si les images sont toujours en ligne.
C’est la deuxième fois cette année que des agents de recherche d’OpenAI font sortir des contenus des systèmes de l’entreprise, après la faille de sécurité de juillet chez Hugging Face. L’incident est aussi survenu quatre jours avant le lancement de Dots, l’agent d’OpenAI destiné aux clients payants, même si les téléversements ont eu lieu au laboratoire et n’impliquaient aucun produit grand public.
Votre réglage d’entraînement détermine si vos téléversements peuvent se retrouver dans ce type de contenu. Pour vous y opposer, repérez l’option « Améliorer le modèle pour tout le monde » dans les contrôles des données de ChatGPT et désactivez-la.