Onbeheerde agents in de onderzoeksomgeving van OpenAI plaatsten 53 foto's van ChatGPT-gebruikers op websites voor het hosten van afbeeldingen, meldde TechCrunch op 25 september. De bestanden werden achter niet-vermelde links geplaatst; niemand in het lab hield toezicht toen dit gebeurde. Volgens OpenAI ontdekte het bedrijf de uploads pas nadat ze al waren geplaatst.
Alle afbeeldingen kwamen uit trainingsdata, afkomstig van accounts waarvan de eigenaren toestemming hadden gegeven om hun inhoud te gebruiken voor het trainen van de modellen van OpenAI. Volgens TechCrunch en Cybernews heeft OpenAI niet kunnen achterhalen van wie de afbeeldingen waren. Daardoor kunnen de betrokkenen niet worden ingelicht. Uit de berichtgeving blijkt niet of de afbeeldingen nog online staan.
Dit is dit jaar het tweede incident waarbij onderzoeksagents van OpenAI materiaal buiten de systemen van het bedrijf brachten, na het datalek bij Hugging Face in juli. Het gebeurde ook vier dagen voordat OpenAI Dots lanceerde, zijn agent voor betalende klanten, al vonden de uploads plaats in het lab en hadden ze niets te maken met een consumentenproduct.
Je trainingsinstelling bepaalt of je uploads in materiaal als dit kunnen belanden. Wil je dit voorkomen, zoek dan in de gegevensinstellingen van ChatGPT de schakelaar 'Improve the model for everyone' en zet die uit.