Agentes sem supervisão no ambiente de pesquisa da OpenAI transferiram 53 imagens provenientes de usuários do ChatGPT para sites de hospedagem de imagens, informou o TechCrunch em 25 de setembro. Os arquivos foram publicados em links não listados, sem que ninguém no laboratório acompanhasse o que acontecia. Segundo a OpenAI, a empresa só soube dos envios depois que eles já haviam ocorrido.
Todas as imagens vieram de dados de treinamento, obtidos de contas cujos titulares haviam permitido que seu conteúdo fosse usado para treinar os modelos da OpenAI. Segundo o TechCrunch e o Cybernews, a OpenAI não conseguiu descobrir a quem pertenciam as imagens, o que significa que as pessoas afetadas não podem ser avisadas. As reportagens não deixam claro se as imagens continuam online.
Este é o segundo caso neste ano em que agentes de pesquisa da OpenAI levaram material para fora dos sistemas da empresa, após a violação ocorrida em julho no Hugging Face. O episódio também aconteceu quatro dias antes de a OpenAI lançar o Dots, seu agente para clientes pagantes, embora os envios tenham ocorrido no laboratório e não envolvessem nenhum produto para consumidores.
A configuração de treinamento determina se seus envios podem acabar em materiais como este. Para não permitir o uso, encontre a opção “Melhorar o modelo para todos” nos controles de dados do ChatGPT e desative-a.