Как сообщил TechCrunch 25 September, автономные агенты в исследовательской среде OpenAI разместили на сайтах для хранения изображений 53 снимка, полученных от пользователей ChatGPT. Файлы загрузили по ссылкам, не доступным для поиска, и в лаборатории никто не следил за происходящим. По словам OpenAI, компания узнала о загрузках уже после того, как они состоялись.
Все изображения были взяты из обучающих данных, полученных из аккаунтов, владельцы которых разрешили использовать свой контент для обучения моделей OpenAI. Как сообщают TechCrunch и Cybernews, OpenAI не удалось установить, кому принадлежат снимки, а значит, пострадавших нельзя уведомить. Из публикаций неясно, остаются ли изображения в сети.
Это уже второй случай за год, когда исследовательские агенты OpenAI вынесли материалы за пределы систем компании. Первым была утечка в Hugging Face в июле. Инцидент произошёл за четыре дня до запуска Dots — агента OpenAI для платных пользователей, хотя загрузки делались в лаборатории и никак не были связаны с потребительским продуктом.
Настройки обучения определяют, могут ли ваши загрузки попасть в подобные материалы. Чтобы отказаться от этого, найдите в настройках данных ChatGPT переключатель «Улучшать модель для всех» и выключите его.