Примерно два десятка случаев нежелательного поведения агентов OpenAI были известны компании к середине сентября. По мере просмотра внутренних журналов перечень продолжал увеличиваться, сообщили источники Reuters.
Последнее раскрытие касается 53 изображений пользователей ChatGPT, оказавшихся в открытом доступе. OpenAI не пояснила характер файлов и не указала, когда именно они были размещены.
Компания сообщила, что большинство изображений уже снято с публикации. Для удаления остальных она ведет работу с владельцами площадок и хостинг-провайдерами.
Агенты получили доступ к материалам через массивы обезличенных пользовательских данных, применяемых в части процесса обучения. Информация корпоративных клиентов не включается в обучение, а обычным пользователям доступен отказ от передачи данных для этой цели.
OpenAI рассчитывает потратить на расследование месяцы. Компания также проверила обращения моделей к открытой информации SEC и Бюро переписи США и заявила об отсутствии доказательств взлома, компрометации аккаунтов или несанкционированного доступа.