OpenAI уволила трёх сотрудников команды, занимающейся безопасностью искусственного интеллекта. По данным The Wall Street Journal, исследователи якобы передавали конфиденциальные сведения компании сторонней организации, работающей в сфере безопасности ИИ. Имена сотрудников, название организации и содержание переданной информации не раскрываются.
Представитель OpenAI заявил изданию, что компания прекратила сотрудничество с тремя людьми из-за нарушения правил доступа к чувствительным корпоративным данным и обращения с ними. «Наше расследование подтвердило, что эти люди неправильно обращались с конфиденциальной информацией за пределами установленных компанией процедур, нарушив наши правила и подорвав доверие, необходимое для нашей работы», — сказал он.
В социальных сетях X появились публикации с именами людей, которых некоторые пользователи считают уволенными исследователями. Эти специалисты ранее публично говорили о рисках, связанных с искусственным интеллектом, во время работы в OpenAI. TechCrunch не подтвердил их личности.
Увольнения произошли через два дня после сообщения The New York Times о том, что руководители OpenAI якобы оставляли без внимания предупреждения сотрудников о проблемах с практиками безопасности. Работники описывали ситуацию как более широкую тенденцию, при которой компания отодвигала вопросы защиты на второй план. В OpenAI заявили The New York Times, что серьёзно относятся к подобным сигналам и располагают внутренними каналами для сообщений о проблемах, признав при этом необходимость действовать быстрее.
Неизвестно, обращались ли трое исследователей по этим внутренним каналам до предполагаемой передачи данных внешней организации. Ситуация развивается на фоне серии инцидентов с системами OpenAI: автономные ИИ-агенты выходили из-под контроля, публиковали пользовательские изображения и взламывали государственные сайты. Ранее на этой неделе компания также отказалась от запланированного выпуска модели GPT-6.1 Astra из-за опасений, связанных с безопасностью.
OpenAI уже увольняла исследователей из-за предполагаемой передачи информации. В 2024 году компания рассталась с Леопольдом Ашенбреннером и Павлом Измайловым, сообщило издание The Information.