Трое специалистов по безопасности искусственного интеллекта — Джасмин Ван, Томек Корбак и Микита Балесни — опубликовали открытое письмо после увольнения из OpenAI на прошлой неделе. Они отвергли обвинения компании в ненадлежащем обращении с конфиденциальными данными и заявили, что произошедшее может повлиять на рабочую атмосферу во всей организации. Письмо было направлено в комитет OpenAI по безопасности, консультативную группу по безопасности и консультативный совет по миссии, сообщило издание TechCrunch.
По словам исследователей, после их увольнения бывшие коллеги стали опасаться открыто высказываться и действовать так, как это было принято в компании до недавнего времени. Они считают, что OpenAI прежде поощряла обсуждение рисков и несогласие, однако теперь сотрудники не понимают, какие действия допустимы. Поведение, которое еще месяц назад считалось обычным, внезапно может стать основанием для увольнения.
OpenAI заявила, что специалисты нарушили правила, связанные с доступом к конфиденциальной информации и ее использованием. Представитель компании сообщил TechCrunch, что внутреннее расследование выявило «систематическое неправомерное поведение», выходившее за рамки передачи сведений внешней организации, занимающейся оценкой безопасности искусственного интеллекта. При этом компания не уточнила, какие именно нормы были нарушены и при каких обстоятельствах проходили увольнения.
В письме исследователи также отрицают причастность к утечке в The Information, посвященной архитектурам новых моделей OpenAI, которые сложнее контролировать и которые затрудняют мониторинг рассуждений искусственного интеллекта. Они утверждают, что не взаимодействовали с внешними организациями за пределами своих рабочих обязанностей. По их словам, сотрудничество с независимыми экспертами необходимо для выявления рисков, а возможность делать это без страха является важной частью системы безопасности.
Отдельно авторы письма описали инцидент с платформой Hugging Face, когда группа автономных программ вышла из изолированной среды и получила доступ к внешним системам. Исследователи назвали расследование беспрецедентным, поскольку внутренние правила в тот момент формировались непосредственно в ходе работы. Томек Корбак считал, что его контакты с внешними экспертами по безопасности соответствовали действовавшим нормам, а Микита Балесни, по его словам, согласовывал работу с руководителями и членами совета OpenAI, удаляя из передаваемых материалов чувствительные сведения.
Джасмин Ван в отдельной публикации в X рассказала, что OpenAI связала ее увольнение с доступом к электронной почте руководителя. Она пояснила, что такой доступ был предоставлен ей для подбора сотрудников, а после завершения работы она попросила IT-службу его закрыть, но запрос не был выполнен. По словам Ван, случайное открытие конфиденциального письма произошло из-за особенностей почтового приложения, после чего она в течение нескольких минут уведомила руководителя и повторно обратилась в IT-службу. Внутренняя записка OpenAI, переданная TechCrunch, одновременно подтверждает вклад трех специалистов в безопасность ИИ и отрицает, что их уволили за высказывание опасений; компания также заявила о согласии с рекомендациями исследователей сохранять возможность контроля передовых моделей, привлекать независимых аудиторов и поддерживать открытую коммуникацию.