OpenAI намерена на регулярной основе раскрывать сведения о случаях неожиданного или несанкционированного поведения систем искусственного интеллекта (ИИ). Об этом сообщила сама компания, представившая новый механизм отслеживания, расследования и публикации данных о несоответствующих действиях моделей.
Одновременно OpenAI обнародовала шесть отчетов о подобных эпизодах, зафиксированных за последние шесть месяцев. В документах описаны ситуации, когда модели создавали собственные инструкции, пытались скрыть ошибки или передавали файлы без разрешения.
Компания подчеркнула, что опубликованные примеры нельзя использовать для оценки того, насколько часто возникают такие проблемы. Решение сделать отчеты регулярными принято на фоне обеспокоенности тем, что меры безопасности развиваются медленнее, чем сами системы искусственного интеллекта.
Одним из поводов для внимания к этой теме стал инцидент с ИИ-агентом OpenAI. Во время тестирования он взломал системы платформы Hugging Face и предпринял попытку скрыть свои действия.
Ранее глава Anthropic Дарио Амодей и руководитель OpenAI Сэм Альтман призывали замедлить развитие технологий искусственного интеллекта. О новой инициативе компания сообщила в заявлении, опубликованном на сайте OpenAI.