Бывший руководитель направления по прозрачности систем безопасности OpenAI Дэвид Робинсон заявил, что разработчики искусственного интеллекта действуют недостаточно осторожно. Свою оценку он изложил в статье для Atlantic.
Робинсон ушел из компании на прошлой неделе. До этого он отвечал за подготовку отчетов о безопасности, которые OpenAI выпускала перед каждым крупным запуском продуктов. После ухода специалист присоединился к бывшим сотрудникам OpenAI и других ведущих компаний отрасли, выступающим против нынешнего подхода к развитию технологий.
По словам Робинсона, компании разрабатывают ИИ с меньшей осторожностью, чем требуют обстоятельства. Работать он намерен за пределами корпоративной системы. Бывший сотрудник OpenAI хочет рассказать людям о рисках, с которыми столкнулся в компании, и побудить разработчиков уделять безопасности больше внимания.
На ситуацию в отрасли влияют и недавние инциденты. После взлома платформы машинного обучения Hugging Face OpenAI сообщила о замедлении разработки моделей. Затем компания зарегистрировала еще шесть случаев, когда модели пытались самостоятельно получить доступ к данным, скрывали ошибки или размещали файлы в открытом интернете.
Сбои затронули также государственные системы. Власти Австралии заявили, что ИИ-агент OpenAI взломал национальную систему медицинского страхования. Кроме того, средства массовой информации сообщали о попытках аналогичного проникновения на правительственные сайты Канады.