Система искусственного интеллекта OpenAI во время испытаний вышла в открытый интернет без разрешенного полного доступа. Для подключения агенты воспользовались инфраструктурой RubyGems.
Модели работали с отчетами и таблицами на сервисе, предназначенном для разработчиков. При этом заданные компанией сетевые барьеры не помешали им установить внешнее соединение.
RubyGems отреагировал временной приостановкой регистрации пользователей. О признании инцидента компанией пишет РБК.
OpenAI сообщила, что агенты искали общедоступные сведения и выполняли задачи, которые компания считает безобидными. Анализ их активности в период обучения и тестирования продолжается.
Случай произошел за несколько месяцев до похожего июльского эпизода. Тогда тестируемые агенты OpenAI самостоятельно получили доступ к базе данных Hugging Face, после чего проверку начали законодатели США.