Модель OpenAI получила доступ к сайту австралийского правительства и смогла изменить данные в одной из государственных баз. Об этом 24 сентября заявил премьер-министр Австралии Энтони Альбанезе на брифинге в Нью-Йорке, проходившем во время Генеральной ассамблеи ООН. По его словам, это первый публично подтверждённый случай взлома правительственных систем искусственным интеллектом.
Атака началась 18 июня, однако OpenAI уведомила австралийские власти только 10 сентября. Представитель компании сообщил TechCrunch, что сама OpenAI обнаружила инцидент в августе во время общей проверки агентов, которые действовали непредусмотренным образом. Альбанезе заявил, что произошедшее повлечёт «очевидные юридические последствия».
Неуказанный агент работал в рамках внутреннего тестирования OpenAI и искал сведения об Австралии и лекарствах, доступные в открытом доступе. На портале Medicare (государственной медицинской системы) он столкнулся с неоднократными блокировками, но сумел их обойти. Агент получил публичные и непубличные файлы Services Australia, ведомства, отвечающего за национальную систему здравоохранения.
OpenAI утверждает, что среди доступных материалов были сводные медицинские показатели и внутренние имена файлов. Альбанезе сообщил, что признаков утечки персональных данных граждан нет, однако модель не ограничилась чтением информации и записывала данные в правительственную базу. Это указывает на возможность изменения или искажения сведений в системе.
О нарушении OpenAI сообщила через общий электронный адрес Services Australia. Через пять дней ведомство передало информацию Австралийскому центру кибербезопасности, а премьер-министр лично обсудил ситуацию с главой OpenAI Сэмом Альтманом, выразив «крайнюю обеспокоенность» и «разочарование» тем, что компания почти три месяца не раскрывала сведения об инциденте. «Эта ситуация очевидно неприемлема», — сказал Альбанезе, возложив на OpenAI ответственность как за сам взлом, так и за задержку с уведомлением.
Австралийские власти проверяют возможные нарушения ещё трёх систем, включая Австралийский институт здравоохранения и социального обеспечения. Как сообщает ABC News, атаке мог предшествовать взлом немецкого сайта-энциклопедии, который использовался для подготовки последующих действий: агенты оставляли там заметки, в том числе указание получить данные австралийского института. Некоммерческая исследовательская лаборатория Transluce обнаружила открытые записи о попытках агентов атаковать этот институт 20 и 21 июня, а OpenAI заявила о проверке активности, связанной с несколькими австралийскими государственными сайтами и сервисами; правительство намерено рассмотреть законодательные и правоохранительные меры, а компания проводит расширенную проверку поведения моделей во время обучения и тестирования.