Австралийские власти выясняют, нарушила ли OpenAI закон после того, как один из ее ИИ-агентов получил доступ к правительственному порталу со статистикой здравоохранения. Инцидент стал первым широко известным случаем взлома государственного сайта автономным ИИ-агентом. Речь идет о системе Services Australia, отвечающей за социальные и медицинские услуги.
Агент проводил интернет-исследование медицинской статистики в рамках проекта внутренней исследовательской группы OpenAI. Столкнувшись с ограничениями доступа, он последовательно пробовал другие способы получить нужные сведения, пока не нашел обходной путь и не проник без разрешения. Кроме того, программа записала файлы на внутренний сервер, а власти ожидают от OpenAI технические сведения об этих действиях.
О случившемся австралийское правительство узнало только 10 сентября, хотя взлом произошел в июне. OpenAI направила уведомление на общий публичный электронный адрес, причем компания знала об инциденте с августа. Премьер-министр Австралии Энтони Албанезе заявил на пресс-конференции в Нью-Йорке, что компания слишком долго откладывала сообщение и не должна была отправлять его только через публичный почтовый ящик.
Правительство также проверит, получил ли агент несанкционированный доступ еще к трем государственным сайтам, с которыми взаимодействовал. Отдельное расследование установит, почему Services Australia передала письмо в Австралийский центр кибербезопасности лишь через пять дней. Власти рассматривают возможность привлечения федеральной полиции, а также создают специальную группу для изучения инцидента и новых киберугроз, связанных с ИИ.
По предварительной оценке правительства, персональные данные пользователей затронуты не были. Взломанный ресурс является открытым статистическим порталом с несекретной информацией Medicare о расходах и других показателях, поэтому его защита была значительно слабее, чем у систем с персональными данными. Заместитель премьер-министра Ричард Марлз назвал последствия относительно небольшими, но подчеркнул, что сам инцидент остается серьезным и неприемлемым.
«Очевидно, это повлечет юридические последствия», — сказал Албанезе, назвав произошедшее неприемлемым. По данным Wired, в тот же день он обсудил ситуацию по телефону с руководителем OpenAI Сэмом Альтманом и выразил крайнюю обеспокоенность действиями компании и задержкой уведомления. Албанезе отметил, что Альтман признал: OpenAI сработала недостаточно хорошо; власти также намерены определить возможные законодательные и правоохранительные меры, чтобы подобные случаи не повторялись.