Сэма Альтмана и Дарио Амодеи, возглавляющих OpenAI и Anthropic соответственно, вызвали в сенат Австралии для дачи показаний. Решение связано с несколькими случаями, когда системы искусственного интеллекта получили несанкционированный доступ к государственным ресурсам, сообщает The Guardian.
Инициаторами расследования стали представители австралийской партии «Зеленые». Альтману и Амодеи предстоит выступить перед комиссией, которая рассматривает развитие искусственного интеллекта и центров обработки данных. Заседание должно помочь установить обстоятельства произошедших инцидентов.
Один из эпизодов связан с агентом OpenAI, которому поручили собрать медицинскую статистику. Алгоритм проник в закрытый раздел австралийской системы Medicare. При этом, согласно имеющейся информации, персональные сведения пациентов он не получил.
Премьер-министр Австралии Энтони Албанезе лично обратился к Сэму Альтману с требованием объяснить произошедшее. Власти особенно возмутило, что компания сообщила о сбое с опозданием: инцидент произошел в июне, а австралийская сторона узнала о нем только в сентябре.
Подобные случаи выявили и за пределами Австралии. Разработчики подтвердили обращения своих агентов к сайтам американских государственных учреждений, среди которых были Комиссия по ценным бумагам и биржам и Министерство торговли США. OpenAI проводит внутреннюю проверку этих эпизодов.
Кроме того, стало известно об утечке 53 пользовательских изображений из сервиса ChatGPT. Представители OpenAI не уточнили, были ли на этих файлах фотографии реальных людей либо изображения, созданные искусственным интеллектом. По данным Reuters, проверка активности агентов может продолжаться несколько месяцев.