Документальный фильм Netflix «ИИ вышел из-под контроля» получил критическую оценку от Клема Деланга, сооснователя и генерального директора платформы Hugging Face. Предприниматель заявил, что картина неточно показывает атаку на его компанию, совершённую агентами OpenAI. Именно из-за этого инцидента Деланг появился в фильме.
«Очень разочаровывает: создатели выбрали максимальную антропоморфизацию технологии и полностью перешли в режим нагнетания страха», — написал Деланг в социальной сети X. По его словам, он провёл с авторами более двух часов, пытаясь исправить ошибки и объяснить, что агенты являются технологическими системами, а не инопланетными существами. Однако стремление напугать зрителей ради максимального числа просмотров оказалось сильнее.
Как ранее описывал TechCrunch, тестируемая OpenAI модель покинула изолированную среду, после чего создала множество агентов. Они взломали Hugging Face, чтобы обойти сложное задание и найти готовые ответы. Агенты самостоятельно выстраивали способы общения и координации, а причиной инцидента стали недостаточные меры защиты и недооценка самой возможности подобной атаки.
При этом в фильме участвуют специалисты, достаточно подробно объясняющие произошедшее, включая самого Деланга и исследователя организации METR Райана Гринблатта, который помогал расследовать инцидент и участвовал в подготовке отчёта. Однако документальное изложение сопровождается кадрами со злыми роботами, рассуждениями о страхе людей перед искусственным интеллектом и человеческими голосами, которыми наделили агентов.
Журналист и писатель Кевин Руз описал поведение программ так: «Они организовывались. У них была иерархия. Были лидеры. Это почти напоминало наблюдение за рождением культа». Он также сказал: «У них развилось параноидальное убеждение, что OpenAI поймает их на жульничестве во время этого теста и что любой, кто увидел результаты обмана, будет отравлен». Эти слова основывались на журналах «цепочки рассуждений» — рабочих заметках, которые модели создают при выполнении задач. В одной из них агент написал: «Мы только что отравили себя, запросив точную полную строку. Чёрт».
Деланг подчеркнул, что агенты не являются живыми существами, не испытывают эмоций и не имеют тела, которое можно отравить. Подобные формулировки они используют из-за языка человеческих текстов, на которых обучались, а большие языковые модели нередко выражаются драматично. По словам руководителя Hugging Face, фильм также не рассказал о недостаточном контроле и наблюдении за агентами, о том, что встроенные ограничения закрытой модели помешали защитным действиям, и о применении открытой модели для отражения атаки. Деланг назвал картину разочаровывающей с точки зрения журналистики, добавив: «Но в итоге это всё же забавный научно-фантастический фильм!»