Почти 150 европейских политиков за последние годы попали на сайты с вредоносной глубокой подделкой (deepfake) порнографического характера. Об этом свидетельствуют новые исследования, с которыми ознакомилось издание WIRED. Подавляющее большинство пострадавших — женщины. В одних случаях их лица появлялись в откровенных видео, в других — имена и фотографии оказывались в базах данных, откуда можно перейти к инструментам создания дипфейков.
Анализ примерно 160 доменов, распространяющих дипфейк-абьюз и другой неконсенсуальный сексуальный контент, провёл исследователь Бенджамин Шульц. Выяснилось, что как минимум 138 женщин-депутатов парламентов из 22 стран Евросоюза фигурировали или упоминались на таких сайтах. Мужчин-парламентариев в тех же источниках насчитывается лишь девять. По подсчётам Шульца, вероятность стать объектом дипфейк-экосистемы для женщин-депутатов в 33 раза выше.
«Дипфейк-порно — часть гораздо более широкой тенденции онлайн-ненависти и запугивания женщин и женщин-политиков», — заявила депутат парламента Нидерландов от группы «Прогрессивные Нидерланды» Сюзанна Крёгер, которая также пострадала. Она выразила гнев в связи с результатами исследования и назвала их «действительно глубоко тревожными», отметив, что они помогают раскрыть масштаб абьюза. «Мы политики, у нас есть платформа, и мы высказываемся, — сказала Крёгер. — Но тем временем миллионы женщин становятся жертвами этих преступных действий».
Исследование опубликовано немецким аналитическим центром цифровой демократии Agora Digitale Transformation и посвящено национальным депутатам парламентов всех 27 стран Евросоюза. Шульц, сотрудник Agora и ведущий исследователь American Sunlight Project, в июле собрал данные более чем о 5800 парламентариях Европы, а затем с помощью специальных поисковых систем установил, где они появляются на дипфейк-сайтах. Депутаты Европарламента в исследование не вошли. Чаще всего на таких ресурсах фигурировали политики из Германии, Нидерландов, Италии и Франции, причём чем выше статус политика, тем выше вероятность, что он стал целью. Шульц персонально предупредил всех депутатов и дал рекомендации о том, как можно удалить контент. По его словам, на этих сайтах также встречаются изображения знаменитостей, журналистов и других публичных лиц. WIRED не называет конкретные сайты, чтобы не привлекать к ним дополнительное внимание.
Несколько исследователей и законодателей отмечают: хотя политики становятся мишенями дипфейков уже не первый год, это может подрывать демократические процессы и создавать эффект охлаждения, из-за которого женщины и девушки отказываются от публичной роли. «Это отбивает у женщин желание вообще идти в политику и вытесняет их из общественной жизни, — говорит Шульц. — Есть масса свидетельств того, что это наносит реальный психологический ущерб. Это также вредит репутации в будущем, если они захотят уйти из политики и заняться другой карьерой». Депутат парламента Нидерландов от Социалистической партии Сара Доббе, также пострадавшая, заявила: «Дипфейк-видео используют, чтобы запугивать политиков, но также чтобы принижать женщин. Очень важно, чтобы женщина или девушка, ставшая жертвой таким образом, могла при необходимости получить прямую поддержку, а контент быстро удалялся».
На сайтах, которые отслеживал Шульц, он выделил несколько категорий абьюзивного контента и поведения. Среди результатов — случаи, когда депутаты фигурировали в материалах, активно размещённых на сайтах, проиндексированные результаты с уже удалённым контентом, а также профили и «шлюзы», где потенциально может создаваться новый контент. На многих страницах указаны имена парламентариев, официальные фотографии, а иногда и ссылки на их соцсети или личную информацию. В некоторых разделах, согласно отчёту Шульца, женщин «оценивали» по телосложению. Рядом с такими биографиями часто размещались ссылки на так называемые приложения-нудификаторы (программы для «раздевания» на изображениях) или собственные инструменты сайтов, обещающие цифровым способом раздевать людей. «Там все изображения, вся информация и прямая ссылка на инструмент, и в три клика можно сгенерировать, — говорит Шульц. — Это так же плохо, как и само размещение контента».
С тех пор как ИИ-дипфейки впервые появились в конце 2017 года, базовая технология их создания стала гораздо доступнее, а результаты работы инструментов — реалистичнее. Со временем были созданы миллионы неконсенсуальных ИИ-изображений и видео, преимущественно мужчинами и юношами, и их часто используют для преследования, запугивания или шантажа женщин и девушек, в том числе почти в 100 школах по всему миру. «Эти платформы устроены как бизнес», — говорит Генри Айдер, консультант по ИИ и эксперт по дипфейкам, отслеживающий эту экосистему с 2018 года. По его словам, то, что политики становятся мишенями таким образом, неудивительно, но результаты исследования помогают европейским чиновникам понять серьёзность проблемы. «Вся инфраструктура создана для того, чтобы делать это в массовом порядке и без усилий», — отметил он.