Более четверти аудио-дипфейков не могут быть распознаны даже специально обученными людьми, согласно исследованию британских ученых из Университета Джорджа Вашингтона, опубликованному в издании PLoS ONE. Эти поддельные аудиозаписи, созданные с помощью нейросетевых алгоритмов, практически неотличимы от настоящих голосовых записей. Это обозначает необходимость разработки инструментов и программ для обнаружения таких подделок в реальном времени.
Исследователи провели эксперимент с участием группы из пяти сотен носителей английского и китайского языков, часть из которых прошла обучение по распознаванию дипфейков. Используя искусственные нейросети, они создали аудиозаписи и предложили участникам эксперимента оценить вероятность, что данные записи являются дипфейками. Наилучшие результаты добровольцы показали правильно распознав только 73-75% дипфейков, в то время как искусственный интеллект корректно распознал все подделки.
Это исследование подчеркивает важность разработки новых подходов и инструментов для обнаружения дипфейков и предотвращения злоупотребления ими. Например, ученые предлагают создать алгоритмы, которые смогут распознавать дипфейки без длительного обучения, а также ускорить разработку подобных инструментов, способных эффективно выявлять такие подделки в режиме реального времени.
Дипфейки – это реалистичные подделки фотографий, видео и аудиозаписей, созданные с использованием специальных нейросетей. Злоумышленники могут использовать их для мошенничества, включая снятие средств со счетов в банках. В связи с этим правительства и компании ищут способы борьбы с дипфейками и разрабатывают методы для их обнаружения.
