Чат-бот Apate из Австралии научили издеваться над телефонными мошенниками

Чат-бот Apate из Австралии научили издеваться над телефонными мошенниками

Эксперты по кибербезопасности из Университета Маккуори в Австралии разработали инновационного чат-бота под названием Apate, который обучен издеваться над телефонными мошенниками. Этот уникальный бот, основанный на алгоритмах искусственного интеллекта, имитирует человеческое поведение в разговорах, целью которых является максимально продолжительное удержание мошенников на линии.

Вдохновением послужил случай, когда профессору Дали Каафару позвонили телефонные мошенники, и он сам удержал их на линии целых 40 минут, развлекая своих детей за обедом. Этот опыт стал основой для автоматизации процесса с использованием искусственного интеллекта и создания Apate. Он обладает способностью выдавать себя за настоящего человека и проводить телефонные разговоры с мошенниками. Название проекту было дано в честь Апаты, древнегреческой богини лжи и обмана.

Apate базируется на языковой модели, аналогичной ChatGPT, и использует технологию клонирования голоса. Он обучен на реальных диалогах с мошенниками, включая расшифровку телефонных разговоров, переписку по электронной почте и социальным сетям. Тестирование бота проводилось на реальных звонках мошенников. Для этой цели ученые специально приобрели несколько телефонных номеров и преднамеренно разместили их на подозрительных интернет-площадках.

Цель проекта заключается в удержании мошенников на линии в течение 40 минут без достижения конкретного результата. Это время достаточно длительное, и большое количество таких разговоров способно подорвать “бизнес-модель” преступников. В настоящее время среднее время диалога с Apate составляет всего 5 минут. В ряде случаев ИИ продемонстрировал свою изобретательность в нестандартных ситуациях, когда мошенники запрашивали информацию, отсутствующую в обучающих материалах.

Учитывая активное использование представителями преступного мира технологий искусственного интеллекта, включая клонирование голоса и дипфейки, проект Apate представляет собой симметричный ответ на передовые методы, используемые мошенниками. Ученые считают, что подобные чат-боты могли бы быть внедрены операторами телефонной связи, чтобы справиться с этой проблемой.

Science XXI