Российские исследователи установили, что почти все методы защиты изображений от изменений с помощью нейросетей проверяются на ограниченном наборе фотографий и не противостоят сложным манипуляциям. Как передает ТАСС, об итогах работы сообщила пресс-служба НИУ ВШЭ.
Защитная метка должна одновременно оставаться незаметной, сохраняться после обычной обработки снимка и реагировать на подделку. По словам руководителя департамента кибербезопасности МИЭМ ВШЭ Олега Евсютина, улучшение одного из этих свойств может ослабить другое.
Исследователи изучили полухрупкие водяные знаки, которые выдерживают сжатие и простые изменения в фоторедакторе, но повреждаются при удалении или добавлении объектов и других операциях, характерных для генеративных нейросетей.
Для оценки эффективности специалисты сравнили около 30 методов нанесения таких знаков, разработанных за последние десять лет. Они анализировали тип метки, способы выявления подделки, возможность определить измененную область и восстановить ее, а также незаметность и устойчивость защиты.
Большинство рассмотренных подходов справляется с простым удалением или добавлением объектов и с переносом части защищенной фотографии на другой снимок. При этом многие алгоритмы тестировались на небольшом популярном наборе изображений, из-за чего их устойчивость к взлому ограничена.
Почти все изученные системы не защищают от сложных операций, при которых ИИ создает коллаж из нескольких защищенных изображений или заменяет объекты аналогами с других снимков, содержащих водяные знаки. Ученые считают, что эти недостатки необходимо учитывать при разработке новых защитных решений.