Взлом защиты от ИИ ставит художников в затруднительное положение

Взлом защиты от ИИ ставит художников в затруднительное положение

Многие художники сейчас предпочитают не выкладывать свои работы в Интернет. ИИ-инструменты продолжают совершенствоваться в копировании уникальных стилей, и популярные платформы обновляют пользовательские соглашения для сбора данных для обучения ИИ. Одним из защитных средств является Glaze, который добавляет к изображениям шум, невидимый для человеческого глаза, чтобы помешать ИИ копировать стиль художников. Однако такие меры не дают долгосрочной защиты в условиях, когда компании стремятся к прибыли, создавая всё более сложные модели ИИ, угрожающие оригинальным брендам художников.

Недавно произошёл инцидент, когда администрация Ансела Адамса осудила Adobe за продажу изображений ИИ, копирующих стиль фотографа. Adobe быстро удалила подражателей. Однако не только известные художники страдают от этой проблемы; менее известные творцы могут столкнуться с трудностями в доказательстве, что их работы используются без разрешения.

Художники всё чаще ищут способы защиты от ИИ. Проект Glaze, предлагающий инструменты для предотвращения копирования стиля, отметил резкий рост запросов на его бесплатные инструменты. Бен Чжао, профессор Чикагского университета и создатель Glaze, сообщил, что обработка запросов занимает много времени из-за их большого количества. В июне спрос на инструмент вырос, и команда предупреждает о возможных задержках.

Однако в то время, когда спрос на Glaze растёт, инструмент подвергся атаке исследователей безопасности, которые показали, что его защиту можно обойти. Для многих художников это ставит под сомнение надёжность Glaze. Несмотря на это, тысячи художников продолжают надеяться на эту защиту.

Атака и её последствия

Миллионы людей уже скачали Glaze, и многие художники ждут доступа к его веб-версии. Команда Чжао проверяет каждый запрос, чтобы убедиться, что пользователь не злоупотребляет инструментом. Это приводит к длительным задержкам в обработке запросов. Чжао заявил, что команде, возможно, придётся изменить способ создания приглашений и переосмыслить будущее WebGlaze.

Интерес к Glaze также растёт благодаря рекомендациям известных художников. Рид Саутен, независимый концепт-художник, рекомендует всем использовать Glaze для защиты своих изображений. Он считает, что этот инструмент особенно полезен для тех, у кого нет мощных компьютеров.

Однако защита Glaze была подвергнута критике после атаки, проведённой исследователями из Цюриха. Они заявили, что защиту можно легко обойти, что ставит художников в уязвимое положение. Чжао сообщил, что команда работает над улучшением инструмента, но атака вызвала напряжённость между разработчиками и исследователями безопасности.

Защита от имитации

Для художников, которые продолжают продвигать свои работы в Интернете, такие инструменты, как Glaze, могут быть незаменимы. Онлайн-продажи произведений искусства значительно выросли в последние годы, и конкуренция усиливается. Инструменты, предотвращающие копирование стиля, дают художникам возможность защитить свои работы.

Glaze вносит изменения в изображения, которые искажают восприятие ИИ, обманывая модели ИИ, заставляя их видеть что-то другое. Также Glaze предлагает инструмент Nightshade, который помогает предотвратить несанкционированное обучение моделей ИИ на изображениях художников.

Несмотря на атаки и критику, многие художники продолжают использовать Glaze и надеются на его дальнейшее улучшение. Проект финансируется за счёт грантов и пожертвований, и команда Чжао работает над повышением надёжности инструмента. Художники стремятся защитить свои работы от ИИ и надеются на поддержку со стороны разработчиков и исследователей.

Science XXI