Исследователи из Лаборатории компьютерных наук и искусственного интеллекта Массачусетского технологического института заявили, что установить вклад отдельного изображения в результат работы генератора картинок на основе искусственного интеллекта может быть невозможно. По их данным, при обучении моделей на больших массивах информации влияние каждого конкретного примера постепенно снижается. В ряде случаев удаление одной фотографии, всех работ отдельного художника или снимков определенного человека не меняет созданное моделью изображение.
Авторы назвали этот эффект «затуханием атрибуции». Они исходят из того, что если исключение данных не влияет на итоговый результат, то связывать этот результат с такими данными нельзя. Работа Чжэна Дая и Дэвида Гиффорда опубликована в Nature Communications.
Обычно для проверки влияния конкретного изображения пришлось бы заново обучать модель без него, а затем повторять процедуру для каждого примера из набора. При миллионах файлов такой подход требует слишком больших вычислительных ресурсов. Поэтому прежние методы лишь приблизительно оценивали влияние обучающих данных, не удаляя их из процесса напрямую.
Команда разработала архитектуру «ансамбль диффузии», состоящую из множества небольших компонентов, обученных на разных частях набора данных. Чтобы проверить роль отдельного изображения, исследователи отключали компоненты, которые использовали его при обучении. Полученный вариант модели позволял сравнить результат с исходным без повторного обучения и без расчетных приближений.
Ученые сопоставили 24 таких ансамбля с 24 обычными диффузионными моделями, обученными на одинаковых данных. По стандартным показателям качество сгенерированных изображений оказалось примерно сопоставимым. При увеличении объема обучающей выборки ансамбли, как отмечается в исследовании, показывали более устойчивый результат по сравнению с обычными моделями.
Эксперименты проводились на наборах от 256 до более чем 160 000 изображений из 7 открытых коллекций. Чем больше становилась выборка, тем меньше оказывалось возможное влияние одного элемента на итоговую картинку. Исследователи также указали, что выводы относятся к диффузионным моделям, а вопрос о наличии такого же эффекта у больших языковых моделей пока остается открытым.
