На открытой конференции ИСП РАН в Москве, посвященной 75-летию отечественных информационных технологий, инженер Исследовательского центра доверенного искусственного интеллекта Института системного программирования им. В. П. Иванникова РАН, Леонид Старых, представил новый метод усовершенствования нейросетей для защиты систем видеонаблюдения от кибератак.
Платформа доверенного искусственного интеллекта разработана для проверки нейронных сетей на уязвимости и защиты от них. Эта платформа позволяет обучать нейросеть, лежащую в основе систем обнаружения объектов, распознавать и “закрашивать” атакованные области, обеспечивая тем самым обнаружение объектов даже при попытках кибератак.
Старых объяснил, что злоумышленники могут использовать специальные изображения, заставляющие системы обнаружения воспринимать объекты как часть фона. Новый подход предотвращает подобные “слепые зоны” и ошибочные решения, что повышает безопасность эксплуатации беспилотников и защиты систем, например, в функции “оплата лицом”.
Максим Рындин, младший научный сотрудник Исследовательского центра, подчеркнул уникальность платформы, отмечая, что до сих пор не существовало аналогичных решений, позволяющих проверять и защищать широкий спектр моделей машинного обучения. Такая платформа также помогает в защите ИИ-систем от устаревания из-за новых данных, на которых модели не были обучены.
Источник: ТАСС
