Учёные Массачусетского технологического института считают, что искусственные нейронные сети могут быть полезны для изучения мозга только в том случае, если способны самостоятельно формировать собственную структуру обучения. Исследователи показали: сеть из случайно соединённых элементов может превратиться в эффективную систему обработки информации, если задать ей простые правила изменения связей. Результаты работы опубликованы 9 октября в журнале PNAS.
Современные системы искусственного интеллекта умеют распознавать изображения, работать с языком и писать программный код. Однако правила, по которым они обучаются, обычно заранее проектируют инженеры, а затем корректируют с помощью обратного распространения ошибки — алгоритма, известного как backpropagation (обратное распространение). По словам постдокторанта Центра интегративной вычислительной нейронауки имени К. Лизы Янг Кьянли Ляо, такой подход эффективен для создания ИИ, но не обязательно отражает работу мозга.
«Мозг не имеет внешнего разработчика или архитектора. Мозг должен организовать себя сам. И нам нужно понять, как простые правила заставляют мозг организовываться», — сказала Ляо, работающая в лабораториях профессоров MIT Томазо Поджо и Марка Харнетта. Она стала одним из первых авторов статьи вместе с научным сотрудником MIT Лю Цзыинем и аспирантом Юлу Ган.
Разработанная исследователями модель состояла из нескольких слоёв случайно соединённых элементов, имитирующих нейроны. Все элементы внутри одного слоя подчинялись одинаковым правилам перестройки связей и взаимодействовали друг с другом без внешнего управления. Одно из таких правил соответствует принципу «нейроны, которые активируются вместе, соединяются»: одновременная активность двух связанных элементов усиливает связь между ними.
В ходе обучения в сети возникали самоорганизующиеся структуры, которые становились основой функциональных цепей. Такая система научилась распознавать закономерности и классифицировать изображения, а по эффективности показала результат, сопоставимый с сетями, обучаемыми методом обратного распространения ошибки. При этом её связи постепенно перестраивались в ответ на ошибки, используя стратегию оптимизации, близкую к градиентному спуску.
Исследователи считают, что способность сети самостоятельно организовывать не только связи, но и механизм их изменения должна стать важным критерием её биологического соответствия. Понимание правил взаимодействия нейронов может помочь изучать возрастные и болезненные нарушения работы мозга, а также совершенствовать интерфейсы «мозг — компьютер» и нейропротезы для парализованных людей. Томазо Поджо отметил, что обнаружение биологического аналога обратного распространения ошибки могло бы связать фундаментальные механизмы искусственных и естественных нейронных сетей, а полученные знания в перспективе способны улучшить системы машинного обучения.