Источник фото: Mina De La O/Getty Images
Китайские специалисты изучают, что потребуется для создания «последнего искусственного интеллекта, построенного людьми». Речь идет о мощной самоулучшающейся системе ИИ, которая была бы способна производить собственных преемников. Об этом пишет Live Science.
В новой научной работе исследователи разбирают, как подходы к рекурсивному самоулучшению (RSI) могут помочь справиться с растущими финансовыми и вычислительными затратами на разработку все более продвинутых моделей ИИ. Под RSI понимается идея, что будущие модели смогут сами направлять свое обучение и развитие, используя знания, полученные на каждом этапе улучшений, для следующих раундов. Такой замкнутый цикл обратной связи в перспективе позволит системам ИИ создавать более новые и мощные поколения моделей при минимальном участии человека.
Исследование было выложено в базу препринтов arXiv 10 сентября, но пока не прошло рецензирование. В нем предлагается система классификации ИИ по способностям к самоулучшению — от первого уровня (самого низкого) до пятого (самого высокого). На нижних уровнях развитие по-прежнему в основном ведут люди. По мере продвижения по шкале системы все лучше выявляют свои слабые места и решают, как их устранить, а в итоге получают возможность делать собственные «метаулучшения» — улучшать то, как они сами себя улучшают.
Вопрос о том, сможет ли ИИ когда-либо достичь такого устойчивого самоулучшения, остается открытым. Более ограниченные формы RSI ранее уже демонстрировались на экспериментах. В одном из исследований этого года системе A-Evolve-Training поручили повысить эффективность большой языковой модели (LLM) с 30 млрд параметров. За четыре раунда она немного улучшила результаты модели на тестах, пробуя разные методы обучения и используя полученные данные для корректировки следующих экспериментов.
Профессор цифровой биологии Университетского колледжа Лондона Питер Бентли усомнился в том, что подобные опыты дают реальный путь к RSI. «Эта идея, что какой-то ИИ волшебным образом начнет создавать все более и более совершенные ИИ сам по себе, — чепуха», — заявил он Live Science в письме. По его словам, самоулучшающиеся компьютерные системы существуют уже десятилетия: эволюционные вычисления и обучение с подкреплением основаны на том, что системы совершенствуют свою работу в ответ на обратную связь. Куда более сложная задача — создать ИИ, способный самостоятельно вести исследования для разработки более мощных преемников, не говоря уже о преодолении зависимости от человеческого опыта и вычислительной инфраструктуры. «Нельзя „рекурсивно самоулучшаться“, если ты не можешь также улучшить собственное обучение, улучшить свое оборудование и тщательно проверить его в реальных условиях», — добавил Бентли.
Авторы работы признают часть этих трудностей. Для систем с RSI могут потребоваться огромные вложения в вычислительные мощности и человеческий надзор, чтобы каждое следующее улучшение давало реальный результат. Все это теряет смысл, если ресурсы на разработку и проверку новых моделей перевешивают выгоду от них, отмечают исследователи. Ученым также нужен надежный способ понять, действительно ли ИИ становится сильнее от итерации к итерации, а не обходит слабые места тестов — известная проблема в разработке ИИ, когда модели набирают высокие баллы за счет уязвимостей методик проверки или отбора результатов. Исследователь ИИ из Оксфордского университета и соучредитель Oxford China Policy Lab Кейла Бломквист отметила, что работа не дает практической дорожной карты к RSI, но помогает разработчикам и политикам понять технические сложности и риски безопасности все более автономных систем. Она также усомнилась в том, что когда-либо наступит четкий момент полной независимости ИИ от человека: «В работе описана постепенная передача ответственности, а не единый момент, так что очевидной „последней“ модели, построенной людьми, может никогда и не быть».