Искусственный интеллект быстро меняется, а вместе с ним появляется новая профессиональная лексика. В обсуждениях разработчиков, инвесторов и технологических компаний регулярно звучат термины LLM, RAG и RLHF. Одним из новых понятий стала «непрозрачная рекуррентность» — метод рассуждений, который связывают с моделью OpenAI Astra и который вызвал обеспокоенность специалистов по безопасности ИИ.
Одним из ключевых понятий остается искусственный общий интеллект, или AGI. Обычно под ним понимают систему, способную выполнять большинство задач не хуже человека или превосходить его в широком круге интеллектуальной деятельности. При этом единого определения AGI нет: разные компании и исследовательские центры трактуют его по-разному.
ИИ-агентом называют программу, которая самостоятельно выполняет последовательность действий для достижения цели. Такие системы могут бронировать билеты, оформлять расходы, работать с кодом и обращаться к сторонним сервисам. Для взаимодействия с другими программами агенты используют API — специальные интерфейсы, которые позволяют получать данные или запускать функции без ручного управления.
Большие языковые модели, или LLM, лежат в основе популярных ИИ-помощников. Они обучаются на огромных массивах текстов и с помощью миллиардов числовых параметров определяют связи между словами и фразами. При обработке запроса модель формирует наиболее вероятное продолжение, опираясь на закономерности, найденные во время обучения.
Для повышения точности ИИ применяет цепочку рассуждений: сложная задача разбивается на несколько промежуточных этапов. Такой подход особенно полезен при решении логических задач и написании программ, хотя обработка запроса может занимать больше времени. Отдельное направление связано с «непрозрачной рекуррентностью», при которой запрос многократно проходит через внутренние слои модели, а понятных человеку промежуточных рассуждений остается меньше.
К другим распространенным терминам относятся обучение с подкреплением, дообучение, инференс и галлюцинации. Обучение с подкреплением позволяет системе корректировать поведение на основе сигналов о правильности результата, дообучение адаптирует модель под конкретную задачу, а инференс означает непосредственный запуск модели для получения ответа. Галлюцинациями называют случаи, когда ИИ создает недостоверную информацию, поэтому результаты его работы требуют проверки.
