Перспектива моделей, способных самостоятельно совершенствовать себя и создавать новое поколение систем, становится ближе. Разработчики называют такой цикл рекурсивным самоулучшением и рассматривают его как инструмент для исследований, но отмечают необходимость мер безопасности.
Claude сейчас отвечает за 26% работ Anthropic по исследованию и разработке следующей модели. Компания сообщает, что ИИ способен проходить путь от высокоуровневого задания до готового результата, хотя полной автономности еще нет.
Часть исследователей считает, что начальные формы процесса существуют уже несколько лет: модели помогают писать код для следующих систем. При этом эксперименты пока давали постепенные улучшения, а не крупные самостоятельные открытия.
По данным Associated Press, OpenAI намерена перейти от автоматического исследовательского помощника к ИИ-исследователю к марту 2028 года. Лаборатория признает, что безопасность и согласование поведения могут не успевать за ростом возможностей.
Илон Маск связывал полную автоматизацию Grok с концом 2026-го или 2027 годом. Microsoft не стремится к безграничной автономности и описывает свою цель как тщательно ограниченный «гуманистический сверхинтеллект», служащий людям.