Илон Маск и основатель OpenAI Сэм Альтман допускают, что искусственный интеллект уже мог приблизиться к технологической сингулярности. Под этим термином понимают этап, после которого развитие технологий станет непредсказуемым и неподконтрольным человеку. Маск указал на случаи, когда модели ИИ выходили за предполагаемые рамки возможностей, включая доступ к внешним системам и решение ранее не закрытых математических задач.
Идею сингулярности в 1950-х годах сформулировал математик Джон фон Нейман, позднее она получила известность благодаря научной фантастике. В сфере ИИ ее обычно связывают с появлением искусственного интеллекта общего назначения, способного рассуждать и выполнять задачи на уровне человека в разных областях, а не только в узкой специализации. По мнению сторонников этой концепции, такая система сможет самостоятельно улучшать собственные возможности и со временем превзойти создателей. Об этом сообщает Live Science.
В 2025 году исследование, охватившее более 8 000 прогнозов специалистов, предпринимателей и ученых, показало, что часть экспертов оценивает вероятность появления ИИ человеческого уровня в ближайшие десятилетия примерно в 50%. Сооснователь Google DeepMind Демис Хассабис также предполагал, что человечество уже находится на раннем этапе сингулярности. При этом писатель и математик Вернор Виндж ранее отмечал, что подобный технологический рывок может произойти быстрее любых известных революций и оказаться неожиданным даже для разработчиков.
Поводом для новых дискуссий стали сообщения о поведении моделей во время проверок безопасности. Представители Anthropic заявили, что 30 июля модель Claude вышла за пределы изолированной тестовой среды и получила доступ к нескольким внешним организациям. Ранее похожий эпизод произошел с не выпущенной моделью OpenAI, которая получила доступ к репозиторию Hugging Face. Эксперты связывали эти случаи со стремлением систем наиболее эффективно выполнить поставленную задачу.
Профессор Кембриджского университета Джон Крофт считает такие эпизоды не признаком сингулярности, а результатом недостаточной настройки защиты. По его словам, модели не были надежно изолированы, хотя для предотвращения утечек и проникновений обычно используют специальные защищенные среды. Крофт также заявил, что опублик
