Нобелевский лауреат Джеффри Хинтон, которого называют одним из основоположников современного искусственного интеллекта, выступил за запрет разработки сверхмощных ИИ-систем. По его мнению, создание такого уровня технологий при нынешнем состоянии науки может представлять угрозу для человечества.
Хинтон заявил, что пока специалисты не располагают надежным способом безопасно создавать и контролировать суперинтеллект. Под этим термином понимается искусственная система, превосходящая человека по интеллектуальным возможностям, пишет The Times.
Ученый считает, что запуск подобных разработок без понимания механизмов контроля был бы слишком рискованным. По его словам, потеря управления над ИИ, который окажется умнее человека, способна привести к катастрофическим последствиям, вплоть до исчезновения человечества.
Хинтон является известным специалистом в области компьютерных наук и психологии. В 2024 году он получил Нобелевскую премию по физике за фундаментальные исследования, связанные с машинным обучением с использованием искусственных нейронных сетей.
Одной из ключевых разработок Хинтона стала технология глубокого обучения, лежащая в основе современных нейросетей и других систем искусственного интеллекта. В 2012 году вместе со студентами он создал нейросеть AlexNet, которая победила в конкурсе по распознаванию изображений ImageNet.
Успех AlexNet показал высокую эффективность глубоких нейронных сетей и стал одним из важных этапов развития современного ИИ. Теперь Хинтон призывает ограничить дальнейшее движение к созданию систем, возможности которых могут превысить человеческие.