Руководитель Института исследований машинного интеллекта Нейт Соарес оценил вероятность исчезновения человечества вследствие развития искусственного интеллекта более чем в 50%. Речь идет о возможном сценарии в течение ближайших десяти лет, то есть к 2036 году. Об этом сообщает Business Insider со ссылкой на интервью Соареса главе The Atlantic Николасу Томпсону.
Соарес пояснил, что его опасения связаны с возможным появлением достаточно развитого искусственного интеллекта, способного формировать цели, не совпадающие с человеческими интересами. По представленному им сценарию такая система сможет преодолеть действующие ограничения и начать самостоятельно совершенствовать свои возможности. В конечном итоге это может привести к преобразованиям на планете, несовместимым с жизнью людей.
Серьезность своей оценки эксперт проиллюстрировал личным решением: около десяти лет он не пополняет пенсионные накопления. При этом Соарес не считает исчезновение человечества неизбежным. Его оценка вероятности отражает опасения относительно будущего развития технологий, а не установленный прогноз наступления катастрофы.
В качестве меры предотвращения возможных рисков руководитель института предложил правительствам прекратить обучение универсальных систем искусственного интеллекта. Вместо этого он призвал сосредоточить разработки на решении конкретных задач, включая исследования рака и повышение безопасности беспилотных автомобилей. Соарес подчеркнул, что продолжает работать над предотвращением неблагоприятного сценария.