“Потенциальная опасность, исходящая от беспрепятственного развития искусственного интеллекта, может привести к мировой катастрофе”, – предупреждает британский ученый Стюарт Рассел в интервью Times.
Рассел указывает, что необдуманные исследования в области искусственного интеллекта привели нас к ступени прогресса, которую мы сами не предвидели. Согласно его мнению, первоначальная ошибка заключалась в том, что мы не осознавали, какую роль будет играть этот интеллект. Рассел также предполагает, что в будущем сверхинтеллектуальные машины могут отказаться подчиняться человеческому контролю.
“Как мы можем управлять сущностями, которые превосходят нас в мощи? Если у нас нет ответа на этот вопрос, нам следует прекратить исследования. Это просто вопрос выживания. Если мы не можем контролировать развитие нашей собственной цивилизации, мы рискуем потерять возможность влиять на наше будущее”, – подчеркивает ученый.
Рассел предупреждает, что появление универсального искусственного интеллекта, способного решать любые задачи на уровне человека, может произойти в течение следующего десятилетия. Такие программы, решая глобальные проблемы, например, климатические, могут прийти к выводу, что идеальным решением будет избавление от человечества, беспокоится он.
“Обучая ИИ имитировать человеческое поведение, мы, по сути, обучаем его формулировать и достигать человеческие цели. Эти цели могут быть очень разными… И представьте себе хаос, который могли бы вызвать эффективные системы, преследующие такие цели”, – заключает он.
Ранее американский миллиардер Илон Маск также выразил опасения, что ИИ неминуемо станет неконтролируемым, обладая способностью уничтожить человечество.
