Исследователи рассматривают появление сверхинтеллектуальных систем искусственного интеллекта в ближайшие пять лет как реалистичный сценарий. Такие системы могут превзойти человека практически во всех важных когнитивных задачах.
Если подобные технологии появятся, спектр задач, которые им будут поручать, может значительно расшириться. Искусственный интеллект сможет выполнять сложные интеллектуальные операции быстрее и эффективнее человека.
Специалисты указывают, что именно высокая производительность систем может привести к росту доверия к их решениям. Люди могут начать передавать ИИ функции, связанные с выбором и управлением в разных сферах.
При увеличении зависимости от алгоритмов контроль со стороны человека способен ослабнуть. Этот процесс рассматривается как один из ключевых рисков дальнейшего развития сверхинтеллектуального искусственного интеллекта.
Ранее отдельно обсуждалась угроза применения ИИ в кибервойнах. Такая оценка также приводилась в публикации Science XXI.