Искусственный интеллект стремительно развивается, проникая во все сферы жизни общества. Еще в 1993 году ученый-компьютерщик и писатель-фантаст Вернор Виндж предсказал появление интеллекта, превосходящего человеческий, в течение ближайших 30 лет. Он утверждал, что это событие ознаменует конец эпохи человека. Сегодня, спустя три десятилетия, концепция искусственного общего интеллекта (AGI) перешла из области научной фантастики в реальность научных исследований и технологических разработок.
Тысячи специалистов и инвесторов работают над созданием AGI, способного решать задачи на уровне человеческого разума. Некоторые ученые предупреждают, что успешное создание такого интеллекта может ускорить завершение человеческой эры в ближайшем будущем. Футурологи отмечают вклад Винджа в популяризацию идеи “Сингулярности” – создания разума, выходящего за пределы человеческого понимания. Внедрение такого интеллекта может кардинально изменить мир, что Виндж сравнивал с “переломом, сопоставимым с появлением человеческой жизни на Земле”.
Роман Ямпольский, специалист по компьютерным наукам из Университета Луисвилля, отмечает, что как только машины начнут выполнять научные и инженерные задачи, прогресс станет настолько стремительным, что за ним будет невозможно угнаться. Он наблюдает, как исследователи публикуют свои открытия с такой скоростью, что становится трудно полностью осознать масштабы происходящего.
Создание AGI может открыть путь к сверхчеловеческому интеллекту, способному делать открытия с невиданной скоростью, превосходя любого современного специалиста. Этот интеллект, возможно, сможет создавать еще более продвинутые системы, что может привести к взрывному росту возможностей, если верить некоторым исследователям.
Эта перспектива вызывает тревогу, так как полное понимание поведения ИИ остается недостижимым, и это может представлять угрозу, по мнению Ямпольского. Он предполагает, что мы никогда не сможем полностью осознать все нюансы ИИ, и без должного контроля последствия могут быть катастрофическими.
Самир Сингх из Калифорнийского университета в Ирвине говорит о трудностях с определением и исследованием идей ИИ. Он также обеспокоен тем, что внимание к гипотетическому будущему отвлекает от текущих проблем, связанных с ИИ, включая расистские и сексистские проявления, а также нарушение авторских прав и конфиденциальности данных.
Реакция на перспективы развития искусственного интеллекта обнажает глубокие противоречия в сообществе, занимающемся созданием и контролем подобных систем. Некоторые ученые призывают к временному прекращению исследований и разработок новых систем ИИ, более мощных, чем GPT-4. Другие утверждают, что такие остановки могут замедлить прогресс и лишить человечество возможностей, которые могут изменить жизнь к лучшему.