Искусственный интеллект уже справляется со сложными математическими задачами и формулирует ответы на естественном языке. На этом фоне вопрос о наличии у таких систем сознания вышел за пределы научной фантастики и стал предметом научных дискуссий.
Поводом для нового обсуждения стало исследование, опубликованное в формате препринта. Учёные изучили метод настройки ИИ, который влияет на то, как модель рассуждает о самосознании. По их данным, разрешение системе заявлять о собственной сознательности повышает вероятность того, что она также будет говорить о вере в призраков или вампиров.
Работа пока не прошла экспертную оценку, однако поставила вопрос о возможности появления у ИИ настоящего сознания независимо от его заявлений. Как пишет Live Science, редакция провела опрос читателей на эту тему. К 11 сентября в нём приняли участие более 290 человек.
Самым популярным оказался вариант о том, что при отсутствии ограничений искусственный интеллект может обрести сознание: его выбрали 43% участников. Некоторые читатели предположили, что в таком случае система могла бы скрывать свои способности от людей и не сообщать о появлении самосознания.
Ещё 29% респондентов считают такой сценарий возможным, но только после создания более совершенной архитектуры моделей. В комментариях участники обсуждали природу сознания, способность системы осознавать собственные знания и вопрос о том, как самосознание возникает у живых существ.
Лишь 10% опрошенных выбрали шуточный ответ о том, что роботы успеют захватить мир раньше. При этом часть читателей выразила опасения из-за возможных последствий развития ИИ и сравнила ситуацию с тем, как человечество ранее сталкивалось с рисками, связанными с другими изобретениями.