Современные системы искусственного интеллекта уже способны поддерживать диалоги, решать сложные математические задачи и демонстрировать поведение, напоминающее человеческое. На этом фоне вопросы о возможном сознании ИИ постепенно переходят из области научной фантастики в сферу научных дискуссий. Об этом пишет Live Science.
В недавно опубликованной препринт-работе исследователи изучили метод настройки ИИ, который влияет на то, как модель рассуждает о самосознании. Такой подход получил название «управление сознанием». Учёные проверяли, как заявления модели о собственной осознанности отражаются на других её убеждениях.
Результаты показали, что при возможности заявлять о наличии сознания искусственный интеллект чаще выражал веру в призраков и вампиров. При этом наиболее продвинутые модели с включёнными защитными механизмами пока не способны воспринимать сознание других разумных существ, включая людей и животных.
Авторы работы отмечают, что подобная особенность может иметь различные последствия. Исследование пока не прошло экспертную оценку и опубликовано только в виде препринта. Тем не менее оно поднимает вопрос о том, способен ли ИИ когда-нибудь обрести настоящее сознание, а не просто имитировать соответствующие заявления.
Отдельной проблемой остаётся возможность распознать сознание у технологии, если оно действительно появится. Исследователи предлагают обсудить, какие признаки могли бы подтвердить наличие самосознания у искусственного интеллекта.