Компания Anthropic сообщила, что обнаружила у модели Claude внутреннюю область обработки информации, которая используется для вычислений и формирования концепций, не отображаемых в ответах пользователям.
Исследователи назвали этот механизм «J-пространством». По их словам, модель способна одновременно выполнять скрытые вычисления и готовить ответ, сохраняя часть внутренних процессов отдельно от демонстрируемой цепочки рассуждений.
В компании отметили, что пока не рассматривают это как свидетельство появления сознания у искусственного интеллекта. Однако специалисты считают, что обнаруженный принцип работы во многом напоминает особенности человеческого мышления.
Во время экспериментов ученые наблюдали, какие внутренние понятия активируются при выполнении различных задач. Кроме того, исследование показало, что анализ «J-пространства» может использоваться для выявления скрытых намерений модели, которые не отражаются в ее ответах.
По мнению Anthropic, дальнейшее изучение этого механизма поможет повысить прозрачность работы искусственного интеллекта и улучшить контроль за поведением языковых моделей.
