Специалисты по этике из Кембриджского университета предупреждают, что искусственный интеллект в скором времени сможет предугадывать и влиять на наши решения на ранней стадии их формирования, продавая эти «намерения» компаниям в режиме реального времени. Это явление получило название «Экономика намерений», где цифровые сигналы о намерениях человека — от покупки билетов в кино до голосования — становятся весьма прибыльным товаром, сообщает Университет Кембриджа.
Эксперты из Центра будущего интеллекта имени Левергульма (LCFI) отмечают, что стремительное развитие генеративного ИИ и растущая зависимость от чат-ботов знаменуют начало новой эры «убеждающих технологий». Эти разработки, по их мнению, соответствуют недавним стратегическим шагам крупных технологических компаний.
Антропоморфные ИИ-агенты, включая чат-ботов, цифровых репетиторов и виртуальных собеседников, получат доступ к огромному количеству личных психологических и поведенческих данных, собранных через неформальные разговоры. Они будут сочетать знания о наших онлайн-привычках со способностью настраиваться на нас комфортным образом, имитируя личности и предугадывая желаемые ответы.
Доктор Якуб Чаудхари из LCFI подчеркивает, что значительные ресурсы направляются на внедрение ИИ-ассистентов во все сферы жизни, что поднимает вопрос о том, чьим интересам они служат. То, как люди общаются и какие выводы можно сделать в реальном времени, гораздо более интимно, чем просто записи онлайн-взаимодействий.
В новой статье для Harvard Data Science Review исследователи пишут, что экономика намерений станет экономикой внимания, спроецированной во времени. Крупные языковые модели могут использоваться для анализа речи пользователя, его политических взглядов, словарного запаса, возраста, пола и истории онлайн-активности.
Исследователи отслеживают ранние признаки этой тенденции через опубликованные исследования и заявления крупных технологических компаний. OpenAI, Shopify, Nvidia и Meta (признана экстремистской организацией, деятельность в России запрещена) уже проявляют интерес к технологиям понимания человеческих намерений. Apple в 2024 году представила новую систему разработки для Siri, включающую протоколы для прогнозирования будущих действий.
Эксперты подчеркивают, что эти разработки не обязательно негативны, но имеют потенциал для деструктивного использования. Ключом к предотвращению нежелательных последствий является информирование общественности о грядущих изменениях.
