Европейский союз намерен запретить чат-ботам имитировать эмоции и межличностные отношения при общении с пользователями младше 18 лет. Эта мера должна снизить риск эмоциональной зависимости детей от технологий. Ограничения войдут в предложенный в четверг закон EU Kids Act (закон ЕС о защите детей в цифровой среде).
Согласно проекту, с которым ознакомилось издание WIRED, детям до 13 лет запретят пользоваться чат-ботами без контроля родителей или опекунов. Цифровые платформы также обяжут заранее встраивать в свои продукты механизмы защиты несовершеннолетних. За нарушение требований компаниям может грозить штраф до 6% их общего мирового оборота.
Новые правила могут запретить чат-ботам, работающим в ЕС, сохранять сведения о взаимодействии между разными диалогами. Еврокомиссия опасается, что длительное накопление чувствительных данных о детях способно закреплять вредные модели общения. Платформам социальных сетей, видеосервисам и игровым площадкам также не разрешат автоматически включать чат-ботов или подталкивать несовершеннолетних к их использованию.
В частности, искусственных собеседников нельзя будет закреплять в верхней части списка контактов ребёнка, как это делал Snapchat. Предложение касается AI companions (цифровых компаньонов) и обычных разговорных чат-ботов, которые Еврокомиссия считает особенно опасными для здоровья, безопасности и благополучия несовершеннолетних. Советник брюссельской организации European Digital Rights Симеон де Брауэр поддержал эти меры, но заявил, что подобная защита нужна не только детям: «Разве мы все не заслуживаем защиты от ИИ, созданного для формирования зависимости, от ИИ, который создаёт эмоциональную зависимость, или от функций ИИ, которые по умолчанию активируются и навязываются пользователям?»
Еврокомиссия связывает зависимость от чат-ботов с возможным ущербом для развития детей и их отношений с другими людьми. Кроме того, системы могут давать несовершеннолетним опасные советы о психическом здоровье и личностном развитии, влияя на рискованное поведение. «Платформы слишком легкомысленно относились к психическому здоровью детей», — сказала в четверг на пресс-конференции председатель Еврокомиссии Урсула фон дер Ляйен.
По данным опроса Ipsos BVA, проведённого во Франции, Германии, Швеции и Ирландии, около половины европейцев в возрасте от 11 до 25 лет обсуждали с чат-ботами личные или интимные темы. Еврокомиссия также указала на угрозу дипфейков — созданных искусственным интеллектом поддельных изображений, включая сексуализированные материалы. При этом действующие нормы ЕС требуют маркировать синтетический контент как созданный ИИ с августа, но пока распространяются только на дипфейки, изготовленные в коммерческих целях. Более широкие ограничения на вызывающий зависимость дизайн Евросоюз рассчитывает предложить в рамках Digital Fairness Act (закона о цифровой справедливости), который должен быть представлен позднее в этом году.