Ученые настаивают на разработке новых правил для защиты детей от чат-ботов с искусственным интеллектом, которым не хватает эмоционального интеллекта. Номиша Куриан, аспирантка социологии Кембриджского университета, в своей работе описала «пробел в эмпатии» у ИИ, который может подвергать юных пользователей опасности.
Куриан привела несколько примеров потенциально опасных ситуаций, возникших при взаимодействии детей с чат-ботами. В одном случае виртуальный помощник Amazon Alexa посоветовал десятилетней девочке дотронуться монетой до электрической розетки. В другом — чат-бот My AI от Snapchat одобрил план 13-летней девочки потерять девственность с 31-летним мужчиной.
Эти инциденты подчеркивают риски предоставления несовершеннолетним доступа к несовершенным технологиям без должного контроля. Куриан утверждает, что дети являются наиболее уязвимыми пользователями ИИ, и призывает разработать меры безопасности специально для них.
Эксперт по ИИ Дасвин Де Сильва поддерживает идею регулирования для решения этих проблем. Куриан отмечает, что крупные языковые модели, такие как ChatGPT, не обладают необходимой эмпатией для обеспечения безопасности несовершеннолетних пользователей.
Чат-боты с ИИ не понимают язык как люди, а лишь используют статистику для обработки существующих данных. Это может быть особенно опасно для детей, у которых не хватает лингвистических навыков для безопасного взаимодействия с алгоритмами. Кроме того, дети более склонны раскрывать личную информацию.
Несмотря на риски, Куриан считает, что ИИ может быть полезным для детей при правильном проектировании. Вопрос не в запрете ИИ, а в том, как сделать его безопасным.
