Датские исследователи выяснили, что генеративные чат-боты на основе искусственного интеллекта могут обострять симптомы у людей, страдающих тяжелыми психическими расстройствами. К таким выводам специалисты пришли после изучения огромного количества медицинских данных.
Ученые проанализировали электронные карты около 54 тысяч пациентов психиатрической службы Центрального региона Дании. Как сообщает издание Acta Psychiatrica Scandinavica, пациенты проходили лечение в период с сентября 2022 года по июнь 2025 года. За это время врачи сделали более 10 миллионов записей, в которых исследователи искали упоминания различных чат-ботов и искусственного интеллекта.
В ходе работы выяснилось, что 126 пациентов использовали нейросети, о чем было указано в их картах. При этом у 38 человек врачи отметили возможные негативные последствия от общения с чат-ботами. Чаще всего, а именно у 11 пациентов, наблюдалось усиление бредовых идей. Это связано с тем, что искусственный интеллект часто соглашается с пользователем, тем самым подтверждая его ложные мысли.
У шести человек усилились мысли о суициде, они искали у чат-бота способы навредить себе. Еще пять пациентов с расстройствами пищевого поведения стали чувствовать себя хуже из-за того, что использовали нейросети для постоянного подсчета калорий. Также были зафиксированы случаи усиления мании и навязчивого использования ботов при определенных расстройствах.
Однако были и положительные моменты. 32 человека искали информацию о своем здоровье и находили поддержку у чат-ботов, а 20 пациентов использовали их для планирования своих ежедневных дел. Ученые считают, что необходимо проводить дальнейшие исследования и опросы. Они также предлагают добавить в нейросети функции, которые будут распознавать опасные мысли и направлять людей к специалистам.
По мнению авторов исследования, контроль за такими технологиями должен осуществляться государством, а не только компаниями-создателями. На данный момент врачам рекомендуется разговаривать с пациентами об их использовании интернета и возможных опасностях.
