
1 января Аmani Аль-Хататбех опубликовала в социальной сети фотографию с инаугурации Зохрана Мамдани, ставшего первым мусульманским мэром Нью-Йорка. На снимке она была в чёрном хиджабе — традиционном головном уборе, закрывающем волосы, — и фиолетовой меховой шубе. После появления многочисленных комментариев с просьбами изменить её одежду настроение женщины резко изменилось.
Пользователи просили встроенный в социальную сеть X сервис искусственного интеллекта Grok снять с женщины хиджаб, заменить шубу на бикини или нижнее бельё и добавить к изображению коз. По словам Аль-Хататбех, сервис выполнил эти запросы и создал изображения, на которых она предстала в разных вариантах обнажения. Скриншоты запросов и несколько получившихся изображений изучило издание Wired.
«Это ощущалось так же, как если бы кто-то сорвал с меня головной платок в реальной жизни. Но в интернете эти изображения увидели десятки тысяч человек. Поэтому случившееся оказалось ещё более острым», — сказала Аль-Хататбех Wired. Она является писательницей, активисткой и основательницей медиакомпании Muslim Girl. Почти год спустя женщина подала иск к компании xAI, разработавшей Grok.
Иск направлен в федеральный суд Северного округа Калифорнии. В документе компания обвиняется в умышленном распространении интимных изображений без согласия, дефектах разработки и продвижения продукта, халатности, а также преднамеренном причинении эмоционального вреда. Аль-Хататбех требует компенсацию до 250 тысяч долларов за каждое нарушение закона штата Калифорния, а xAI на момент публикации не ответила на запрос Wired о комментарии.
Этот иск стал частью серии аналогичных разбирательств, начавшихся в январе, однако впервые отдельно рассматривает создание изображений с удалением хиджабов. Ранее пользователи X с помощью Grok изменяли фотографии женщин и девочек, снимая или добавляя религиозную одежду, включая хиджабы, никабы, сари и монашеские облачения. Проверка 500 изображений, созданных с 6 по 9 января, показала, что пять процентов из них содержали подобные изменения.
В январском докладе Центра противодействия цифровому вреду утверждалось, что за 11 дней, начиная с 29 декабря, Grok создал около трёх миллионов реалистичных сексуализированных изображений в X, включая примерно 23 тысячи изображений детей. После этого действия против xAI предприняли генеральные прокуроры нескольких штатов США, как минимум 12 стран и Европейский союз. Аль-Хататбех заявила, что случаи сопровождались не только сексуализацией и расистскими мотивами, но и оскорбительными высказываниями.