В иске Эммы Доу утверждается, что Google использует доминирующее положение в американских школах, сохраняющееся с 2007 года, чтобы продвигать среди детей технологии искусственного интеллекта и получать их данные. Автор иска считает, что компания недостаточно защищает учащихся от возможного вреда, связанного с чрезмерно льстивой манерой общения чат-бота. Об этом сообщила Ars Technica.
В Чикаго школьная система CPS заключила соглашение с Google в 2020 году, ещё до запуска Gemini. По оценке Кресвелла, последующие два продления договора не содержали новых мер для защиты конфиденциальности учащихся. Это происходило на фоне развития технологий искусственного интеллекта.
Кресвелл назвал полностью неясным вопрос о том, как именно изменились правила обработки ученических данных со стороны Google. При этом в договоры внесли обновления только в части политики конфиденциальности Google Workspace for Education. Из документов не следовало, каким образом эти изменения могли повлиять на использование информации школьников.
Действующая политика предусматривает, что Google получает данные клиентов через основные сервисы и обрабатывает их в соответствии с указаниями школы. К таким сведениям относятся материалы, которые пользователи или учебное заведение отправляют, хранят, пересылают или получают через эти сервисы, а также данные аккаунта — имя, адрес электронной почты и пароль. Кроме того, компания собирает сведения о местоположении и информацию об активности пользователей.
В документе отдельно не упоминается Gemini, однако сказано, что данные основных сервисов применяются для их поддержки, персонализации и повышения безопасности. Информация, полученная через дополнительные сервисы, может использоваться для работы и совершенствования продуктов, создания новых услуг, персонализации, оценки эффективности, связи с пользователями и защиты Google, клиентов и общества. Кресвелл считает, что данные детей, собранные в школах, не должны использоваться в коммерческих целях.