Фото: WIRED
Система Flock предупреждает сотрудников полиции при поиске по признакам, связанным с политическими, социальными и культурными высказываниями. Как пишет WIRED, запросы по религии и национальности должны блокироваться полностью. В компании заявили, что поиск с запрещенными характеристиками не будет выполнен.
Если предупреждение связано с надписью на одежде или наклейке на автомобиле, сотруднику предлагают подтвердить свои действия. Поисковый запрос фиксируется, а администратор получает уведомление. Для продолжения полицейский должен поставить отметку и оставить комментарий.
В Flock объяснили, что такой механизм позволяет проводить законные проверки. В качестве примера компания привела описание подозреваемого в куртке байкерской группировки с определенной эмблемой, флагом или знаком. Если сотрудник продолжает поиск, его действия направляются на проверку руководству подразделения.
Руководитель проекта по свободе выражения Центра демократии и технологий Кейт Руэйн отметила, что политические и культурные признаки сложно четко определить. По ее словам, подобные запросы могут использоваться, в частности, для установления участников протестных акций. При этом предупреждение не исключает выдачу результатов, если пользователь подтверждает поиск.
Эксперты также указывают, что ограничения можно обходить через поиск по одежде или другим внешним признакам. Например, запрет на запросы по религии не всегда мешает искать людей по характерному наряду. В прошлом году в Калифорнии запрос «американский флаг» был заблокирован при поиске человека, но затем его выполнили по автомобилям через сеть из 11 тысяч камер.
Доцент Калифорнийского университета в Сан-Диего Дипак Кумар считает, что фиксация таких действий полезна для контроля, но сама по себе не останавливает тех, кто намерен провести поиск. Эффективность системы зависит от того, проверяют ли администраторы случаи обхода предупреждений. По его словам, для безопасности необходимо контролировать не только поисковые запросы, но и результаты, которые выдает алгоритм.
