Иск подростков к школе и Omnilert из-за ошибочного ИИ-сигнала вызвал вопросы

20 ноября 2026, 05:20 ·
Фото: сайт Ars Technica

Компания Omnilert изучает жалобу, поданную после инцидента с четырьмя школьниками 20 октября 2025 года. Вице-президент Omnilert по маркетингу Блейк Митчелл заявил Ars Technica, что произошедшее не должно было случиться. По его словам, компания сожалеет о страхе, который пережили подростки и их семьи, и понимает их желание получить ответы.

Митчелл пояснил, что система Omnilert направляет любые объекты, которые могут оказаться огнестрельным оружием, обученным специалистам для проверки. Он отметил, что пропуск настоящего оружия считается наиболее опасным сценарием. Представитель компании также сослался на расследование инспектора и заявил, что оно не выявило предвзятости в работе системы.

По словам Митчелла, сотрудники школы, отвечавшие за безопасность, проверили сигнал и отменили его примерно через две минуты. После этого все получившие уведомление были проинформированы об отмене. Представитель Omnilert считает, что этот случай показывает важность человеческой проверки и необходимость сохранять отменённое предупреждение в отменённом статусе.

Лен Камданг из Комитета юристов, представляющего интересы подростков, сообщил The New York Times, что школьники хотят признания со стороны школьного округа Балтимора и Omnilert. По их словам, произошедшее с ними было недопустимым. Камданг заявил, что ситуация связана с тем, как люди позволили искусственному интеллекту заменить собственную оценку обстоятельств.

Мать одного из подростков Фрида Уинфилд рассказала местному телеканалу, что была потрясена случившимся. Она отметила, что заранее учила сына осторожно вести себя при встрече с полицией, и назвала такую осторожность причиной, которая, по её мнению, спасла жизнь школьникам. «Я была зла. Мне было страшно», — сказала Уинфилд, подчеркнув, что особенно опасалась за молодых чернокожих мужчин, которые находились в школе и не понимали происходящего.

Камданг назвал ситуацию крайне пугающей для любой семьи и особенно опасной для молодого чернокожего школьника в США. Комитет юристов выступает за реформу работы полиции в случаях, когда сотрудники или чиновники без проверки доверяются искусственному интеллекту. Организация также предупредила о более широкой проблеме надёжности технологий на основе искусственного интеллекта в сфере общественной безопасности, где ошибки могут иметь жизненно важные последствия.