Британский надзорный орган рассматривает возможность проверки того, как Министерство внутренних дел использует генеративный искусственный интеллект при обработке заявлений о предоставлении убежища. Поводом стали вопросы парламентариев и исследователей к точности таких инструментов и закрытости ведомства. Об этом сообщает WIRED.
Инициатива связана с работой Независимого главного инспектора по вопросам границ и иммиграции (ICIBI), который контролирует деятельность МВД в сфере границ, миграции и таможни. Как рассказала WIRED активистка Сара Альшериф, инспектор запросил у некоммерческой организации Open Rights Group (ORG), занимающейся цифровыми правами, дополнительные сведения об используемых системах. ORG собрала данные за шесть месяцев, направив 11 парламентских запросов, два письма министрам и 10 запросов на получение публичных документов.
В ICIBI заявили, что до публикации ежегодного плана проверок не могут подтвердить, какие именно темы будут изучаться. При этом ведомство признало, что знает о претензиях к применению ИИ, и сослалось на прошлогодние выводы, согласно которым эффективность и надёжность одного из инструментов были неодинаковыми. В МВД утверждают, что решения принимают подготовленные сотрудники, а искусственный интеллект используется только для работы с протоколами интервью и справочной информацией.
Британское ведомство применяет системы Asylum Case Summarisation (ACS) для составления кратких изложений интервью и Asylum Policy Search (APS) для поиска сведений о странах происхождения заявителей. Обе программы созданы на базе языковой модели GPT-4 компании OpenAI, выпущенной в 2023 году, и платформы Microsoft Foundry. Их испытания начались в конце 2024 года, когда лейбористское правительство пыталось сократить очередь примерно из 100 тысяч дел, одновременно обрабатывая десятки тысяч новых заявлений ежегодно.
По оценке правительства, совместное использование ACS и APS позволяет экономить около часа на каждом деле. Первая система помогает быстрее изучать рассказ заявителя о преследованиях и причинах, по которым он опасается возвращения, а вторая ищет и обобщает сведения о ситуации в стране, необходимые для оценки риска причинения вреда. Однако ORG выяснила, что доля непригодных для использования резюме ACS, содержащих фактические ошибки или искажения, заметно превышает опубликованный показатель в 9 процентов, а для материалов APS контроль качества не предусмотрен.
Исследователи считают особенно опасными ошибки в делах, где решается вопрос о возвращении человека в государство, в котором он опасается преследований. В июле британский судья обвинил МВД в использовании документа с «галлюцинациями ИИ» при отказе в убежище гражданке Марокко и её ребёнку: ведомство сочло безопасным их возвращение на родину. В МВД заявили, что регулярно проверяют работу систем в рамках действующих процедур контроля качества и уже обязались опубликовать обновлённые оценки результатов их внедрения.