Великобритания запускает программу сканирования лиц для определения возраста у просителей убежища. Внутренние тесты показали, что технология ошибается — и ошибается системно. Но бюрократическая машина уже набрала ход.
Что происходит. Министерство внутренних дел Великобритании внедряет автоматизированную систему age verification на базе компьютерного зрения. Устройство должно по лицу определить, старше или младше 18 лет заявитель. Проблема в том, что тесты выявили критическую разницу в точности для разных демографических групп. Например, система чаще ошибается на людях с более тёмным оттенком кожи.
Почему это важно. Это не лабораторный эксперимент — на кону судьбы реальных людей. Ошибочное определение «взрослый» может привести к помещению несовершеннолетнего в общие центры для взрослых, к отказам в защите по возрасту. Ошибка в обратную сторону — к излишней опеке и затягиванию процедуры.
Контекст. Подобные системы уже тестировались для проверки возраста при покупке алкоголя онлайн — и там тоже были жалобы на расовую предвзятость. Но в миграционной сфере цена ошибки на порядок выше. Британское правительство признаёт проблему, но продолжает развёртывание, ссылаясь на то, что «технология улучшится со временем». Удобная формулировка, когда терять время некому.
Для пользователей — пока лишь сигнал: алгоритмические решения, принимаемые государством, редко бывают нейтральными. Если уж в стране с сильным надзором за AI внедряют сырой продукт, значит, приоритет — скорость, а не точность. Следите за тем, как ваши лица используются в системах принятия решений. Завтра это может коснуться не только мигрантов.
#биометрия #Великобритания #AI #правачеловека
