В Великобритании 26-летний инженер-программист Алви Чоудхури был арестован из-за ошибки системы распознавания лиц на базе искусственного интеллекта. Полиция долины Темзы обвинила его в краже ювелирных изделий стоимостью 3000 фунтов стерлингов, которой он не совершал.
Хронология инцидента
Задержание произошло 7 января в Саутгемптоне, в доме Чоудхури. Система сравнила его фото из полицейской базы данных — сделанное пять лет назад во время другого ложного ареста — с записью камеры видеонаблюдения с места преступления в Милтон-Кинсе.
Во время допроса абсурдность ситуации проявилась сразу. «Офицерша призналась мне, что еще до начала интервью она поняла, что я не тот подозреваемый. Она увидела мои фото с места задержания и видеозапись с камер — и сразу все поняла», — рассказал Чоудхури.
Обвинения в дискриминации и критика технологии
Пострадавший подал иск в суд против полиции, обвиняя в расовой дискриминации. «Это еще больше беспокоит, потому что это, вероятно, расовая дискриминация. Вы, наверное, просто увидели двух смуглых людей, хотя они имеют абсолютно разные черты лица, и сказали: „Да, они похожи. Давайте их арестуем“», — подчеркнул он.
Чоудхури раскритиковал и саму систему. «Ни одна технологическая компания никогда не запустила бы в производство систему с коэффициентом отказов один к 25. Это ужасно. Она полна багов», — заявил мужчина.
Полиция долины Темзы извинилась за неудобства. В то же время она заверила, что арест не был незаконным, поскольку основывался на «собственной визуальной оценке следователей».
Статистика Министерства внутренних дел подчеркивает проблему:
- Для людей с темным цветом кожи доля ложных совпадений — 5,5%.
- Для людей с белым цветом кожи — лишь 0,04%.
Правозащитники призывают правительство Британии немедленно урегулировать использование ИИ в работе полиции.
Олексій Паламарчук