Policja zalicza wpadkę z biometrią – niewinny mężczyzna aresztowany przez błąd algorytmu

Brytyjska policja bezpodstawnie aresztowała mężczyznę na podstawie błędnego dopasowania wygenerowanego przez zautomatyzowany system rozpoznawania twarzy. Sytuacja obnaża poważne luki w technologiach biometrycznych dostarczanych służbom państwowym oraz ich znaczące odchylenia w analizie rysów twarzy mniejszości etnicznych. To zmusza administrację rządową do pilnego zrewidowania procedur i inwestycji w nową, niezależnie testowaną infrastrukturę analityczną.

Według informacji dziennika “The Guardian”, w styczniu funkcjonariusze Thames Valley Police zatrzymali dwudziestosześcioletniego inżyniera oprogramowania z Southampton za włamanie popełnione ponad sto pięćdziesiąt kilometrów dalej. Podstawą ujęcia było fałszywe wskazanie algorytmu biometrycznego, który powiązał jego wizerunek z nagraniem z monitoringu, mimo widocznych różnic w wieku i wyglądzie. Mężczyzna domaga się teraz odszkodowania za spędzenie w areszcie niemal dziesięciu godzin. Poszkodowany Alvi Choudhury bezpośrednio wskazuje na uprzedzenia rasowe zaszyte w technologii, zauważając:

„Założyłem po prostu, że oficer śledczy zobaczył ciemnoskórego człowieka z kręconymi włosami i podjął decyzję o moim aresztowaniu”.

Brytyjskie służby śledcze na masową skalę wykorzystują algorytmy pozyskane przez brytyjskie MSW (Home Office) od niemieckiego przedsiębiorstwa technologicznego Cognitec. Oprogramowanie wykonuje miesięcznie około dwudziestu pięciu tysięcy zapytań, przeszukując bazę ponad dziewiętnastu milionów zdjęć policyjnych. Przeprowadzone w grudniu ubiegłego roku badania wykazały jednak fatalną skuteczność tych systemów wobec określonych grup demograficznych. Narzędzie generuje drastycznie wyższy odsetek fałszywych dopasowań dla twarzy osób ciemnoskórych – na poziomie pięciu i pół procent – oraz azjatyckich, osiągając cztery procent. Dla porównania błąd weryfikacji w przypadku osób rasy białej wynosi zaledwie cztery setne procenta. Ruch ten nie jest odosobniony, a organy nadzoru ostrzegają przed wbudowaną stronniczością sprzętu.

Kompromitacja obecnego systemu wymusza na brytyjskich władzach podjęcie natychmiastowych kroków naprawczych, co wiąże się z koniecznością poniesienia znacznych kosztów na modernizację infrastruktury informatycznej. Home Office oficjalnie zapowiada budowę całkowicie nowego, krajowego systemu dopasowywania twarzy, który ma bazować na udoskonalonym i niezależnie przetestowanym algorytmie. Czas pokaże, czy to innowacyjne rozwiązanie technologiczne zostanie wdrożone bez błędów, czy raczej zasili rosnącą listę opóźnionych projektów rządowych. Obecnie tamtejszy Inspektorat Policji prowadzi szczegółowy przegląd wytycznych, mający na celu zminimalizowanie uchybień operacyjnych i odbudowę zaufania publicznego do identyfikacji biometrycznej. Wdrożenie zaktualizowanego narzędzia analitycznego planowane jest najwcześniej pod koniec 2026 roku.