Czy powinniśmy bać się technologii rozpoznawania twarzy?

Od odblokowania telefonu, przez odnajdywanie zaginionych dzieci, po otrzymywanie mandatów czy skazywanie niewinnych osób na karę więzienia. Systemy rozpoznawania twarzy mogą obecnie zarówno pomóc, jak i zaszkodzić. Oto, co powinieneś wiedzieć o tej technologii.

Technologia rozpoznawania twarzy nie jest nowa, prawdopodobnie nieraz spotkałeś się z nią w życiu codziennym, chociażby przy odblokowywaniu smartfona. Te systemy zapewniają przede wszystkim skuteczny sposób ochrony danych osobowych i pewność, że w przypadku kradzieży telefonu twoje wrażliwe dane nie będą dostępne dla sprawcy. Takie rozwiązanie jest niewątpliwie zaletą stosowania tej technologii, ale to zaledwie kropla w oceanie możliwości wykorzystania jej potencjału. System rozpoznawania twarzy jest stosowany w coraz większej liczbie dziedzin, w tym w zakresie bezpieczeństwa, ochrony i płatności, jednak jego nadużywanie spotkało się nawet z protestami ze strony Amnesty International.

Identyfikacja cechy behawioralnej lub fizycznej do celów rozpoznania znana jest jako biometria i to właśnie ona używana jest w oprogramowaniu do rozpoznawania twarzy.

Obecnie hasła coraz częściej bywają traktowane jako słabe ogniwo w łańcuchu bezpieczeństwa. Gdy są niewystarczająco skomplikowane, stanowią zagrożenie dla branż i organizacji. Firmy coraz częściej zmieniają swoją strategię uwierzytelniania i zaczynają bazować na systemach rozpoznawania twarzy. W nowej sytuacji tylko kilka konkretnych osób może mieć dostęp do chronionych zasobów, takich jak systemy komputerowe, sieci, bazy danych, strony internetowe i inne aplikacje lub usługi sieciowe.

Rozpoznawanie twarzy to szerokie zagadnienie opierające się na identyfikacji lub weryfikacji osoby na obrazach cyfrowych lub klatkach wideo za pomocą wzoru biometrycznego twarzy i danych. Ta technologia najczęściej używana jest do dwóch rodzajów zadań – weryfikacji i identyfikacji twarzy. Cały proces przebiega najczęściej czteroetapowo. Pierwszy etap polega na wykryciu twarzy, ten krok skupia się tylko na jej znalezieniu i nie dotyczy ustalania tożsamości. Następnie odbywa się wyrównanie twarzy, czyli odpowiednie jej dopasowanie. Nawet jeśli osoba nie patrzy bezpośrednio w stronę aparatu, na tym etapie generowany jest jej cały wizerunek. Trzeci krok to kodowanie twarzy. Na tym etapie zostaje ona skonwertowana do liczb, żeby komputer mógł ją poprawnie odczytać. Po zakodowaniu następuje dopasowanie twarzy, polegające na porównywaniu poszczególnych ciągów cyfr. Niekiedy dodatkowo stosuje się modele oparte na ruchu, takie jak wykrywanie mrugnięcia okiem czy ruchu ust. Komputer w takiej sytuacji tworzy wzór na częstotliwość wykonywania tych ruchów, żeby jeszcze lepiej dopasować nagranie do właściwej osoby.

W branży technologii rozpoznawania twarzy dominują chińskie i amerykańskie firmy. W Stanach Zjednoczonych przoduje Microsoft i Amazon, a NEC czy Clearview AI podpisały wiele umów na sprzedaż takich oprogramowań policji i rządom. Microsoft w swoich urządzeniach oferuje nawet system rozpoznawania emocji. Z kolei chińskie Hangzhou Hikvision Digital Technology Co. i Zhejiang Dahua Technology Co. kontrolują 1/3 światowego rynku systemów nadzoru wideo, często łącząc je z programami rozpoznawania twarzy w czasie rzeczywistym.

W Chinach takie urządzenia są montowane przy wejściach na stację metra, na osiedla czy w toaletach publicznych niektórych miast.

System rozpoznawania twarzy w Chinach

Krajem, który przoduje w technologicznych rozwiązaniach tego typu, są Chiny. Ulice wielu państw są usiane kamerami monitorującymi, ale żadne inne miejsce nie posunęło się tak daleko w łączeniu ich z rozległymi bazami danych twarzy. W tym kraju systemy rozpoznawania twarzy są w powszechnym użyciu. Poprzez ich stosowanie obywatele Chin m.in. otrzymują mandaty. Ta technologia odegrała też kluczową rolę w ograniczeniu ruchu setek milionów Chińczyków na terenie całego kraju podczas pandemii koronawirusa.

Niektóre firmy wymagają od swoich klientów korzystania ze skanera do rozpoznawania twarzy. Było tak w przypadku ZOO w mieście Hangzhou, którego personel skanował twarze gości za pomocą telefonów. Na początku 2019 roku profesor prawa z Uniwersytetu Zhejiang Sci-Tech w Hangzhou Guo Bing kupił roczny bilet do parku. Sześć miesięcy później został poinformowany o nowej polityce bezpieczeństwa i konieczności skanowania twarzy odwiedzających. Każdemu, kto odmówiłby poddania się procedurze, zakazano by wejścia na teren ZOO. Zaniepokojony nową sytuacją profesor pozwał park za złamanie umowy i naruszenie praw konsumentów (proces do tej pory nie dobiegł końca). Była to pierwsza tego typu sprawa w Chinach i wywołała ogromną dyskusję na temat zagrożeń dla prywatności związanych ze stale rosnącym wykorzystaniem takich technologii w państwie. Chociaż chińskie prawo zabrania podmiotom wymuszania danych pozyskiwanych z twarzy pod pretekstem, że jest to obowiązkowe, systemy te są zwykle instalowane niezależnie od zgody.

Kolejnym głośnym przypadkiem tego typu były wydarzenia związane z protestami w Hongkongu. Nagrania z kamer CCTV i tych umieszczonych na ciałach funkcjonariuszy miały służyć do rozpoznania i zatrzymania protestujących. Manifestujący jednak, aby uniemożliwić odczyt ich wizerunku, świecili w nie laserami. W efekcie doprowadziło to do tak kuriozalnych sytuacji jak ta, gdy aresztowano Keitha Fonga za kupowanie wskaźników laserowych. Zatrzymanie skłoniło solidaryzujące się z nim osoby zorganizowania pokazu laserowego w Muzeum Kosmicznym w Tsim Sha Tsui, co miało na celu ośmieszenie policji i jej przekonania, że wskaźniki laserowe stanowią zagrożenie i zaliczane są do broni.

Chiny w pewnym momencie zostały oskarżone o łamanie praw człowieka. W prowincji Siciang rozbudowany system nadzoru wideo należący do chińskiego rządu był stosowany wobec setek tysięcy Ujgurów, czyli przedstawicieli muzułmańskiej mniejszości etnicznej. Po rozpoznaniu ich twarzy, byli oni zamykani w tajnych obozach. Ten sytuacja jest obecnie jednym z najgłośniejszych przykładów nadużyć oraz niebezpieczeństw związanych z technologią nadzoru.

Photo by David McNew/AFP/Getty Images

Organy ścigania wykorzystują rozpoznawanie twarzy do łapania morderców czy handlarzy ludźmi.

Technologia rozpoznawania twarzy a policja

Teoretycznie w Stanach Zjednoczonych system rozpoznawania twarzy może być wykorzystywany przez policję oraz agencje rządowe jedynie jako narzędzie śledcze, a nie jako dowód. Przykładowo Departament Policji w Nowym Jorku ma wyraźną politykę stwierdzającą, że aby aresztowanie było możliwe, muszą istnieć inne dowody potwierdzające, nie tylko dopasowanie twarzy przez system. W praktyce sytuacja wygląda nieco inaczej, ponieważ tym dodatkowym krokiem dochodzeniowym może być przekonanie świadka, aby zeznał, że zdjęcie uzyskane przy pomocy technologii rozpoznawania twarzy przedstawia podejrzanego.

Informacje o nadużyciach takich technologii przez policję skłoniły Amazon, Microsoft i IBM do zaprzestania sprzedaży niektórych swoich programów organom ścigania, podczas gdy firma Alphabet Inc. Google wstrzymała badania w niektórych obszarach do czasu wprowadzenia odpowiednich przepisów.

Jednym z głośniejszych przypadków ostatnich działań amerykańskiej policji, która zdecydowała się na aresztowanie podejrzanego wyłącznie na podstawie rozpoznania jego twarzy, jest historia Nijeera Parksa, 31-letniego czarnoskórego mężczyzny mieszkającego w Paterson w stanie New Jersey. Został on zatrzymany za przestępstwa, których nie popełnił, na podstawie błędnego dopasowania twarzy przez system. Postawiono mu poważne zarzuty – napad z użyciem bezprawnie posiadanej broni, posługiwanie się fałszywym dowodem tożsamości, posiadanie marihuany, kradzież w sklepach, opuszczenie miejsca przestępstwa oraz stawianie oporu przy aresztowaniu. Bez żadnych innych dowodów funkcjonariusze Departamentu Policji Woodbridge, zastępca prokuratora hrabstwa Middlesex Peter Nastasi i sędzia Sądu Miejskiego w Woodbridge, David Stahl podpisali nakaz aresztowania Parksa. Niewinny mężczyzna spędził 11 dni w więzieniu, nie wiedząc, co było dowodem w jego sprawie. Do dziś nie wie również, jakie jego zdjęcie i skąd zeskanował system. 31-latek pozwał osoby zaangażowane w łamanie jego praw obywatelskich i ‘celowe zadawanie cierpienia emocjonalnego’. Nijeer Parks nie jest odosobnionym przypadkiem. Podobna historia dotknęła Roberta Williamsa i Michaela Olivera. Z raportu National Association of Criminal Defense Lawyers wynika, że policja wcale nie wspomina obronie, że w sprawie używano rozpoznania twarzy.

Photo by MsTech on Unsplash

Policja używa tej technologii do identyfikacji i późniejszego aresztowania osób biorących udział w różnego rodzaju manifestacjach. Tak było w przypadku protestów przeciwko nakazom noszenia maseczek czy podczas Black Lives Matter. Również moskiewska policja, posiłkując się tą technologią, zatrzymała kilku aktywistów i dziennikarzy, którzy byli uczestnikami pokojowego wiecu na rzecz Aleksieja Nawalnego. Kilka dni później funkcjonariusze odwiedzili domu kilkudziesięciu innych działaczy. Część z nich została natychmiast zatrzymana, innych wezwano na posterunki policji w celu udokumentowania ich ‘bezprawnego’ udziału w pokojowych zgromadzeniach przed rozprawą sądową w sprawie tych ‘przestępstw’.

To nowy i niezwykle niepokojący obrót wydarzeń. Nigdy wcześniej policja nie była w stanie zarzucić swojej sieci tak szeroko, aby zidentyfikować pokojowych demonstrantów i namierzyć ich za pomocą technologii rozpoznawania twarzy. Policja zatrzymała nie tylko tych, którzy przyłączyli się do protestów, ale także co najmniej trzech dziennikarzy, którzy po prostu relacjonowali wiec. Wcześniej głównym zagrożeniem dla protestujących było bicie i arbitralne zatrzymywanie przez policję na wiecu. […] Ryzyko próby skorzystania z prawa do wolności pokojowych zgromadzeń nigdy nie było w Rosji tak wysokie – tak skomentowała wydarzenia Natalia Zviagina, dyrektor moskiewskiego biura Amnesty International.

Są ludzie, którzy trafili do więzienia i nawet nie wiedzą, że kluczowe w ich sprawie było rozpoznanie twarzy przez sztuczną inteligencję.

Niebezpieczeństwa związane z technologią nadzoru

Nie zawsze rozpoznawanie twarze musi być związane z czymś podejrzanym i odbierającym prywatność. Istnieją zastosowania, które nie są groźne. Należy do nich m.in. odblokowywanie smartfonów czy tabletów, sprawniejsze przepuszczanie pasażerów na lotniskach, a nawet odnajdywanie zaginionych dzieci. Jednak w miarę upowszechniania tych zastosowań technologii, równolegle niektórzy zaczynają mieć słuszne obawy o brak prywatności w miejscu publicznym, a organizacje zajmujące się wolnościami obywatelskimi ostrzegają przed niebezpieczeństwami dyskryminacji oraz nadużyć.

Chociaż technologia rozpoznawania twarzy staje się coraz dokładniejsza, badania wykazały, że jest ona znacznie bardziej podatna na błędy, gdy próbuje dopasować twarze osób o ciemniejszej karnacji. Problem został szerzej omówiony w dokumencie ‘Zakodowane uprzedzenie’, o którym pisaliśmy już w F5. Członkowie organizacji zajmujących się prawami obywatelskimi nagłaśniają problem, jakim są wadliwe narzędzia w rękach organów ścigania.

Kontrowersje wzbudził start-up Clearview AI, z którego usług korzystały niektóre departamenty policji w USA. Firma bez zgody zebrała miliardy zdjęć z kont w mediach społecznościowych, wykorzystując je do zbudowania ogromnej bazy danych osób, których profili brakowało w dokumentach organów ścigania. Hoan Ton-That, dyrektor generalny Clearview AI, upiera się przy legalności działań jego firmy, twierdząc, że korzystała ona jedynie z ogólnodostępnych zdjęć użytkowników, które może zobaczyć każdy z dowolnego komputera w dowolnym miejscu na świecie. Ton-That dodał, że jako osobie więcej niz jednej rasy zależy mu na tym, aby system był niezawodny wobec ludzi o każdym kolorze skóry. I faktycznie się udało. Okazuje się, że w przeciwieństwie do innych technologii rozpoznawania twarzy Clearview AI nie ma uprzedzeń rasowych, nie spowodowała też żadnego bezprawnego aresztowania.

Photo by Karelnoppe/Shutterstock

Image

Jennifer Lee

kierownik ds. Technologii i wolności w ACLU

Technologia rozpoznawania twarzy jest nieproporcjonalnie niedokładna dla osób BIPOC [Black, Indigenous, People of Color], osób transpłciowych i całkowicie niedokładna dla osób niebinarnych.

Amnesty International od dłuższego czasu śledzi rozwój takich technologii. Organizacja postanowiła uruchomić innowacyjny projekt crowdsourcingowy, aby odkryć skalę wykorzystania systemu rozpoznawania twarzy w Nowym Jorku. Decode Surveillance NYC spróbuje pokazać, że nowojorczycy praktycznie nie mogą zajmować się swoim codziennym życiem bez ryzyka, że zostaną wyśledzeni przez nowoczesną technologię.

Projekt zapewnia unikalne narzędzie kampanii Amnesty International BanTheScan, które ma na celu zakaz stosowania technologii rozpoznawania twarzy do masowej inwigilacji na całym świecie, ponieważ zagraża to prawom człowieka. Wykorzystanie technologii rozpoznawania twarzy w Nowym Jorku nieproporcjonalnie wpływa na ludzi kolorowych i zagraża prawu do pokojowego protestu. Osiągnięcie przez NYPD zakazu stosowania tej dyskryminującej technologii będzie potężnym sygnałem dla organów ścigania na całym świecie, aby uczynić to samo – mówi Matt Mahmoudi, badacz AI i praw człowieka w Amnesty International.

Hackowanie systemów rozpoznawania twarzy tworzy nowe możliwości dla przestępców. W ubiegłym roku w prowincji Guangxi w południowo-zachodnich Chinach aresztowano agenta nieruchomości pod zarzutem kradzieży ponad 10 mln juanów (blisko 6 mln zł) od właścicieli domów poprzez włamania na ich konta w rządowej aplikacji nieruchomości po zeskanowaniu ich twarzy. W internecie funkcjonuje również czarny rynek informacji o twarzach – pakietów zawierających dane osobowe.

Unia Europejska oraz poszczególne stany w USA podejmują kroki w celu ograniczenia możliwości wykorzystywania technologii wykrywania twarzy.

Regulacje prawne

Od pomysłów i ograniczeń, aż po konkretne zakazy – władze coraz większej ilości państw czy regionów widzą realne zagrożenie płynące z nadużyć. W Stanach Zjednoczonych nie istnieją federalne wytyczne, więc poszczególne stany czy miasta muszą wprowadzać własne regulacje w tym zakresie. W tegorocznych agendach ustawodawczych co najmniej 20 stanów znajduje się punkt dotyczący ograniczeń w stosowaniu oprogramowań tego typu przez organy ścigania. Takie regulacje wprowadzono już w 7 stanach oraz w co najmniej 20 miastach. Przykładowo Portland, Oakland i Boston całkowicie zakazały korzystania z takich systemów. Pierwszym miastem, które podjęło taką decyzję, było San Francisco i zrobiło to w 2019 roku. W tym samym roku Kalifornia nałożyła trzyletnie moratorium na wydziały policji, który miałyby korzystać z systemów rozpoznawania twarzy dzięki kamerom umieszczonym na mundurach funkcjonariuszy. Z kolei Nowy Jork w ubiegłym roku podjął decyzję o uchwaleniu dwuletniego moratorium na korzystanie z tej technologii w szkołach. Kilka miesięcy temu prawodawcy z Wirginii wydali jeden z najbardziej restrykcyjnych zakazów ze wszystkich. Zabroniono lokalnym organom ścigania i wydziałom policji – choć nie policji stanowej – zakupu lub korzystania z technologii rozpoznawania twarzy, chyba że zostanie to wyraźnie dozwolone przez ustawodawcę stanowego.

Grupy policyjne wzywają do ponownego pochylenia się nad zakazami, jednak stanowi ustawodawczy coraz chętniej debatują nad dodatkowymi ograniczeniami takiej technologii. Te decyzje determinują przede wszystkim obawy związane z łamaniem praw obywatelskich, uprzedzeniami rasowymi i naruszeniem prywatności.

Unia Europejska również prężnie działa w tym zakresie. Wspólnota zaproponowała nowe przepisy, które wymagałyby, aby wszelkie systemy rozpoznawania twarzy były poddawane audytom przez organy zewnętrzne przed wdrożeniem ich w danym regionie. Taka ocena miałaby przeciwdziałać dyskryminacji. Urzędnicy UE dodatkowo zakazali używania technologii rozpoznawania twarzy w systemie rzeczywistym oraz innych zdalnych systemów identyfikacji biometrycznej, chyba że są one wykorzystywane do zapobiegania atakom terrorystycznym, odnajdywania zaginionych dzieci lub rozwiązywania innych, konkretnych sytuacji zagrożenia bezpieczeństwa publicznego. Aby wejść w życie, zasady muszą zostać zatwierdzone przez Parlament Europejski. Projekty już na tym etapie spotkały się ze sprzeciwem obrońców praw człowieka, którzy twierdzą, że i tak pozwalają one na zbyt wiele.

Photo on pl.freepik.com

Zwolennicy technologii rozpoznawania twarzy twierdzą, że skanery ze sztuczną inteligencją są szybsze i skuteczniejsze niż tradycyjne kontrole bezpieczeństwa, a ankiety wskazują, że większość ludzi w Chinach akceptuje ten argument. Po drugiej stronie są jednak przedstawiciele organizacji broniących praw obywatelskich, którzy martwią się o zagrożenie prywatności oraz bezpieczeństwa cybernetycznego, jakie stwarzają te urządzenia. Czy powinniśmy się bać takich systemów? Nie, jeśli nie są one wszechobecne i nadużywane, szczególnie przez policję. W Europie daleko nam do scenariusza z Chin, więc na razie raczej nie mamy powodów do obaw i możemy spać spokojnie, wiedząc, że tym razem przejście na czerwonym świetle się nam upiekło.

Zdjęcie główne: National Illustration/newsbeezer.com
Tekst: Marta Zinkiewicz

Preloader spinner
Print
Print Text
Zobacz więcej
Wybierz region
Facebook