Previous Slide Icon Next Slide Icon
Play Daily Button Pause Daily Button
Exit Daily Button

Nowy Jork chciał wprowadzić regulacje w sprawie sztucznej inteligencji. Nie udało się jej nawet zdefiniować

Próba regulacji sztucznej inteligencji zakończyła się spektakularną porażką.
.get_the_title().

Władze miasta Nowy Jork postanowiły wprowadzić regulacje w sprawie sztucznej inteligencji. W tym celu w maju zeszłego roku powołano zespół urzędników pod nazwą New York City Automated Decision Systems Task Force (ADS). – Uczciwość i sprawiedliwość mają kluczowe znaczenie dla poprawy życia nowojorczyków. Z każdą nową technologią wiąże się dodatkowa odpowiedzialność. Z niecierpliwością czekam na powitanie mojego zespołu ds. Zarządzania algorytmami i polityki, aby zapewnić, że narzędzia, których używamy do podejmowania decyzji, są uczciwe i przejrzyste – zapowiadał burmistrz miasta, Bill de Blasio. Problem tkwi bowiem w tym, że choć sztuczna inteligencja otacza nowojorczyków każdego dnia – używana jest przez policję, szkoły, a nawet śmieciarki – to system ten nie jest pozbawiony wad.

Często uważamy, że algorytmy nie mogą się mylić – w końcu tylko analizują dane, nie mają własnej agendy czy poglądów. Tymczasem jak najbardziej mogą być rasistowskie, homofobiczne czy seksistowskie.

Z takich właśnie algorytmów korzysta niekiedy policja – i z tego też powodu coraz więcej amerykańskich miast zakazuje wykorzystywania technologii rozpoznawania twarzy.

fot. Hitesh Choudhary / źródło: unsplash

Wydawało się, że Nowy Jork chce uniknąć takich problemów. Dlatego też ADS pracowało przez ostatnie półtora roku nad raportem, który przedstawiło w ubiegłym tygodniu. Zespół miał stworzyć listę wskazówek, które poprawiłyby funkcjonowanie wykorzystywanej przez miasto sztucznej inteligencji, sprawiając między innymi, że algorytmy stałyby się bezstronne. Podczas debaty, która odbyła się w ubiegłym tygodniu w nowojorskim ratuszu, okazało się, że powołana w tym celu grupa nie jest nawet w stanie zgodzić się co do tego, jak należy zdefiniować sztuczną inteligencję (więcej pisze o tym w artykule dla Fast Company Albert Fox Cahn, który uczestniczył w tym wydarzeniu).

Sam raport natomiast nawet w najmniejszym stopniu nie zajmuje się tym, jak poprawić funkcjonowanie AI w Nowym Jorku.

Taki raport mógłby powstać bez powołania specjalnej grupy zadaniowej – mówi Meredith Whittaker, współzałożycielka AI Now Institute. Whittaker zaangażowana była na początku w działania ADS, ale następnie zrezygnowała, bo miasto skutecznie blokowało działania twórców raportu. Nie udostępniło im nawet informacji o używanych przez miasto algorytmach i programach komputerowych. Trudno się więc spodziewać, że raport tworzony bez takich informacji będzie w stanie spełnić swój cel. Pierwszy nowojorski raport w spawie sztucznej inteligencji można więc uznać ze spektakularną porażkę – problem w tym, że winę w znacznej mierze ponosi za to miasto, które raport zamówiło.

Zdjęcie główne: Franck V. / Unsplash
Tekst: NS

FUTOPIA