Nowy Jork chciał wprowadzić regulacje w sprawie sztucznej inteligencji. Nie udało się jej nawet zdefiniować
![Nowy Jork chciał wprowadzić regulacje w sprawie sztucznej inteligencji. Nie udało się jej nawet zdefiniować .get_the_title().](https://www.f5.pl/wp-content/uploads/2019/12/photo-1531747118685-ca8fa6e08806.jpg)
Władze miasta Nowy Jork postanowiły wprowadzić regulacje w sprawie sztucznej inteligencji. W tym celu w maju zeszłego roku powołano zespół urzędników pod nazwą New York City Automated Decision Systems Task Force (ADS). – Uczciwość i sprawiedliwość mają kluczowe znaczenie dla poprawy życia nowojorczyków. Z każdą nową technologią wiąże się dodatkowa odpowiedzialność. Z niecierpliwością czekam na powitanie mojego zespołu ds. Zarządzania algorytmami i polityki, aby zapewnić, że narzędzia, których używamy do podejmowania decyzji, są uczciwe i przejrzyste – zapowiadał burmistrz miasta, Bill de Blasio. Problem tkwi bowiem w tym, że choć sztuczna inteligencja otacza nowojorczyków każdego dnia – używana jest przez policję, szkoły, a nawet śmieciarki – to system ten nie jest pozbawiony wad.
Często uważamy, że algorytmy nie mogą się mylić – w końcu tylko analizują dane, nie mają własnej agendy czy poglądów. Tymczasem jak najbardziej mogą być rasistowskie, homofobiczne czy seksistowskie.
Z takich właśnie algorytmów korzysta niekiedy policja – i z tego też powodu coraz więcej amerykańskich miast zakazuje wykorzystywania technologii rozpoznawania twarzy.
![](https://www.f5.pl/wp-content/uploads/2019/12/photo-1526378722484-bd91ca387e72.jpg)
Wydawało się, że Nowy Jork chce uniknąć takich problemów. Dlatego też ADS pracowało przez ostatnie półtora roku nad raportem, który przedstawiło w ubiegłym tygodniu. Zespół miał stworzyć listę wskazówek, które poprawiłyby funkcjonowanie wykorzystywanej przez miasto sztucznej inteligencji, sprawiając między innymi, że algorytmy stałyby się bezstronne. Podczas debaty, która odbyła się w ubiegłym tygodniu w nowojorskim ratuszu, okazało się, że powołana w tym celu grupa nie jest nawet w stanie zgodzić się co do tego, jak należy zdefiniować sztuczną inteligencję (więcej pisze o tym w artykule dla Fast Company Albert Fox Cahn, który uczestniczył w tym wydarzeniu).
Sam raport natomiast nawet w najmniejszym stopniu nie zajmuje się tym, jak poprawić funkcjonowanie AI w Nowym Jorku.
– Taki raport mógłby powstać bez powołania specjalnej grupy zadaniowej – mówi Meredith Whittaker, współzałożycielka AI Now Institute. Whittaker zaangażowana była na początku w działania ADS, ale następnie zrezygnowała, bo miasto skutecznie blokowało działania twórców raportu. Nie udostępniło im nawet informacji o używanych przez miasto algorytmach i programach komputerowych. Trudno się więc spodziewać, że raport tworzony bez takich informacji będzie w stanie spełnić swój cel. Pierwszy nowojorski raport w spawie sztucznej inteligencji można więc uznać ze spektakularną porażkę – problem w tym, że winę w znacznej mierze ponosi za to miasto, które raport zamówiło.
Zdjęcie główne: Franck V. / Unsplash
Tekst: NS