Algorytmy mogą być tak samo rasistowskie i seksistowskie jak ludzie. Efekt pracy sztucznej inteligencji zależy od danych, którymi nakarmione zostaną wcześniej sieci neuronowe. Jeśli marzy nam się etyczna sztuczna inteligencja, musimy dbać o to, by firmy ją tworzące były transparentne, testowały swoje produkty przed ich wprowadzeniem na różne sposoby, a ci, którzy kompilują dane szkoleniowe, podchodzili do tego odpowiedzialnie.

Tymczasem jednak, choć świadomość tego problemu rośnie, na co dzień spotykamy się z algorytmami, które pełne są uprzedzeń.

Tak jest choćby w przypadku Twittera. Sztuczna inteligencja Twittera zdecydowanie preferowała osoby białe. Spójrzcie tylko na poniższy tweet – na zdjęciach znajduje się dwóch amerykańskich polityków: senator Mitch McConnell oraz były prezydent Barack Obama. Jednak wygenerowana przez algorytm miniatura pokazuje tylko jednego z nich – tego, który jest biały.

Trying a horrible experiment…

Which will the Twitter algorithm pick: Mitch McConnell or Barack Obama? pic.twitter.com/bR1GRyCkia

— Tony “Abolish ICE” Arcieri ? (@bascule) September 19, 2020

Choć błąd udało się namierzyć, nie udało się go naprawić – algorytm w dalszym ciągu preferuje osoby białe i kobiety.

Dlatego też platforma ogłosiła konkurs dla tych, którzy chcą rozwiązać problem tych 'zakodowanych uprzedzeń, opublikowała publicznie fragment kodu i poprosiła o pomoc wszystkich zainteresowanych.

’Zawsze szukamy sposobów na ulepszenie naszych algorytmów, aby zmniejszyć niezamierzone szkody, jakie mogą wyrządzić osobom korzystającym z Twittera i ogółowi społeczeństwa. Nie możemy sami rozwiązać tych wyzwań i potrzebujemy twojej pomocy’ – oznajmia Twitter.

Calling all bounty hunters – it’s officially go time! We’ve just released the full details of our algorithmic bias bounty challenge which is open through August 6. For more details on the challenge, head over to our blog ? https://t.co/foXUdMGwRc

— Twitter Engineering (@TwitterEng) July 30, 2021

Wszystkie konkretne informacje na temat konkursu znajdziecie tutaj. Konkurs trwa do piątku (6 sierpnia).

Dla zwycięzców przewidziane zostały nagrody finansowe: 3,5 tys. dla osoby, która rozwiąże problem i dodatkowe nagrody w wysokości 1000 i 500 dolarów dla tych, którzy dokonają wartościowych odkryć.

Wysokość nagród już została skrytykowana – podobno Twitter płaci lepiej osobom, z którymi w tym celu oficjalnie współpracuje. Niemniej to pewnie dobra okazja, by wykazać się swoimi umiejętnościami.

Tekst: NS