Sztuczna inteligencja ma twarz białego, młodego mężczyzny – mówi Aleksandra Przegalińska

W pracach nad sztuczną inteligencją nie idziemy już w kierunku specjalizacji, ale w stronę holistycznego podejścia, w którym łączy się kompetencje i umiejętności – mówi Aleksandra Przegalińska, specjalistka od zagadnień związanych ze sztuczną inteligencją.
.get_the_title().

Aleksandra Przegalińska-Skierkowska, filozofka i futurolożka, jak nikt inny potrafi z lekkością mówić nawet o najbardziej zawiłych zagadnieniach i przybliżać tematykę sztucznej inteligencji (SI) w mediach. Wykładowczyni oraz prorektorka na Akademii Leona Koźmińskiego, autorka badań na słynnym Massachusetts Institute of Technology, współautorka książek, w tym wydanej właśnie “Sztuczna Inteligencja, nieludzka, arcyludzka”, w której mierzy się z mitami dotyczącymi SI, wyjaśnia zagadnienia i odpowiada na trudne pytania. Skutecznie łączy dwa światy naukowe – humanistyczny i inżynieryjny – z niebywałą wręcz lekkością. Popularyzatorka i propagatorka edukacji inżynieryjnej wśród kobiet, prywatnie żona i mama 8-letniej dziewczynki, która już koduje. Rozmawiamy z profesor Aleksandrą Przegalińską o potrzebie różnorodności w świecie sztucznej inteligencji oraz jej przyszłości.

F5: MIT, teraz Harvard, projekty badawcze na całym świecie. Jak humanistka trafiła do świata sztucznej inteligencji? To nie są dwa różne światy?

Aleksandra Przegalińska: Zainteresowanie science fiction trafiło mnie dość wcześnie, później doszło do tego zainteresowanie filozofią. W II LO w Szczecinie trafiłam do interdyscyplinarnej klasy humanistycznej z autorskim programem obejmującym filozofię i etykę. Prowadził je pan Paweł Kołodziński, który bardzo na mnie wpłynął, zadając ciekawe pytania ocierające się także o przyszłość człowieczeństwa. Studiowałam następnie dziennikarstwo, ale to się nie za bardzo udało… Zaczęłam studiować na międzyuczelnianym MISH-u. Miałam zajęcia lingwistyczne, analityczne, związane z semiotyką, z kognitywistyką (nauka zajmująca się obserwacją i analizą działania zmysłów, mózgu i umysłu). Ten wsad to jeszcze nie było programowanie, ale te studia otworzyły mnie na wiele rzeczy. Na magisterkę poszłam na filozofię we Wrocławiu. Tam miałam zajęcia u profesora Ireneusza Sierockiego z dziedziny sztucznej inteligencji i to wszystko zmieniło.

Sztuczna inteligencja wydała mi się niesamowitą dziedziną z takim kopem filozoficznym, zadającą nurtujące i kontrowersyjne pytania, a z drugiej strony bardzo praktyczną i inżynieryjną.

Jak wyjechałam na Fulbrighta do Stanów (prestiżowy amerykański program wymiany naukowej, wśród absolwentów ma 60 laureatów Nagrody Nobla), wybrałam kurs programowania w Lisp-ie, zaczęłam też programować w Pythonie. Formalnie tkwiłam w humanistyce. Na doktoracie kontynuowałam filozofię, w Stanach mastera robiłam z media studies, ale dobierałam sobie coraz więcej komponentów związanych z programowaniem. Jak skończyłam doktorat, zaczęłam pracować w Akademii Leona Koźmińskiego i już wiedziałam, że chcę iść w interakcję człowiek-maszyna. Szybko poszło, byłam na paru stypendiach, m.in. w MIT, z którego zespołem współpracowałam przez trzy lata. Zaczęłam intensywnie pracować z machine learningiem, nie tylko programować, ale pracować z modelami i jakoś się ogarniać w tym dość rozległym świecie sztucznej inteligencji.

Myślę, że stoję dziś na środku mostu. Fajnie być humanistyką i taką mam duszę, ale metody data science świetnie się skalują i sprawdzają, i nie są wcale takie trudne do pojęcia.

Czy wielu humanistów pracuje przy AI i właściwie dlaczego? Na ile ten wkład humanistyczny jest potrzebny?

Im bardziej ta dziedzina się rozwija, tym bardziej jest to potrzebne. Ja zdaje się trafiłam w niszę, bo potrafię humanistycznie opowiadać o sztucznej inteligencji, która jest mocno inżynieryjna. Takich osób potrzeba, żeby tę dziedzinę komunikować, ale też, żeby ją współkształtować. Etyka w dziedzinie sztucznej inteligencji, robo-etyka jest dziś bardzo ważnym tematem. Stajemy przed wieloma problemami, jak błędy, brak wyjaśnialności, brak kontroli, brak transparentności. To nie są inżynieryjne tematy, to są tematy o charakterze społeczno-cywilizacyjnym. Coraz więcej mówi się o tym, że studenci programowania powinni mieć szeroki ogląd świata, bo ten ich kod jest produkcyjny i może decydować o czyimś życiu. Algorytmy, które napisali, mogą decydować o tym, czy ktoś dostanie pożyczkę w banku, czy nie i oni muszą to rozumieć. W pracach nad sztuczną inteligencją potrzebni są też ludzie o szerokich kompetencjach. To jest sprzeczne z koncepcją dążenia do coraz większej specjalizacji. Na MIT zespoły są przede wszystkim różnorodne i interdyscyplinarne. Ludzie są zajebiści w tym, co robią, natomiast łączą tak ze dwie, trzy dziedziny, którymi się interesują i potrafią między nimi przeskakiwać. W moim zespole na przykład mój najbliższy współpracownik jest neuropsychologiem i programistą.

Powiedziałabym, że nie idziemy w kierunku specjalizacji – my już z tym skończyliśmy. Idziemy w kierunku holistycznego podejścia, w którym łączy się kompetencje i umiejętności.

Kobiet w świecie sztucznej inteligencji jest bardzo mało. Z kolei wiemy z różnych badań, że zespoły, które są zróżnicowane, lepiej pracują, więc wydawałoby się, że obecność kobiet się po prostu opłaca, prawda?

Ja bym chciała, żeby te grupy były bardziej różnorodne i staram się o to żeby były, ale uważam, że nadal nie są. Współpracowałam niedawno przy tworzeniu raportu pokazującego jak w naszym regionie wygląda struktura zatrudnienia w dziedzinach związanych z nowymi technologiami. Niestety wyniki nie są optymistyczne, bo kobiet jest zaledwie 13 proc. Na szczęście kobiety się uczą. Na moich studiach z dziedziny SI na Koźmińskim dziewczyn jest co najmniej 1/3, a dobiegamy nawet do pułapu 40 proc, więc zaraz będziemy w parytecie. To nam pokazuje trend przyszłości, który wynika z pragmatycznych przesłanek. Myślę, że o przyszłości i zmianie zdecyduje rzeczywistość ekonomiczna, a nie nasze postulaty. Mnie ostatecznie przekonuje ten bilans ekonomiczny – gdzie jest płaca, tam jest praca i koniec tematu.

Jeśli mnie pytasz, jaką twarz ma sztuczna inteligencja, to ja ci powiem, że białego, młodego mężczyzny.

Kobiet jest zdecydowanie za mało, co więcej docierają do mnie negatywne sygnały, że nawet jeśli kobiety kończą studia inżynieryjne, nie wytrzymują w wybitnie męskim środowisku pracy. Ze względów społecznych decydują się na jej zmianę. Nie chcę stygmatyzować samych programistów, bo oni się bardzo zmieniają jako grupa zawodowa, ale gdzieś tam na koniec to dość specyficzna branża.

fot. Paulina Czarnecka

Też tego doświadczyłaś? 

Miałam dużo szczęścia, że choć w przewadze pracowałam z mężczyznami, to trafiałam w środowiska, w których czułam się komfortowo. Natomiast wyobrażam sobie, że to może różnie wyglądać. W Akademii Leona Koźmińskiego są inne standardy, ale jak pójdziesz do jakiegoś startupu, to możesz być ty i siedmiu chłopaków. Oczywiście może być jak w serialu “Silicon Valley”, że ta dziewczyna wszystkich sobie poustawia, ale może być też tak, że nikogo nie poustawia, nawet się z nikim nie zakumpluje i po jakimś czasie odejdzie, bo nie wytrzyma.

Kobiety się wspierają? 

W Polsce fantastyczne rzeczy robi Bianka Siwińska z “Perspektyw”, która organizuje rok w rok Women in Tech Summit i chwała jej za to. Staram się zawsze ją w tym wspierać. Jest sporo inicjatyw, takich jak Women in Entrepreneurship, Women in AI heros – tam też kobiety się poznają, wspierają, wymieniają doświadczeniami. Wydaje mi się, że tych inicjatyw jest dużo.

Ale nadal najpopularniejsza kobieta w AI to niestety Alexa.

Faktycznie jest tak, że kobieta w sztucznej inteligencji kojarzy się z asystentami głosowymi – Alexa to jedno, ale przecież i Siri. Chociaż uczciwie trzeba powiedzieć, że Alexa niedawno zyskała męski głos i to nie byle jaki, bo Samuela L. Jacksona. Można więc wybrać. Asystent google’owski też może być kobietą lub mężczyzną, więc tutaj już się coś dobrego zadziało.

Ależ jest! Zapomniałam: Eugenia Kuyda. To jest twórczyni Repliki AI i My Replika. To jest gwiazda, a jednocześnie postać ze świata biznesu.

W Polsce to ty jesteś twarzą AI.

Nie wiem, czy faktycznie jest, ale jeśli tak, to chyba nie jest najgorzej. Jeśli liderek na poziomie lokalnym będzie więcej, inaczej to wszystko będzie działało, inaczej będą projektowane granty. Nawet w Polsce jest już wstyd zrobić panel, do którego nie zaprosi się kobiety. Jeszcze do niedawna jak się pojechało na Forum Ekonomiczne do Krynicy, to panel, w którym siedziało ośmiu panów, był normą. W tej chwili nawet tu, w tym mega patriarchalnym społeczeństwie, jest to nie do przyjęcia.

Wiele mówi się o potrzebie różnorodności płciowej, etnicznej, jak i kulturowej. Ta różnorodność w kontekście sztucznej inteligencji jest chyba bardzo ważna? 

Myślę, że jest wiele prób działania dotyczących różnorodności i to nawet nie na fali samych zmian w świecie technologii, co generalnie naszych celów. Wydaje mi się, że obecnie wszędzie szukamy większej reprezentacji.

Dziś wiemy, że budując systemy sztucznej inteligencji tworzone przez młodych mężczyzn dla młodych mężczyzn i w całości procesu ogarniane przez młodych mężczyzn, do kogoś się nie dociera, kogoś się wyklucza.

To się po prostu nie opłaca. Jestem przekonana, że ludzie z różnym backgroundem zadadzą sztucznej inteligencji różne zadania, postawią różne pytania, będą mieli różne koncepcje na swoje pola badawcze, zastosują inne metodologie, co innego będą chcieli zweryfikować. I wierzę w tak rozumianą różnorodność.

Nierówności przedostają się do danych? Jak to działa?

Już zobaczyliśmy te błędy: różne formy dyskryminacji, awantury związane z rekruterem AI-owym w Amazonie, awantury związane z tym, że ktoś nie dostał pożyczki bankowej, bo mieszka pod adresem, gdzie mieszkają ludzie za biedni, żeby ją dostać. Do tego doszło nierozpoznawanie przez sieci zajmujące się identyfikacją obrazu twarzy osób czarnoskórych. Wszystko to musiało się stać, żebyśmy się tak jakoś ogarnęli i stwierdzili: “o wow! Te narzędzia są nie tylko złe od strony etycznej, ale do tego wszystkiego są dysfunkcyjne!”. W Stanach mieszka dużo czarnoskórych osób, które używają smartfona i mają prawo się spodziewać, że ten smartfon będzie w stanie rozpoznać ich twarz i zidentyfikować ich poprawnie. To prosta usługa, prawda? Najpierw świat sztucznej inteligencji musiał trochę dostać po dupie, żeby się pozbierać i powiedzieć „ok, to teraz te nasze piękne postulaty należy przesunąć na praktykę technologiczną”.

Większa różnorodność w danych, może zaowocować tym, że te usługi oparte na sztucznej inteligencji z jednej strony będą bardziej precyzyjne, a z drugiej bardziej inkluzywne.

Do czego jest nam właściwie potrzebna sztuczna inteligencja i gdzie już działa? W jakich sektorach mamy z nią kontakt?

Logistyka, transport – to są takie wdzięczne algorytmicznie sektory – prawo, porównywanie umów, medycyna, diagnostyka oraz oczywiście bankowość i finanse. Te dwie ostatnie dziedziny były mocno do przodu, jeśli chodzi o sztuczną inteligencję. W konsumenckich działkach mamy systemy rekomendacyjne, do sprzedaży produktów, wykorzystują je sklepy online, Allegro, Amazon, Netflix, Spotify. Wszystkie te usługi sprzedające rzeczy dzięki sztucznej inteligencji chcą ci sprzedać od razu kolejną rzecz dobraną na podstawie twoich wyborów. Tam wszędzie jest wykorzystywana sztuczna inteligencja. Chyba trudno byłoby mi wskazać sektory, w których tej sztucznej inteligencji nie ma w tej chwili… No, może w edukacji jest jej trochę mało, ale właściwie nie ma tu granic poza tymi, które sami sobie narzucimy.

Smart dust i pełen nadzór nad obywatelami. Pytania o to, czy w przyszłości zastąpią nas roboty… Trochę się boimy sztucznej inteligencji, prawda?

To nasze uniwersum myślenia o sztucznej inteligencji jest kształtowane przez popkulturę, dla której roboty humanoidalne są bardzo wdzięczne. Mnie się wydaje, że lepiej jednak wskazał to Lem w “Solarisie” – inteligentna sieć bez tożsamości, bez podmiotowości. Sztuczna inteligencja to wiele sprzężonych ze sobą systemów, które działają wirtualnie. To są obiekty matematyczne, więc trudno mi o tym myśleć osobowo. To, co ludzie przypisują dzisiaj sztucznej inteligencji, z punktu widzenia ekspertów tej dziedziny to bajki. Deep learning to fantastyczna rzecz do trenowania maszyn, w różnych specjalistycznych domenach – to po prostu działa.

I te maszyny będą coraz lepsze, natomiast to nie stoi, powtarzam, nie stoi obok naszej inteligencji.

Mimo wszystko uważam, że sztuczna inteligencja nie jest jakimś super bezpiecznym rewirem, bo jest naznaczona dyskryminacją, bo są projekty z zakresu broni autonomicznej, które są wybitnie kontrowersyjne. Nawet autonomiczny samochód może wjechać w człowieka i wyrządzić wiele krzywdy. Nie mam jednak obaw, że sztuczna inteligencja wymknie się spod kontroli. Większym zagrożeniem może być człowiek – despota, który wykorzysta sztuczną inteligencję w straszny sposób. W perspektywie, którą możemy przewidzieć, jestem w grupie naukowców, którzy myślą ewolucyjnie o sztucznej inteligencji. Świadomości to te systemy rychło mieć nie będą.

No widzisz, ale sztuczna inteligencja potrafi wygrać z człowiekiem w szachy, potrafi wygrać w tradycyjnej chińskiej grze strategicznej w go…</strong

Tyle że to jest regułowa, strategiczna gra, w której sztuczna inteligencja wykorzystuje to, że może widzieć wszystkie ruchy do przodu, robić sobie predykcję tego, jak się można zachować w różnych sytuacjach i widzi to w real timie. A twój mózg akurat takich kompetencji nie ma. Ma inne. Ja byłam bardzo wzruszona nie tym, jak ten system wygrał, ale tym, że można człowiekowi powiedzieć, jak pewne rzeczy zrobić inaczej właśnie za pomocą sztucznej inteligencji i że można zagrać w go zupełnie inaczej niż ludzie do tej pory grali.

W zmiany klimatyczne też można zagrać inaczej?

Chciałabym bardzo, żeby tak się stało! Mało jest jeszcze takich projektów. Bardzo bym chciała, żeby sztuczna inteligencja była wykorzystywana w ten sposób.

A jeśli powie: unicestwić ludzi!

No to na taki wariant się nie zgodzimy, bo jest prostacki (śmiech)!

W nawiązaniu do Twojej nowej książki “Sztuczna inteligencja nieludzka, arcyludzka” nasuwa się pytanie, jaka właściwie jest?

Jest oczywiście i taka, i taka. Z jednej strony jesteśmy dla niej referencją, ona uczy się z naszych danych, jest trenowana i budowana przez człowieka. Czasami pewne rzeczy robi lepiej niż człowiek, tak jak gra w go. Zagrała z człowiekiem, wygrała z człowiekiem. W tym znaczeniu jest wręcz arcyludzka, potrafi nasze kompetencje pociągnąć gdzieś dalej. A z drugiej strony jest nieludzka, bo jednak jest zupełnie inna. Jest na krzemie, działa na innych algorytmach, jest zupełnie inną strukturą, popełnia kompletnie inne błędy, inne ma wnioskowania – i w tym sensie obie te rzeczy są prawdziwe. Powołaliśmy twór, który nie myśli, nie percypuje świata jak człowiek, jak inne organizmy żywe, a z drugiej strony jednak to my go powołaliśmy i on jest nasz, na nasze podobieństwo budowany.

Twoje podejście jest dość uspokajające.

Za dużo tej dramy wokół sztucznej inteligencji. Jestem zmęczona ludźmi, którzy straszą. Wydaje mi się, że mam po prostu bardzo realistyczne podejście, jak zresztą większość osób z branży. Lubię artystyczne wizje jak “Photon” Normana Leto – świetna pozycja dla osób, które się tym interesują. Bardzo to jest ciekawe i nawet na swój sposób rzetelne.

Angażujesz się w promocję wiedzy na temat sztucznej inteligencji. Zostałaś nawet postacią ilustrowaną w książce dla dzieci m.in. obok Gonciarza. 

Będę występowała jako jedna z postaci w książce Artura Kurasińskiego „Róża, a co chcesz wiedzieć”. Książka ma wyjść w 2021 roku. To fajny projekt, bardzo wartościowy, samo dobro dla dzieciaków. Jestem też wielką fanką komiksów i dwumiesięcznika „Kosmos dla dziewczynek”. Eliza Durka, która to tworzy, ma świadomość, że tym dziewczynkom trzeba uważnie pakować ofertę dla nich, która będzie wzmacniała ich pewność siebie, taki teamwork, leadership, i pozwalała jednocześnie być tymi dziewczynkami.

Uczysz swoją córkę kodowania?

Od 5 roku życia uczyła się programować w Scratchu. Warto zacząć od Scratcha – gwarantuję, że każda dziewczynka czy chłopiec może w nim programować. To bardzo przyjemne narzędzie i świetna zabawa, bo nagle coś powstaje, rusza się i to jest twoje dzieło. Dla każdego dzieciaka to jest super przygoda. Centralny Dom Technologii prowadził fajne kursy z programowania w Scratchu dla dzieci, więc polecam, warto się tym zainteresować. Programowanie w Lego Mind też jest bardzo fajne i egalitarne. Moja córka przeniosła się na Minecrafta. Projektuje sobie różne obiekty, hotele, apartamentowce, kanalizację do nich, jakieś farmy. Bardzo to lubi.

Minecraft to jest błogosławieństwo dla świata!

Dzieci mają zabawę, ale też są po prostu zajebiste w te narzędzia! Ja się o dzieci nie martwię. Dzieci technologicznymi matołami nie będą, raczej ich starzy. Niezależnie od indywidualnych pasji, każda dziewczynka i każdy chłopczyk to ogarnie.

Partnerem serii Invisible Diversity jest Dell Technologies. Kliknij tutaj, żeby dowiedzieć się więcej o naszej polityce różnorodności. Kolejne rozmowy już wkrótce.

Rozmawiała: Marta Jerin

FUTOPIA