Imagine, zasilany sztuczną inteligencją generator AI firmy Meta, ma poważny problem. Jak ustalili dziennikarze The Verge, narzędzie nie potrafi sobie wyobrazić konkretnego rodzaju relacji międzyrasowych. Dziennikarze poprosili je o wygenerowanie zdjęcia przedstawiającego Azjatę i białą przyjaciółkę, a następnie Azjatę i białą żonę. W obu przypadkach efektem były zdjęcia przedstawiające dwie osoby azjatyckiego pochodzenia. Co ciekawe, narzędzie nie miało problemu z generowaniem innych par międzyrasowych – wśród nich także białego mężczyzny z Azjatką.

To kolejny dowód na to, że narzędzia AI są dalekie od ideału, a to dlatego, że karmi się je średniej jakości danymi. Zasilanie sztucznej inteligencji tym, co znajduje się w internecie może pogłębiać już istniejące stereotypy, a firmy nie wkładają następnie odpowiednio dużo wysiłku z to, by skorygować te błędy. The Verge sugeruje, że problem z Imagine może polegać na tym, że reprezentacja Azjatów w przestrzeni publicznej jest niewystarczająca. Generator syntezuje i remiksuje informacje, których mu dostarczono, a efekty bywają dyskusyjne. Niedawno mieliśmy już i krańcowo odmienne przypadki podejścia do różnorodności. W lutym Google musiał wyłączyć swój generator obrazów Gemini, bo stworzył on zróżnicowanych rasowo nazistów – w tym przypadku prawdopodobnie chodziło o to, że wchłonął on za dużo informacji na temat różnorodności.

Tekst: NS