ZAO – kontrowersyjna chińska aplikacja deepfake

Aplikacja potrzebuje zaledwie kilku sekund, by podmienić twarz w dowolnym materiale wideo. Póki co działa wyłącznie w Chinach, ale kontrowersje budzi już na całym świecie.
.get_the_title().

O deepfake, czyli technice, która pozwala na podmienienie twarzy w materiałach wideo, robi się coraz głośniej. W zeszłym roku ostrzegaliśmy was przed upowszechnieniem się tego rodzaju filmowych fałszywek, które w przyszłości mogą zostać wykorzystane do siania dezinformacji. Nie wszystkie przypadki deepfake’ów są jednak tak groźne – tu pisaliśmy o znacznie łagodniejszych (choć robiących równie duże wrażenie) przypadkach, na przykład zamienieniu w „Lśnieniu” Jacka Nicholsona na Jima Carreya. ZAO to chińska aplikacja, która działa na podobnej zasadzie.

Pozwala użytkownikom podłożyć swoje twarze pod istniejące wideo – na przykład fragmenty filmów lub seriali. I robi to naprawdę imponująco.

Popatrzcie tylko na to, jak filmik, w którym jeden z jej użytkowników występuje w roli Leonardo DiCaprio. Podmienienie twarzy zajęło ZAO niecałe 10 sekund.

Aplikacja dostępna jest tylko w Chinach, ale o zagrożeniach związanych z użytkowaniem ZAO zrobiło się głośno na całym świecie. Podobnie jak w przypadku popularnego niedawno FaceApp, wątpliwości budzi polityka prywatności aplikacji. Problem znów zasadza się na tym, że użytkownicy nie do końca świadomi są warunków, na które się zgadzają, ściągając ZAO, czyli tego, że przekazują aplikacji „trwałe, zbywalne i licencjonowane” prawo do swoich treści. Twórcy aplikacji już zabrali w tej sprawie głos, zapewniając, że dołożą wszelkich starań, by dane użytkowników nie były wykorzystywane poza ZAO.

Znacznie poważniejszy problem wiąże się jednak samym działaniem aplikacji, która sprawia, że tworzenie deepfake’ów staje się dziecinnie proste.

Podczas gdy generowanie filmowych fałszywek do niedawna wymagało pewnych umiejętności, teraz wystarczy tylko ściągnąć apkę. Czy ZAO doprowadzi do zalewu fałszywych wideo, których celem będzie manipulacja? Nie wiadomo, ale łatwo sobie wyobrazić, co może się stać, gdy aplikacja trafi w niepowołane ręce.

Tekst: NS

FUTOPIA