TikTok chce by jego użytkownicy bawili się technologią deepfake? Jeśli tak, to jest to bardzo zły pomysł

Prywatność i bezpieczeństwo Technologie dołącz do dyskusji (25) 08.01.2020
TikTok chce by jego użytkownicy bawili się technologią deepfake? Jeśli tak, to jest to bardzo zły pomysł

Maciej Bąk

O deepfake słyszymy w alarmującym tonie od kilku miesięcy. Na razie zwykle poprzez zabawne filmiki, pokazujące ogrom możliwości tej techniki. Ale jest ona potencjalnie niezwykle groźna, bo może wznieść internetową dezinformację na poziom wyższy niż kiedykolwiek. Portal TechCrunch ujawnił właśnie, że właściciel aplikacji TikTok chce użyć jej by dać użytkownikom więcej przestrzeni do zabawy. Deepfake w Tiktok? Powiedzieć, że to niemądry pomysł, to nic nie powiedzieć.

Dla niezorientowanych: deepfake to technologia, która pozwala tak zedytować dane wideo, by móc na przykład podmienić twarz występującej w nim osoby. Sztuczna inteligencja potrafi wygenerować taki ruch „nowej” twarzy, by jeden do jednego naśladowała mimikę „starej”. Przykłady znajdziecie poniżej.

Deepfake w Tiktok – skąd to wiemy?

Portal TechCrunch ujawnił, że technologię deepfake TikTok umieścił w swoim programie na razie po kryjomu. Nie pochwalił się tym nigdzie publicznie, po prostu dodał odpowiedni element kodu. Wykrył to izraelski startup Watchful.ai. Analizował on zarówno TikToka, jak i jego chińskiego bliźniaka – apkę Douyin. Nowa funkcja polega na tym, że aplikacja najpierw dokładnie skanuje twarz użytkownika. Potem napotyka się na odpowiednie zabezpieczenia działające po to, by nie można było używać do zabawy twarzy innej osoby. Dlatego w trakcie weryfikacji trzeba na przykład pomachać głową czy otworzyć usta. Kiedy już twarz zostanie zaakceptowana, można zacząć się bawić z deepfake. Legalność w tym wypadku nie jest problemem, w końcu – teoretycznie – bawimy się tylko we własnym gronie.

Deepfake w Tiktok – zabawa czy coś jeszcze?

Oczywiście aplikacja, o której mówimy, jest programem czysto rozrywkowym. Prawdopodobnie, jeśli algorytm faktycznie zostanie w niej użyty, da przede wszystkim użytkownikom sporo radości. Kilkukrotnie większej niż oklepane już zabawy w podmienianie twarzy czy nakładanie na nią kolorowych efektów. Problem w tym, że ByteDance – czyli właściciel TikToka – w ten sposób pokaże, że deepfake to nic złego i da światu się z nim oswoić. A to tylko otworzy szerzej furtkę do budowy kolejnych aplikacji, być może na przykład pomijających etap weryfikacji. I dających szansę na wstawienie na przykład twarzy swojego kolegi z pracy w zdjęcie przedstawiające dwuznaczną sytuację.

Deepfake to potencjalne zagrożenie

Technologię deepfake w wojnie informacyjnej można porównać do nuklearnego uzbrojenia. Dobry programista nie będzie miał dużego problemu ze stworzeniem sekstaśmy z ważnym politykiem. Tym łatwiej uda mu się spreparować nagranie z momentu wręczenia łapówki. Czy po prostu włoży danej osobie w usta absurdalne, niebezpieczne, bądź po prostu głupie słowa. Wyrazistym przykładem jest poniższy film, w którym stworzono deepfake z Barrackiem Obamą.

Jeszcze bardziej szokujący jest film, w którym wywiad z amerykańskim aktorem Billem Haderem przepuszczono przez technologię deepfake, czyniąc z niego w pewnym momencie… Toma Cruise`a. I to w tak sprytny sposób, że mało skupiony widz nawet nie zauważy momentu zamiany twarzy. Niedawno w podobny sposób przerobiono fragmenty „Kevina samego w domu”. Twarz Macaulay`a Culkina zastąpiono obliczem… Sylwestra Stallone.

Dziś deepfake w Tiktok, jutro na Facebooku?

TikTok wciąż ma jeszcze czas by wycofać się ze swojego pomysłu. Albo wyjaśnić światu dlaczego chce go wprowadzić i dlaczego ma mieć to pozytywne skutki. Bo mówi się też, że zabawowe wykorzystanie deepfake`ów może uczulić ludzi na to by weryfikować to, co oglądają. Nie oszukujmy się jednak – żyjemy w czasach, w których ledwo znajdujemy czas by doczytać do końca nagłówek. A co dopiero zastanawiać się czy twarz bohatera filmu jest na pewno prawdziwa.

Największy światowy gracz, czyli Facebook, w deepfake bawić się nie zamierza. Założył nawet kilka miesięcy temu, do spółki między innymi z Microsoftem, koalicję Deepfake Detection Challenge. I trudno się dziwić, bo taka technologia na początku może bawić, potem może pomagać komuś skutecznie osiągać swoje cele, ale na końcu jest w stanie po prostu zdestabilizować świat. Rozsądnym ludziom nie powinno na tym zależeć.