ByteDance, właściciel TikToka, opracował technologię pozwalającą na tworzenie fałszywych filmów (deepfakes). Jest to funkcja wykorzystująca realistyczną technologię, którą kod aplikacji określa jako Face Swap. Kod w TikToku i jego siostrzanej aplikacji Douyin prosi użytkowników o wykonanie skanowania biometrycznego twarzy…

Uruchomienie tej funkcji w Douyin i TikTok może stworzyć środowisko, w którym technologia zamiany twarzy oraz ograniczony wybór źródłowych filmów wideo może być wykorzystywana do zabawy zamiast rozpowszechniania dezinformacji. Dzięki temu więcej osób będzie wiedziało, że nie powinni wierzyć we wszystko, co widzą w sieci. Ale może również zwiększyć obawy o to, co ByteDance może zrobić z tak wrażliwymi danymi biometrycznymi.

Renderowanie twarzy jednym kliknięciem

Były już próby uruchomienia podobnej funkcji. Na przykład aplikacja Morphin umożliwia nakładanie skomputeryzowanego renderowania twarzy na twarze aktorów w plikach GIF. Snapchat oferował przez lata opcję FaceSwap, która zmieniała wygląd dwóch osób w ramce. Istnieją też samodzielne aplikacje, takie jak Face Swap Live. W zeszłym miesiącu zauważono nową Cameos Snapchata do wstawiania prawdziwego selfie do klipów wideo.

Apostołowie Opinii – platforma do kontroli social media

Najbardziej problematyczna jest chińska aplikacja Zao. Wykorzystuje ona sztuczną inteligencję do łączenia twarzy jednej osoby z ciałem innej osoby podczas poruszania się i synchronizowania ruchów. Zao stał się bardzo popularny we wrześniu ubiegłego roku. Pomimo obaw o prywatność i bezpieczeństwo dotyczących tego, w jaki sposób można skanować twarze użytkowników, ludzie i tak korzystają z aplikacji. Zao został wcześniej zablokowany przez chiński WeChat za „zagrożenie bezpieczeństwa”.

ByteDance może wprowadzić przekonująco realistyczne deepfakes do TikToka i Douyin. Są to dwie najpopularniejsze aplikacje na świecie, które mają ponad 1,5 miliarda pobrań. I chyba to rodzi największe obawy o to, czy TikTok jest bezpieczny?

Ukryty wewnątrz TikToka i Douyin

Izraelski startup ds. badań rynku aplikacji Watchful.ai odkrył kod funkcji deepfakes w najnowszej wersji aplikacji TikTok i Douyin na Androida. Watchful.ai był w stanie aktywować kod w Douyin, aby wygenerować zrzuty ekranu z tej funkcji. Było to możliwe, chociaż nie jest ona obecnie dostępna publicznie.

  AI na Facebooku nie chce, byśmy mówili „cześć” zmarłym znajomym

Zobacz także: 96 proc. tzw. deepfakes ma charakter pornograficzny

Najpierw użytkownicy skanują twarz w TikToku. Służy to również jako kontrola tożsamości, aby upewnić się, że przesyłają jedynie własną twarz. Dzięki temu nie można robić deepafakes bez zgody innych osób. Program prosi o mrugnięcie, kiwnięcie głową, otwarcie i zamknięcie ust. Dzięki takim zabiegom Douyin ma zapewnienie, że korzysta z niego prawdziwy człowiek.

Po wykonaniu powyższych kroków można wybierać spośród filmów dostępnych na ByteDance i zastępować swoją własną twarzą twarze osób występujących w klipie. Następnie można udostępnić lub pobrać wideo typu deepfakes. Takie wideo będzie jednak zawierało nakładany znak wodny, który według firmy pomoże odróżnić treść jako nierzeczywistą. Zamiana twarzy jest dość płynna, a ruchy wyglądają bardzo przekonująco.

TikTok i Douyin odmawiają komentarzy dotyczących daty uruchomienia funkcji deepfakes. Nie chcą wyjawić też tego, w jaki sposób będzie chroniona prywatność skanów biometrycznych użytkowników. Nie chcą odpowiadać również na pytania dotyczące limitu wieku.

Deepfakes a ochrona reputacji w sieci

Możliwe, że funkcja zamiany twarzy nigdy oficjalnie nie zostanie uruchomiona w Chinach ani w USA. Jest jednak w pełni działająca, nawet jeśli nie została upubliczniona, i demonstruje gotowość firmy ByteDance do wdrożenia kontrowersyjnej technologii. Wszystko to pomimo jej złej reputacji jako siewcy dezinformacji i pornografii publikowanych bez zgody innych.

Pocieszeniem jest, że przynajmniej ogranicza korzystanie z tej funkcji przez osoby niepełnoletnie, pozwala na zamianę tylko swojej twarzy i uniemożliwia użytkownikom przesyłanie własnych filmów. To pozwala uniknąć wykorzystywania programu do tworzenia niebezpiecznych, dezinformujących nagrań i robienia z nich virali.