Facebook ogłosił nowe zasady swojej polityki, która ma zatrzymać rozprzestrzenianie się fałszywych filmów. Wszystko to w ramach szerszej strategii zmierzającej do powstrzymania potencjalnego wzrostu zjawiska o nazwie deepfake.

Platforma twierdzi, że spotyka się już regularnie z ekspertami w tej dziedzinie i pracuje nad strategią działania w obliczu rosnących zagrożeń. Są to osoby ze „środowisk technicznych, politycznych, medialnych, prawnych, obywatelskich i akademickich”.

Facebook daje zapewnienia

„W wyniku intensywnych dyskusji wzmacniamy naszą politykę dotyczącą wprowadzających w błąd zmanipulowanych filmów, które zostały zidentyfikowane jako fałszywe. W przyszłości usuniemy wprowadzające w błąd zmanipulowane media, jeśli spełniają następujące kryteria:

– Zostaną one zredagowane lub zsyntetyzowane – poza korektami jasności lub jakości – w sposób, który nie jest oczywisty dla przeciętnego człowieka i prawdopodobnie wprowadziłby kogoś w błąd.

– Będzie to produkt sztucznej inteligencji lub uczenia maszynowego. Produkt, który łączy, zastępuje lub nakłada treści na wideo i wydaje się być autentyczny”.

Facebook twierdzi, że jego nowe zasady nie obejmują treści, które są parodią lub satyrą. Platforma zauważa również, że:

„Filmy, które nie spełniają standardów, nadal mogą zostać sprawdzone przez jednego z niezależnych zewnętrznych podmiotów sprawdzających fakty. To ponad 50 partnerów z całego świata czytających w ponad 40 językach. Jeśli zdjęcie lub film otrzyma fałszywą ocenę od weryfikatora faktów, znacznie ograniczymy jego dystrybucję w kanale wiadomości. Odrzucimy go, jeśli jest wyświetlany jako reklama. Ludzie, którzy zobaczą taki materiał, spróbują go udostępnić lub już go udostępnili, zobaczą ostrzeżenia o jego nieautentyczności”.

Dlaczego więc Facebook nie usuwa tych materiałów? Platforma twierdzi, że takie podejście może być sprzeczne z intuicją. Te same obrazy i filmy będą bowiem dostępne w innym miejscu w Internecie. Swoją decyzję o nieusuwaniu niektórych zmanipulowanych treści tłumaczy następująco:

„Ludzie powinni wiedzieć, co mówią politycy. A jeśli treść jest warta opublikowania w wiadomościach, my również jej nie usuniemy, nawet jeśli w przeciwnym razie byłaby sprzeczna z wieloma naszymi standardami”.

Deepfake przedmiotem największej troski

Materiały typu deepfake są wyraźnie przedmiotem troski głównych sieci takich jak Twitter, Google i Facebook. Prowadzą one własne, niezależne projekty badawcze w celu ustalenia najlepszych sposobów wykrywania i usuwania takich treści.

  Wyciekły prywatne dane milionów użytkowników Instagrama

Nie robią tego bez powodu. Kładzenie tak dużego nacisku na potencjalne niebezpieczeństwa związane z deepfake może sugerować, że platformy coraz częściej koncentrują się na tego rodzaju działalności złych aktorów i pracują nad tym, aby zrobić pierwszy krok, zanim zrobi go osoba niepowołana.

Zobacz także: Fałszywe recenzje. Facebook i eBay podejmują walkę

Dzieje się tak również dlatego, że TikTok pracuje nad nowym narzędziem, które zamieni deepfake w pewnego rodzaju funkcję. To stanowi aktualnie dodatkowe zmartwienie i jest powodem do obaw.

TikTok twierdzi, że nie planuje wypuszczenia tej funkcji na inne rynki poza Chinami. Funkcja faktycznie jest testowana w Douyin, chińskiej wersji TikTok. Rząd chiński ma najbardziej zaawansowaną sieć monitoringu obywateli na świecie. Wyobraźmy sobie, że ma również bazę użytkowników TikTok, udostępnioną przez tę funkcję. To wzbudza obawy.

Podsumowując, deepfake mogą stać się poważnym problemem, dlatego Facebook wprowadza nowe zasady, aby zatrzymać kolejny poważny i niepokojący trend – wzrost dezinformacji.