Określeniem deepfake nazywamy filmy, które zmanipulowano przy użyciu rozmaitych narzędzi i programów komputerowych. Możemy zobaczyć na nich wypowiedzi różnych osób, które tak naprawdę nigdy nie miały miejsca.

Wszystko dlatego, że w filmie ich twarz została albo zmanipulowana, albo nałożona na wizerunek innej osoby. Czasem oszuści opierają się na autentycznym nagraniu tej osoby, która po przerobieniu wypowiada się jednak w inny sposób, niż w oryginale. Zmanipulowanie ruchu warg widocznych na nagraniu określamy mianem lip sync.

Zgranie ruchu warg ze słyszanymi słowami jest dla oszustów istotne, ponieważ od pewnego czasu powszechnie dostępne są usługi pozwalające generować głos innej osoby na podstawie próbki jej głosu. Przygotowanie takiej próbki jest dość proste w przypadku osób publicznych, często wypowiadających się w mediach.

Jak rozpoznać?

Szukając na nagraniu oznak manipulacji, przyjrzyjmy się jego warstwie technicznej i treści, jaką ze sobą niesie. Zacznijmy od wyszukania śladów korzystania z różnego typu programów do spreparowania filmu. Zwróćmy szczególną uwagę na twarz i usta mówiącej osoby - w przypadku deepfake często odniesiemy wrażenie, że wydaje nam się "dziwna", inna od tej widocznej na innych nagraniach. Czasem ruch ust nie będzie zgrywał się ze słowami, które osoba wypowiada. Nawet wygląd zębów na nagraniu może naprowadzić nas na stwierdzenie manipulacji.

Równie ważne jest przemyślenie treści, którą niesie ze sobą deepfake. Takie nagrania często będą próbowały przekonać nas do wyjątkowej okazji na zarobienie pieniędzy, korzystając z autorytetu osoby publicznej, której wizerunek zmanipulowano. Mogą też starać się grać na naszych emocjach i tworzyć wrażenie presji czasu i ograniczoności oferty - tylko dla pierwszych 50 osób, tylko do jutra itd.

Takie manipulacje mogą też być związane z próbą oczernienia wizerunku znanej osoby. Będziemy spotykali się z nimi najczęściej w okresach politycznych napięć - na przykład przy okazji nadchodzących wyborów do Europarlamentu. Widząc na nagraniu kontrowersyjne zachowanie lub wypowiedź polityka, starajmy się zweryfikować tą informację zanim podzielimy się nią np. w mediach społecznościowych.

Czy tylko wady?

Technologia deep fake nie musi jednak kojarzyć się nam tylko z jej ciemną stroną. Dla przykładu, jest ona ciekawym narzędziem w branży filmowej. Można ją zastosować w scenach, w których postać jest grana przez dublera lub w scenach z udziałem kaskaderów. Interesujące są również eksperymenty z tworzeniem filmów, w których "grają" nieżywi już aktorzy i aktorki, "ożywieni" mocą rozwijającej się technologii.

Dobrze przygotowanym i oznaczonym deep fake'om nie sposób również odmówić wartości humorystycznej. W takim przypadku nie są dezinformacją, a bardziej narzędziem satyry i komentarza na tematy społeczne i polityczne. Co istotne, takie materiały muszą być jednak czytelnie oznaczone jako zmanipulowane, by nikt nie pomylił się co do intencji ich twórców.

Podsumowanie

Deepfake na stale zagościł w otaczającej nas sferze informacyjnej. Pomimo, że w wielu sytuacjach jego wykorzystanie może nieść ciekawe możliwości, musimy pamiętać o wiążących się z nim zagrożeniach.

Aby rozpoznać deep fake, musimy przede wszystkim uważnie obejrzeć nagranie. Podejrzane mogą nam wydawać się wszelkie anomalie związane z obrazem i dźwiękiem. Nawet, jeśli ich nie dostrzeżemy, dobrą praktyką jest potwierdzenie informacji w Internecie - być może ktoś dostrzegł deep fake tam, gdzie my go nie zauważyliśmy.

Artykuł powstał na podstawie publikacji: NASK ostrzega... (nask.pl). Zachecamy do zapoznania się z tym materiałem - dzięki niemu dowiecie się, gdzie możecie zgłosić próbę oszustwa przy pomocy deepfake.

Cykl porad o bezpieczeństwie w Internecie powstał z inicjatywy Biura Cyfryzacji i Cyberbezpieczeństwa Urzędu Miasta Poznania. Wszystkie artykuły z cyklu znajdziesz w Bazie wiedzy (poznan.pl).

Zachęcamy do obserwowania Infoteki (poznan.pl/infoteka), żeby nie przegapić kolejnych porad i wielu innych, ciekawych informacji z Poznania.

KS