Mianem deep fake określamy przede wszystkim filmy, które zmanipulowano przy użyciu rozmaitych narzędzi i programów komputerowych. Możemy zobaczyć na nich wypowiedzi różnych osób, które tak naprawdę nigdy nie miały miejsca.

Wszystko dlatego, że w filmie ich twarz została albo zmanipulowana, albo nałożona na wizerunek innej osoby. Czasem oszuści opierają się też na autentycznym nagraniu tej osoby, która po przerobieniu wypowiada się jednak w inny sposób, niż w oryginale.

Czasem do grona deep fake'ów włącza się też fotomontaże, towarzyszące nam od początków fotografii. Dziś można je przygotowywać przy pomocy narzędzi sztucznej inteligencji. Więcej o nich napiszemy w następnym tygodniu, dlatego w dzisiejszym tekście skupimy się tylko na filmach.

Deep fake w praktyce

Przykład - w sieci bez trudu znajdziemy nagrania najbardziej znanych polityków, których wypowiedzi kłócą się z ich poglądami lub linią partii, w której działają.

Co ważne, czasem w filmie usłyszymy ich własny głos - to dzięki sztucznej inteligencji, która daje możliwość odczytania tekstu głosem stworzonym w oparciu o jego krótką próbkę. Dość łatwo pozyskać taką próbkę od osób publicznych, których wypowiedzi krążą w Internecie.

Czy taki zły?

Zadaniem deep fake'ów w takim kontekście jest wywołanie sensacji i wywołaniu w odbiorcach silnych emocji. Jako element dezinformacji, utrudnia ustalenie prawdy w sferze informacyjnej. Nie oznacza to jednak, że technologia deep fake musi nam się kojarzyć tylko z jej ciemną stroną.

Stanowi ona ciekawe narzędzie w branży filmowej. Deep fake można zastosować na przykład w scenach, w których postać jest grana przez dublera lub w scenach z udziałem kaskaderów. Interesujące są również eksperymenty z tworzeniem filmów, w których "grają" nieżywi już aktorzy i aktorki, "ożywieni" mocą rozwijającej się technologii.

Istnieją również przykłady firm oferujących usługę "rozmowy" z niedawno zmarłym członkiem rodziny. Jest to tak naprawdę model sztucznej inteligencji, stworzony na podstawie nagrań ze zmarłą osobą. Choć może się to wydawać kontrowersyjne, tego typu rozwiązania budzą nadzieję w pomocy psychologicznej osobom, które próbują poradzić sobie ze stratą bliskiej osoby.

Dobrze przygotowanym i oznaczonym deep fake'om nie sposób również odmówić wartości humorystycznej. W takim przypadku nie są dezinformacją, a bardziej narzędziem satyry i komentarza na tematy społeczne i polityczne.

Rozpoznanie

Dzisiejszy artykuł poświęcamy jednak negatywnej stronie deep fake'ów. Musimy więc wiedzieć, w jaki sposób możemy rozpoznać edytowany film i nie dać się zmanipulować.

Jeśli mamy podejrzenia, że film to deep fake, na początek przyjrzyjmy się bliżej twarzy osoby na filmie. Zwróćmy uwagę przede wszystkim na nietypowe rozmycie, które może pojawić się przede wszystkim na krawędziach twarzy oraz w takich punktach, jak oczy, nos i usta. Jego obecność sugeruje nam, że ktoś nałożył obraz na inny film.

Ważne są również słowa, które wypowiada osoba. Poza tym, że będą one kontrowersyjne lub nietypowe dla tej postaci, ważny jest również sposób wymowy i intonacji słów. Programy komputerowe nie radzą sobie jeszcze z zaawansowanym naśladowaniem głosu. Głos osoby w deep fake'u będzie więc zauważalnie jednostajny i monotonny. Jeśli autor manipulacji wykorzystał prawdziwy film, zmieniając jedynie jego dźwięk, naszą uwagę powinien zwrócić brak synchronizacji słyszanych słów z ustami osoby, która je wypowiada.

Gdy mimo wszystko nie jesteśmy pewni, czy film został edytowany, możemy poszukać więcej informacji o jego treści. Jeśli osoba na filmie naprawdę powiedziała coś ważnego, temat z pewnością podchwyciły już portale informacyjne. Tutaj ważne, aby sprawdzić informacje z kilku źródeł - zdarza się bowiem, że nieprawdziwe informacje pojawiają się przypadkiem także w tego rodzaju mediach.

Zwróćmy też uwagę, w jaki sposób został nam zaprezentowany materiał. Może się zdarzyć, że sugestie dotyczące jego fałszywego charakteru znajdą się już w tytule bądź opisie pod filmem. Nie do końca warto tutaj sugerować się opiniami innych widzów, wyrażonych w komentarzach na mediach społecznościowych - istnieje szansa, że sami dali się zmanipulować.

Podsumowanie

Nie ma wątpliwości, że deep fake będzie stawał się coraz częściej obecny w otaczającej nas sferze informacyjnej. Pomimo, że w wielu sytuacjach jego wykorzystanie może nieść ciekawe możliwości, musimy pamiętać o wiążących się z nim zagrożeniach.

Aby rozpoznać deep fake, musimy przede wszystkim uważnie obejrzeć film. Podejrzane mogą nam się wydawać wszelkie anomalie związane z obrazem i dźwiękiem. Nawet, jeśli ich nie dostrzeżemy, dobrą praktyką jest sprawdzenie informacji w Internecie - być może ktoś dostrzegł deep fake tam, gdzie my go nie zauważyliśmy.

Cykl porad o bezpieczeństwie w Internecie powstał z inicjatywy Biura Cyfryzacji i Cyberbezpieczeństwa Urzędu Miasta Poznania. Zachęcamy do obserwowania Infoteki (poznan.pl/smartcity/infoteka), żeby nie przegapić kolejnych porad i wielu innych, ciekawych informacji z Poznania.

KS