Nieczęsto zdarza się, aby zdjęcie papieża Franciszka wywołało taką ekscytację jak przy okazji postu opublikowanego przez profil Dropsy. Na zdjęciach widać papieża ubranego w białą kurtkę wyglądającą, jakby dopiero co była prezentowana na modowym wybiegu. Tą nietypową publikacją wkraczamy w świat pełen deepfake’ów. Materiały na lekcję, które proponujemy pozwolą przyciągnąć uwagę podopiecznych.

Jak to było z Franciszkiem?

Na ubiór papieża Franciszka, kojarzący się raczej z celebrytami niż z duchownymi wysokiej rangi, pozytywnie zareagowali komentujący, nazywając Franciszka „dripieżem” – łącząc nazwę jego stanowiska ze slangowym określeniem na modne ubrania.

Na pierwszy rzut oka można by stwierdzić, że papież Franciszek dokonał wizerunkowej rewolucji. Jednak gdy przeczytamy opis posta, dowiemy się, że zdjęcia Ojca Świętego są fałszywe. Wygenerował je Midjourney – program bazujący na sztucznej inteligencji (AI), zdolny do tworzenia nieistniejących obrazów. Więcej przykładów zmyślonych sytuacji, których uczestnikami są różne osoby publiczne, znajdziesz w tekście Mateusza Cholewy pt. „Papież pełen dripu”. Zdjęcia tworzone przez AI trendują w sieci.

Krytyczna analiza

Dostępność narzędzi wykorzystujących sztuczną inteligencję (AI) powoduje, że każdy może stworzyć fotografię czy nagranie ze znaną osobą w dowolnej sytuacji w domowym zaciszu. Warto podjąć ten temat na lekcji, aby uczniowie i uczennice zrozumieli, z czym mają do czynienia, aby potrafili docenić możliwości tych narzędzi, ale też by przyjrzeli się zagrożeniom, które one za sobą niosą. Coraz powszechniejsze deepfake’i wymagają od nas jeszcze bardziej krytycznego podejścia do treści publikowanych w sieci.

W sekcji WIEDZA umieściliśmy tekst, w którym przytaczamy więcej inspiracji na lekcję o deepfake’ach. Jeśli chcesz dowiedzieć się jak tworzy się deepfake’i i po co powstają. Zajrzyj rtam koniecznie. Umieściliśmy też propozycje zadań na lekcję oraz specjalną infografikę, które możesz pobrać. Na infografice w prosty i zrozumiały sposób przedstawiamy zagadnienie deepfake’ów. Żeby zapoznać się z tekstem, wystarczy się zalogować lub zarejestrować się na naszej platformie edukacyjnej.

Czym jest deepfake?

Deepfake – to efekt działania algorytmów tworzonych ręcznie lub trenowanych na olbrzymich bazach danych. Takie algorytmy na polecenie człowieka mogą tworzyć materiały wizualne przedstawiające nieistniejące osoby lub zmanipulowane obrazy. Pierwotnie termin mógł być kojarzony z filmami, w których pojawiały się postacie z zamienionymi twarzami, jednak obecnie coraz częściej używa się go także w kontekście wszystkich obrazów generowanych przez AI, które starają się odwzorować prawdziwe postacie.

O rozwoju deepfake’ów przeczytasz w tekście Adama Majchrzaka i Aleksego Szymkiewicza pt. Złowieszczy Obama i stylowy papież – ewolucja deepfake’ów. Znajdziesz w nim przykłady oraz wyjaśnienie, jak to wszystko działa.

Mark Zuckerberg kontra deepfake 

W drugiej połowie 2019 roku na Facebooku pojawiło się nagranie z udziałem Nancy Pelosi, której stan miał wskazywać na spożycie alkoholu. Jak dokonano manipulacji? Nagranie zostało odtworzone w zwolnionym tempie.

W mediach dyskutowano jednak nad potencjalnymi deepfake’ami, które pojawią się w niedalekiej przyszłości, i nad tym, czy materiał ten powinien zostać usunięty. Platformy YouTube, TikTok i Twitter usunęły film, ale Facebook ogłosił, że tego nie zrobi, i jedynie ograniczył jego widoczność poprzez skierowanie sprawy do fact-checkerów.

Tymczasem po miesiącu deepfake dotknął samego Marka Zuckerberga – na jego platformie pojawiło się nagranie wygenerowane przez startup Canny AI. W filmie przedstawiono wykreowany awatar właściciela platformy. Ten kazał wyobrazić sobie, że „jeden człowiek (Mark Zuckerberg – przyp. Demagog) ma kontrolę nad miliardami skradzionych danych” – wyglądało to tak, jakby twórca Facebooka krytykował sam siebie. Tym samym deepfake stał się narzędziem nacisku wobec dużej platformy.

Świat pełen deepfake’ów

Fałszywe nagrania i obrazy generowane przez AI są coraz bardziej niebezpieczne. I to nie tylko dla osób publicznych. W 2019 roku opublikowano raport Deeptrace, z którego wynikało, że liczba deepfake’ów w sieci przekroczyła 14 tys., a 96 proc. fałszywych filmów opublikowanych online miało charakter pornograficzny.

Zastanów się z uczniami, jakie zagrożenia mogą pojawić się w związku ez światem pełnym deepfake’ów. Możecie podzielić te zagrożenia na te dotyczące Was bezpośrednio oraz na takie, które mogą być groźne dla społeczeństwa.

Zadanie na lekcję

Na początku przywołaliśmy zdjęcie papieża Franciszka, które wywołało nie lada poruszenie w mediach społecznościowych. Zaproś uczniów do spojrzenia na to zdjęcie krytycznym okiem. Czy coś się tu nie zgadza?

Odpowiedź: wystarczy spojrzeć z bliska na prawą dłoń papieża. Widać wyraźnie, że coś poszło nie tak i program nie był w stanie wygenerować jej we właściwy sposób. Tym samym „dripież” pozostaje jedynie niespełnionym marzeniem internautów.

Problemy związane z deepfake’ami dopiero się zaczynają. Dobrze już na samym początku podpowiedzieć podopiecznym jak sobie z nimi radzić. Ważna jest już sama świadmość możliwości zetknięcia się z wygenerowanym obrazem. Niestety świat mediów społecznościowych będzie wypełniał się deepfake’ami. Pogłębiamy to zagadnienie i proponujemy więcej zadań w sekcji WIEDZA.