Do niedawna deepfake’i (obrazy, które zostały poddane manipulacji przy użyciu sztucznej inteligencji) wydawały się tylko ciekawostką. Dziś już każdy może nauczyć się je tworzyć. Dlatego tak ważne jest ćwiczenie z uczniami krytycznego odbioru treści publikowanych w internecie.

Czym jest deepfake?

Deepfake – to efekt działania algorytmów tworzonych ręcznie lub trenowanych na olbrzymich bazach danych. Takie algorytmy na polecenie człowieka mogą tworzyć materiały wizualne przedstawiające nieistniejące osoby lub zmanipulowane obrazy.

Pierwotnie termin mógł być kojarzony z filmami, w których pojawiały się postacie z zamienionymi twarzami. Jednak obecnie coraz częściej używa się go także w kontekście wszystkich obrazów generowanych przez AI, które starają się odwzorować prawdziwe postacie.

Jak powstał fałszywy Obama?

W 2017 roku naukowcy z University of Washington stworzyli deepfake’a z Barackiem Obamą. Z kolei pierwszy popularny na całym świecie deepfake powstał w 2018 roku. Jego twórcą był komik i reżyser Jordan Peele.Użył programów Adobe After Effects i FakeApp wygenerował nieprawdziwy wizerunek Baracka Obamy.

W tym materiale 44. prezydent USA miał opowiedzieć m.in. o ostatnich premierach filmowych i polityce. Na koniec stwierdził ponuro: „Sposób, w jaki posuniemy się naprzód w epoce informacji, będzie wpływać na to, czy przetrwamy, czy też staniemy się po…ą dystopią”.

To przesłanie może stać się pretekstem do podjęcia z uczniami i uczennicami tematu etyczności wykorzystywania sztucznej inteligencji. Poniższe nagranie pokazuje, jak powstawał deepfake.

Na co zwracać uwagę, by rozpoznać obrazy stworzone przez AI 

Wciąż nie ma jednego, uniwersalnego narzędzia pozwalającego rozpoznać, czy dany obraz został stworzony przez sztuczną inteligencję, czy za pomocą aparatu trzymanego przez człowieka. Można jednak próbować zwracać uwagę na detale, które wskażą nam fałszywkę.

Po tym, jak seria tweetów o Donaldzie Trumpie zdobyła olbrzymią popularność (6 mln wyświetleń!), Eliot Higgins udzielił kilku porad, jak rozpoznać obrazy generowane przez AI:

• Zwracaj uwagę na otoczenie – programy służące do tworzenia wirtualnych treści koncentrują się na pierwszym słowie polecenia. W związku z tym szczegóły otoczenia, takie jak np. przechodnie czy wygląd budynków, są potencjalnie mniej dokładne, a tym samym niepozbawione wad, jak chociażby brak twarzy.
• Spójrz, czy nie ma wadliwych tekstów – mimo że programy do tworzenia grafik coraz lepiej radzą sobie z postaciami, nadal mają problemy z napisami na budynkach czy na ubraniach. Wystarczy spojrzeć np. na ramię jednego z policjantów, by stwierdzić, że coś na tym zdjęciu jest nie w porządku.
• Nienaturalna mimika – Higgins zwrócił także uwagę, że Midjourney znacznie przesadza, próbując odtworzyć ludzkie emocje. Dlatego właśnie Melania Trump na tym obrazie ma tak nienaturalnie naciągniętą skórę twarzy.

Warto także pamiętać o tym, aby sprawdzać informacje w różnych źródłach. Jeśli ktoś publikuje sensacyjne doniesienia, np. dotyczące zatrzymania ważnego polityka, to brak wiadomości na ten temat w najważniejszych serwisach powinien wydać Ci się podejrzany.

Jak dobry w starciu z wytworami AI jest Twój wzrok? Zadanie

Które z poniższych obrazów (a może wszystkie?) to prawdziwe stockowe fotografie (czyli takie pochodzące z serwisów ze zdjęciami? Które z nich zostały wygenerowane przez sztuczną inteligencję? Zadanie związane jest z weryfikacją prawdziwych obrazów. Do wyboru 9 odpowiedzi, w tym 3 związane z wyspami, 3 związane ze stacją kolejową i 3 – z samochodami.

Prawdziwe zdjęcia to nr 3, 4, 9. Opis poprawnych odpowiedzi znajdziesz w artykule: Oślepieni deepfake’ami. Jak sprawdzić, czy to AI stworzyło obraz?.

Nasi analitycy przyjrzeli się, czy generatory deepfake’ów są rzeczywiście tak doskonałe. Szczegóły znajdziesz w tekście pt. Deepfake (nie)doskonały. Czy AI tworzy realistyczne obrazy?.

Dodatkowe artykuły

Złowieszczy Obama i stylowy papież – ewolucja deepfake’ów – rozwój narzędzi, które generują grafiki przy użyciu AI, gwałtownie przyśpiesza. Wobec czego zasadne wydaje się pytanie: technologia stanie się ułatwieniem czy może narzędziem do masowego rozpowszechniania dezinformacji?

„Papież pełen dripu”. Zdjęcia tworzone przez AI trendują w sieci – fotografie generowane przez sztuczną inteligencję pokazują znane osoby w sytuacjach, w których nigdy nie brały udziału.

Dowiedz się więcej 

Deepfake to tylko jedna z technik wykorzystywana do tworzenia fałszywych informacji. Jeśli chcesz poznać rodzaje fake newsów skorzystaj z naszego kursu „Fałszywe informacje. Jak sobie z nimi radzić?”.

Jest on dostępny bezpłatnie. Możesz poćwiczyć swoje umiejętności i poszerzyć własną wiedzą. Z powodzeniem możesz ten kurs przejść z uczniami w całości lub z części. Z całym materiałem możesz zapoznać się w wygodnych 20-minutowych lekcjach.