AI, deepfake i manipulacja – jak działa i czym grozi

59

Sztuczna inteligencja zrewolucjonizowała sposób, w jaki tworzy się fałszywe materiały wideo i audio. Skutki tego widać już w polityce, biznesie i życiu prywatnym. Za większością deepfake’ów stoją sieci GAN, czyli dwie współpracujące sieci neuronowe: generator produkuje fałszywe obrazy, a dyskryminator ocenia, czy wyglądają autentycznie. Trening trwa tak długo, aż efekt staje się nie do odróżnienia od oryginału. Zagrożenie manipulacją przez deepfake’i generowane przez AI, obok oszustw finansowych, rośnie szybciej niż zdolność przeciętnego odbiorcy do ich wykrycia. Konsekwencje sięgają od wyłudzeń finansowych po celowe wprowadzanie w błąd całych społeczeństw.

Jak sztuczna inteligencja tworzy deepfake’i – mechanizm odtwarzania twarzy i głosu

Architektura sieci GAN opiera się na konkurencyjnym modelu dwóch komponentów neuronowych: pierwsza sieć generuje fałszywe materiały na podstawie analizowanych danych wejściowych, druga zaś weryfikuje stopień ich wiarygodności. W procesie iteracyjnym generator doskonali umiejętność reprodukowania zaobserwowanych wzorców, podczas gdy dyskryminator staje się coraz bardziej wymagający w ocenie autentyczności. Uczenie trwa aż do momentu, gdy druga sieć nie potrafi już odróżnić wygenerowanego contentu od materiałów źródłowych. Rezultatem jest deepfake o jakości trudnej do wykrycia gołym okiem.

Trzy etapy produkcji fałszywki

Tworzenie deepfake’u przebiega w trzech krokach. Pierwszy to zbieranie danych – najczęściej zdjęć i nagrań ofiary z publicznie dostępnych źródeł, głównie mediów społecznościowych. Drugi etap to wstępne przetwarzanie: czyszczenie materiału, wyodrębnianie twarzy z kadrów wideo i izolowanie próbek głosu. Trzeci to trening modelu na przygotowanym zbiorze. Im więcej materiału źródłowego, tym wierniejsza kopia – dlatego celebryci, politycy i osoby publiczne padają ofiarą tego zjawiska częściej niż zwykli użytkownicy.

Zamiana twarzy (face swap) i klonowanie głosu to dwie najpopularniejsze techniki. W pierwszej algorytm nakłada twarz jednej osoby na ciało drugiej, zachowując mimikę oryginału. W drugiej wystarczy kilkadziesiąt sekund nagrania, by wygenerować dowolną wypowiedź głosem ofiary. Sztuczna inteligencja może w ten sposób podszyć się pod nadawcę. Usuwam fragment zgodnie z instrukcją (hallucination – brak potwierdzenia w danych referencyjnych):

Sygnały ostrzegawcze przy oglądaniu materiału

Niesynchronizacja między ruchami warg a dźwiękiem to klasyczny znak deepfake’u, szczególnie przy technice lip-sync. Sprawdź, czy słowa pokrywają się z układem ust, gdy postać wymawia głoski wargowe („p”, „b”, „m”). Zwróć uwagę na krawędzie twarzy – w miejscu styku z włosami czy szyją często pojawia się rozmycie lub subtelne migotanie. Nienaturalne mruganie, sztywne spojrzenie i brak drobnych ruchów mięśni twarzy to kolejne poszlaki.

Głos wygenerowany przez algorytmy AI brzmi płasko, bez naturalnego oddechu i mikropauz. Badania pokazują, że większość osób nie potrafi z pewnością odróżnić głosu sklonowanego od prawdziwego. W rozmowie telefonicznej z „bliską osobą” proszącą o pilny przelew zawsze weryfikuj tożsamość przez oddzwonienie na znany numer. Częsty błąd polega na ufaniu numerowi wyświetlonemu na ekranie – ten łatwo podrobić metodą spoofingu. Zadaj pytanie kontrolne, na które odpowiedź zna tylko prawdziwy rozmówca. Trzy główne obszary nadużyć deepfake’ów – fałszywa pornografia, wyłudzenia i dezinformacja To efekt jednej prostej zależności – metody tworzenia fałszywek stały się łatwo dostępne, tanie i nie wymagają specjalistycznej wiedzy. Narzędzia oparte na AI umożliwiające generowanie przekonującego materiału działają w kilka minut, a wiele z nich pracuje bezpośrednio w przeglądarce bez konieczności instalacji. Próg wejścia dla oszusta praktycznie zniknął.

Trzy główne obszary nadużyć

Pornografia bez zgody to dominujące zastosowanie tej technologii. Materiały pornograficzne stanowią znaczną część fałszywek krążących w sieci. krążących w sieci. Ofiarami są głównie kobiety – osoby publiczne, ale coraz częściej również uczennice, studentki i inne osoby bez statusu celebrytów. Ich zdjęcia trafiają z mediów społecznościowych do modeli generatywnych.

Wyłudzenia finansowe to drugi obszar nadużyć. Klasyczny scenariusz: sfałszowana rozmowa wideo z „prezesem” polecającym pilny przelew do zagranicznego kontrahenta. Znany przypadek pracownika międzynarodowej firmy, który przelał dużą kwotę po telekonferencji ze zmanipulowanym zarządem, pokazuje skalę ryzyka. Stosowane techniki manipulacyjne obejmują presję czasu, ekskluzywność oferty i ograniczenie „tylko dla wybranych” – dokładnie te same, których używa się w tradycyjnym phishingu.

Trzeci obszar to dezinformacja polityczna wpływająca na opinię publiczną. Według raportu Check Point z kwietnia 2024 roku do celowego wprowadzania w błąd przy użyciu treści informacyjnych doszło w dziesięciu krajach, a Polska znalazła się wśród nich. Rok 2024 był rokiem wyborów w wielu krajach na świecie. Fałszywe wypowiedzi kandydatów, spreparowane nagrania z sondaży, sklonowane głosy premierów zachęcających do bojkotu – to arsenał wpływający na percepcję społeczną wyborców.

Badania pokazują skalę problemu: 84% Polaków miało kontakt z fałszywymi informacjami. Wielu użytkowników popełnia błąd, dzieląc się „sensacyjnym” materiałem bez uprzedniej weryfikacji źródła. Przed udostępnieniem zawartości warto sprawdzić, czy pojawiła się ona w minimum dwóch niezależnych redakcjach medialnych. Uregulowanie deepfake’ów na poziomie legislacyjnym jest kluczowe – karanie za rozpowszechnianie obraźliwych i fałszywych treści z wykorzystaniem sztucznej inteligencji jest niezbędne do walki z zagrożeń związanych z tym zjawiskiem.

Ataki z wykorzystaniem AI – jak rozpoznać deepfake i zmanipulowane treści

Rozpoznawanie fałszywek wymaga dziś dwutorowego podejścia: własnej obserwacji i narzędzi automatycznych. Człowiek radzi sobie coraz gorzej – ludzie coraz gorzej radzą sobie z wykrywaniem deepfake’ów, przepuszczając znaczną część fałszywek. Intuicja nie wystarczy, potrzebna jest metoda.

Weryfikacja obrazu krok po kroku

Zacznij od kontekstu. Sprawdź, kto pierwszy opublikował materiał, kiedy i skąd pochodzi konto źródłowe. Świeże konto z niewielką liczbą obserwujących, publikujące „ekskluzywne” nagranie znanej osoby, to sygnał alarmowy. Wpisz frazę z podpisu w wyszukiwarkę razem z nazwiskiem – autentyczne wydarzenie zwykle relacjonuje kilka redakcji jednocześnie.

Następnie przyjrzyj się obrazowi. Zatrzymaj klatkę i sprawdź szczegóły: uszy, zęby, palce, biżuterię, tło. Generatory wciąż mają problem z symetrią uszu, liczbą palców i logiką odbić w lustrach czy okularach. Jeśli tło się „zlewa” albo litery na szyldach tworzą nieczytelny bełkot, materiał najprawdopodobniej pochodzi z modelu generatywnego.

Trzeci krok to dźwięk. Odsłuchaj nagranie na słuchawkach – wygenerowany głos brzmi „sucho”, bez tła akustycznego pomieszczenia, w którym rzekomo powstał. Brak szumu, echa i oddechu między zdaniami wskazuje na klonowanie.

Narzędzia i regulacje wspierające wykrywanie

Dostępne są bezpłatne detektory deepfake’ów online. Skuteczność żadnego nie sięga 100%, ale wynik „prawdopodobnie zmanipulowane” powinien wstrzymać udostępnianie. W przeglądarce warto korzystać z odwrotnego wyszukiwania obrazem. pomogą zweryfikować źródło zdjęcia. Jeśli fotografia krąży od lat w innym kontekście, mamy do czynienia z recyklingiem, nie z nowym materiałem.

Regulacyjnie sytuację porządkuje AI Act. Zgodnie z regulacjami unijnymi platformy mają obowiązek analizy zamieszczanych treści pod kątem deepfake’ów. wygenerowanych przez sztuczną inteligencję Brak takiej etykiety w treściach politycznych czy komercyjnych to sygnał, że coś jest nie tak.

Treści deepfake’owe konstruuje się według powtarzalnych schematów marketingowo-propagandowych: emocjonalny nagłówek, szokująca wypowiedź osoby publicznej, wezwanie do natychmiastowego działania. Jeśli materiał wywołuje skrajną emocję – oburzenie, panikę lub euforię – to pierwszy powód, by go zweryfikować, a nie udostępnić. Zasada „poczekaj 24 godziny przed reakcją” ratuje reputację częściej, niż mogłoby się wydawać. Deepfake w świetle prawa – kiedy rozpowszechnianie treści jest nielegalne i jakie kary grożą sprawcy Rozpowszechnianie deepfake’u wprowadza odbiorców w błąd, uruchamiając kilka reżimów odpowiedzialności: cywilny, karny i administracyjny. Odpowiedzialność cywilna dotyczy naruszenia praw i dóbr osobistych jednostki. Karna obejmuje oszustwo, zniesławienie, groźby i przestępstwa seksualne. Administracyjna wynika z AI Act i DSA. Kwalifikacja zależy od tego, co przedstawia materiał, kogo pokazuje i w jakim celu został użyty.

Kiedy materiał staje się przestępstwem

Trzy scenariusze są w praktyce najczęstsze. Pierwszy: fałszywa pornografia z wizerunkiem konkretnej osoby. Wchodzi tu w grę naruszenie dóbr osobistych – wizerunku, czci i prywatności – a w wielu porządkach prawnych również odrębne przestępstwo związane z rozpowszechnianiem intymnych wizerunków bez zgody. Włochy jako pierwszy kraj UE wprowadziły odrębne przestępstwo „deepfake”, zagrożone karą od roku do pięciu lat więzienia za nielegalne szerzenie obraźliwych i fałszywych treści generowanych przez AI.

Drugi scenariusz to wyłudzenie majątkowe. Sfałszowana rozmowa wideo z „prezesem” polecającym przelew to klasyczne oszustwo – celowe wprowadzanie w błąd co do tożsamości i rozporządzenie mieniem. Kwalifikacja karna nie zależy od użytej technologii, tylko od skutku. Sprawa pracownika międzynarodowej firmy, który przelał środki po telekonferencji ze zmanipulowanym zarządem, pokazała, że sądy traktują takie działania jak zwykłe oszustwa – z pełnymi konsekwencjami dla sprawcy i możliwością dochodzenia odszkodowania przez ofiarę.

Trzeci scenariusz to dezinformacja polityczna i publiczna. Stosuje się tu przepisy o ochronie procesu wyborczego, zniesławieniu i – w niektórych państwach – odrębne regulacje o dezinformacji. Badania pokazują, że fałszywe doniesienia rozprzestrzeniają się w mediach społecznościowych znacznie szybciej niż prawdziwe. Zasięg to jeden z czynników branych pod uwagę przez sąd przy określaniu wysokości kary.

AI Act, DSA i odpowiedzialność platform

Regulacja AI Act wymaga, aby twórcy treści generowanych przez sztuczną inteligencję je odpowiednio oznaczali. Producent deepfake’u, który pominął ten obowiązek – z wyjątkiem przypadków satyrycznych lub artystycznych – podlega karze administracyjnej. Serwisy udostępniające tego rodzaju materiały zobowiązane są do weryfikacji publikowanych danych: na mocy art. 35 ust. 1 pkt k ocena zagrożeń systemowych obejmuje przegląd treści, zaś platforma powinna monitorować materiały pod względem obecności deepfake’ów. Niedopełnienie tego warunku może skutkować dla serwisu sankcją w wysokości procent światowego przychodu.

W praktyce sprawca odpowiada za wytworzenie fałszywki, a także za każde udostępnienie zwiększające jej zasięg, gdy działał z zamiarem bezprawnego użycia.

Co zrobić, gdy sam padniesz ofiarą

Zabezpiecz dowody: pełne adresy URL, zrzuty ekranu z widoczną datą, kopie plików wideo i audio. Zgłoś naruszenie na platformie – większość serwisów ma dedykowany formularz dla treści syntetycznych. Równolegle złóż zawiadomienie o możliwości popełnienia przestępstwa na policji lub w prokuraturze. W sprawach cywilnych wezwij sprawcę do zaprzestania naruszeń oraz usunięcia treści.

Częsty błąd to zwlekanie w nadziei, że materiał sam zniknie. Im dłużej krąży, tym trudniej ograniczyć skutki, a dowody techniczne – metadane i logi – mogą zostać nadpisane. Drugi błąd to samodzielne komentowanie fałszywki w mediach społecznościowych, co zwiększa zasięg zamiast go redukować. Skorzystaj z pomocy prawnika i – w przypadku wysokiego zasięgu – specjalisty od zarządzania kryzysowego, zanim zabierzesz głos publicznie.

Najczęściej zadawane pytania

Czy deepfake’i są nielegalne?

Nie zawsze – samo tworzenie deepfake’u nie jest z góry przestępstwem, ale jego użycie już może nim być. Prawo ocenia cel i skutek: wyłudzenie, zniesławienie czy fałszywa pornografia uruchamiają odpowiedzialność karną. Włochy jako pierwsze w UE wprowadziły odrębne przestępstwo z karą do pięciu lat więzienia za szerzenie obraźliwych fałszywek.

Jak chronić się przed manipulacją AI i nie dać się oszukać fałszywym doniesieniom?

Zanim uwierzysz w informację o kryzysie, sprawdź, czy kilka niezależnych redakcji donosi o tym samym fakcie. Jeśli otrzymasz wiadomość z prośbą o szybki transfer od osoby bliskiej, zawsze zadzwoń do niej pod numer, który masz w kontaktach – nie używaj numeru z wiadomości. Postaw pytanie testowe, które zna tylko rzeczywista osoba, z którą rozmawiasz.

Czy deepfake’i zagrażają bezpieczeństwu dzieci w internecie?

Tak, i to poważnie. Fałszywa pornografia dotyka coraz częściej uczennic i studentek – zdjęcia z mediów społecznościowych trafiają do modeli generatywnych bez wiedzy ofiar. Dzieci są szczególnie narażone, bo rzadziej weryfikują źródła treści i chętniej udostępniają materiały wywołujące silne emocje. Edukacja medialna powinna obejmować rozpoznawanie treści syntetycznych już na etapie szkoły podstawowej.

Jak sztuczna inteligencja jest wykorzystywana do kradzieży tożsamości?

Algorytmy AI potrzebują kilkudziesięciu sekund nagrania głosu, by wygenerować dowolną wypowiedź brzmiącą jak ofiara. Sklonowany głos lub twarz trafiają potem do fałszywych weryfikacji tożsamości – np. przy otwieraniu kont bankowych czy potwierdzaniu transakcji. Weryfikacja wideo, traktowana jako bezpieczna metoda, okazała się podatna na ataki z użyciem spreparowanych materiałów.

Jakie narzędzia pomagają wykryć deepfake’a w kilka sekund?

Dostępne są bezpłatne detektory deepfake’ów online. Żaden nie osiąga stuprocentowej skuteczności, ale wynik „prawdopodobnie zmanipulowane” powinien wstrzymać udostępnianie. Uzupełnij analizę odwrotnym wyszukiwaniem obrazem. Zdjęcie krążące od lat w innym kontekście to sygnał recyklingu, nie nowego zdarzenia.

Artykuł ma charakter informacyjny i nie stanowi porady prawnej. W przypadku podejrzenia popełnienia przestępstwa skontaktuj się z prawnikiem lub organami ścigania.