Termin „deep fake”, „deepfake” zyskuje na popularności wskutek algorytmów, które są wykorzystywane przez cyberprzestępców do podszywania się pod prominentne osobistości. Eksperci nie mają wątpliwości, że za sprawą podrabiania głosu i obrazu deepfake jest zagrożeniem bardzo trudnym do rozpoznania. Dodatkowo wzrasta zapotrzebowanie na tego rodzaju usługi. Z deepfake chcą korzystać zarówno przestępcy, jak i użytkownicy, którzy mogą się spodziewać wydatku za minutę fałszywego wideo rzędu od 300 do 20 000 dolarów – podaje firma Kaspersky, która przeanalizowała rynek przestępczy w Darkwebie.
Skomentował to główny analityk danych firmy Kaspersky, który zwraca uwagę, że deepfake są coraz częściej wykorzystywane do szantażu i oszustw:
Na przykład dyrektor generalny brytyjskiej firmy energetycznej został oszukany na 243 tys. USD. Ostatecznie środki zostały przelane na konto bankowe oszusta. Sytuacja wyszła na jaw, dopiero gdy sprawca zażądał kolejnego przelewu, ale wtedy było już za późno na odzyskanie już przelanych środków.
Podobny przypadek odnotowano w Zjednoczonych Emiratach Arabskich, gdzie skradziono 400 000 USD w ramach oszustwa związanego z deepfakiem audio. Należy zauważyć, że deepfake stanowią zagrożenie również dla indywidualnych użytkowników. Mogą rozpowszechniać fałszywe informacje, zostać wykorzystane do oszustwa lub podszywać się pod inną osobę bez jej zgody. Zwiększenie umiejętności cyfrowych jest kluczem do przeciwdziałania tym zagrożeniom.
Deepfake jest całkowicie niekontrolowanym obszarem przez produkty i usługi skanujące sieć Web. W wykrywaniu oszustw lub podszywaniu się, usługi anty-spamowe, anty-phishingowe, radzą już sobie całkiem dobrze. Natomiast oprogramowanie do wykrywania deepfake albo nie istnieje, albo jest jeszcze w fazie młodzieńczej.
Jednym z popularnych narzędzi do wykrywania deepfake jest „Deepware Scan”, które wykorzystuje sztuczną inteligencję, aby wykryć deepfake w wideo. Innymi narzędziami są np. Sensity AI
i Truepic – te rozwiązania również wykorzystują algorytmy uczenia maszynowego do wykrywania tzw. manipulacji w wideo.
Należy jednak pamiętać, że wraz z rozwojem technologii deepfake, twórcy tego rodzaju materiałów również udoskonalają swoje algorytmy, aby stawały się coraz trudniejsze do wykrycia. Dlatego ważne jest, aby wykorzystać nie tylko narzędzia online, ale również weryfikować źródło wideo i szukać innych wskazówek, takich jak niezgodności w oświetleniu, ruchu postaci, nienaturalnym głosie.
Przykłady deepfake
- Podszycie się pod biznesmena w Emiratach Arabskich. Złodzieje użyli próbki głosu przedsiębiorcy i przetworzyli ją na rozmowę, której on sam nie autoryzował. Pracownik banku „nie miał wątpliwości”, że po drugiej stronie ma do czynienia z prawdziwym klientem, dlatego przyjął dyspozycję na przelew 30 milionów dolarów. Oczywiście na wskazane przez cyberprzestępców konto bankowe!
- Utworzenie szkoleniowego filmu przez aktora Jordana Peele’a (podszywanie się w wideo pod Baracka Obamę).
- Zmanipulowane nagranie Marka Zuckerberga, który mówi o tym, jak Facebook „kontroluje przyszłość” poprzez kradzież danych użytkowników. Oryginalne wideo pochodzi z przemówienia, które wygłosił na temat ingerencji Rosji w wybory w USA.
- I dużo więcej przykładów.
Jak samodzielnie rozpoznać deepfake?
Deepfake ma za zadanie zmanipulować filmem lub obrazem, w którym prawdziwa osoba lub treść została podmieniona. Technologie deepfake są coraz bardziej zaawansowane, ale istnieją pewne sposoby, które mogą pomóc wykryciu oszustwa:
- Sprawdzaj, kto opublikował film, zdjęcie. Czy jest to wiarygodne źródło? Czy to źródło zazwyczaj publikuje treści podobnego typu? Czy treść jest związana z rzeczywistymi wydarzeniami?
- Sprawdź, czy wideo lub obraz wydaje się realistyczny. Czy ruchy postaci są naturalne? Czy kolory i cienie są poprawne?
- Szukaj artefaktów: czy na wideo, obrazie występuje rozmycie, szumy lub przejścia, niespokojne mruganie oczami w stosunku do kontekstu materiału wideo, nienaturalny głos?
- Sprawdź inne źródła, które mogą potwierdzić lub zaprzeczyć publikacji.
- Użyj narzędzi do wykrywania deepfake: niektóre z nich mogą wykrywać różnice w tle, zmanipulowany dźwięk i inne.
Wykrywanie dobrze przygotowanych deepfake może być trudne, ale oprócz bardziej oczywistych cyfrowych znaków, które mogą pomóc w namierzeniu oszustwa, jak zawsze trzeba zadbać o cyfrową edukację samego siebie oraz najbliższych.
Zmanipulowane filmy i obrazy mogą być wykorzystywane do różnych złośliwych celów, w tym do oszustw finansowych, manipulacji politycznych, zemsty i nękania. Tworzenie wysokiej jakości deepfake’ów wymaga wiedzy technicznej i zaawansowanego oprogramowania, dlatego osoby chcące tworzyć fałszywe media szukają usług tworzenia deepfake’ów dostępnych w sieci, które nie są tanie.
