Fałszywy głos prezesa, zmanipulowane nagranie polityka. Myślisz, że nie nabierzesz się na deepfake?

Od fałszywych wypowiedzi znanych osób, przez próby wyłudzeń z wykorzystaniem „sklonowanych” głosów, aż po nielegalne treści o charakterze intymnym – spektrum zastosowań technologii deepfake jest szerokie i niepokojące.

Oszukać może się dać każdy, niezależnie od wieku czy poziomu wiedzy technologicznej. Deepfake potrafi zwieść zarówno osoby starsze, jak i doświadczonych specjalistów, dziennikarzy czy menedżerów. Uważajmy na takie treści szczególnie w obliczu aktualnej sytuacji geopolitycznej. Prorosyjska propaganda może szczególnie intensywnie wykorzystywać technologie deepfake w najbliższym czasie.

Coraz częściej odnotowuje się przypadki, w których deepfake’i prowadziły do realnych strat finansowych i reputacyjnych, wprowadzając w błąd osoby na wysokich stanowiskach czy o szerokiej wiedzy technologicznej i znajomości procedur bezpieczeństwa. W Hongkongu głośnym echem odbił się incydent, w którym pracownik firmy przesłał oszustom równowartość ponad 20 mln dolarów po wideokonferencj i, na której wszyscy uczestnicy – w tym „dyrektor finansowy” – okazali się wygenerowani przez AI. Na całym świecie coraz częściej raportowane są próby wyłudzeń z wykorzystaniem sklonowanych głosów prezesów i menedżerów, którzy telefonicznie rzekomo proszą o pilne przelanie środków. W sieci wielokrotnie pojawiały się również zmanipulowane nagrania przywódców państw, takich jak np. Volodymyr Zełenski czy Joe Biden, w których wypowiadają się na tematy, których nigdy nie poruszali. Takie materiały potrafią błyskawicznie rozprzestrzeniać się w mediach, wprowadzając w błąd miliony odbiorców.

– Zdolności generatywnej sztucznej inteligencji rozwijają się w błyskawicznym tempie. Wkrótce nawet doświadczeni użytkownicy będą mieli trudność w odróżnieniu materiałów autentycznych od wygenerowanych. Jeszcze do niedawna zakładaliśmy, że ofiarami manipulacji padają głównie osoby starsze czy mniej obeznane z technologią, dziś jednak zagrożenie dotyczy absolutnie każdego. Deepfake potrafi oszukać specjalistę, dziennikarza czy menedżera wysokiego szczebla i to w sytuacjach, które wymagają szybkiej reakcji. Dlatego musimy przygotować się zarówno technologicznie, jak i regulacyjnie, a także indywidualnie, pod względem świadomości i krytycznego podejścia do treści, które konsumujemy na co dzień – podkreśla Kamil Sadkowski, analityk cyberzagrożeń w ESET.

Czym właściwie jest deepfake?

To najczęściej wideo, nagranie audio lub obraz, który został wygenerowany bądź zmodyfikowany przy użyciu sztucznej inteligencji, aby wyglądał lub brzmiał autentycznie. Wykorzystuje się do tego techniki uczenia maszynowego. Z pomocą tysięcy próbek zdjęć czy nagrań głosu, algorytmy uczą się odtwarzać czyjąś twarz, mimikę, głos czy gesty. Dziś takie narzędzia są dostępne nie tylko dla ekspertów, a proste aplikacje webowe pozwalają eksperymentować nawet osobom bez wiedzy technicznej. To obniża próg wejścia również dla cyberprzestępców i oznacza, że nie muszą być już programistami – wystarczy im pomysł na atak.

Dlaczego to tak duże zagrożenie?

Bo deepfake’i coraz częściej wymykają się z internetu do świata realnych konsekwencji. Mogą podważyć reputację polityka, doprowadzić do utraty milionów w korporacji czy zniszczyć życie prywatne zwykłej osoby. Najbardziej niepokojące jest to, że ofiarami padają nie tylko seniorzy czy osoby mniej obeznane z technologią, lecz także profesjonaliści. Autentyczne historie ofiar pokazują, że zmanipulować można nawet pracowników świadomych ryzyka i procedur bezpieczeństwa. Deepfake’i potrafią też oszukać systemy biometryczne, umożliwiając obejście zabezpieczeń finansowych czy autoryzacji dostępu.

Jak nie dać się nabrać?

Choć technologia jest coraz bardziej zaawansowana, wciąż istnieją sygnały ostrzegawcze. To m.in. nienaturalne oświetlenie i zbyt gładka tekstura skóry, nieprawidłowe mruganie, źle zsynchronizowany ruch ust z głosem czy nietypowe artefakty na krawędziach obrazu. Pomocne bywają też narzędzia do weryfikacji metadanych czy wyszukiwarki obrazów umożliwiające sprawdzenie źródła pliku. Coraz częściej stosuje się również wyspecjalizowane rozwiązania, takie jak Microsoft Video Authenticator czy OpenVINO od Intela, które analizują materiał pod kątem cyfrowych zniekształceń.

Prawo próbuje nadążyć

Regulacje takie jak amerykański Take It Down Act czy europejski AI Act, to krok w stronę większej ochrony użytkowników, ale prawo z natury reaguje wolniej niż innowacje. Dlatego eksperci są zgodni: zanim legislacja zacznie realnie chronić internautów, konieczne jest budowanie świadomości i edukowanie użytkowników w zakresie rozpoznawania manipulacji.

Co możemy zrobić?

Przede wszystkim warto rozwijać krytyczne myślenie i nie wierzyć we wszystko , co widzimy lub słyszymy online. Kluczowe jest sprawdzanie źródeł, korzystanie z serwisów fact-checkingowych i edukowanie się w zakresie rozpoznawania manipulacji. Organizacje mogą dodatkowo wdrażać procedury weryfikacji treści, stosować narzędzia do detekcji deepfake’ów i szkolić pracowników, jak reagować w przypadku podejrzenia manipulacji. Im szybciej zrozumiemy, że era „zobaczyć to uwierzyć” bezpowrotnie minęła, tym większe mamy szanse, by nie stać się kolejną ofiarą cyfrowej manipulacji.

Źródło: ESET