Tak zwane aplikacje sztucznej inteligencji, takie jak Zao, wzbudzały kontrowersje związane z ich potencjalnie niewłaściwym wykorzystaniem mającym na celu pokonanie systemów rozpoznawania twarzy. Chińska aplikacja wideo Deepfake okazała się bardzo popularna, ponieważ użytkownicy dobrze się bawili, przeszczepiając swoje twarze cyfrowe na materiał filmowy i popularne programy telewizyjne, takie jak „Gra o tron”.
Filmy z głębokimi fałszywkami nie są jedynym obszarem budzącym obawy. Umiejętność tworzenia wiarygodnych dźwięków naśladujących głos prawdziwych ludzi, budzi duży niepokój ze względu na możliwość popełnienia nadużyć przez przestępców i oszustów. Raport w The Wall Street Journal donosi, że że jeden z szefów brytyjskiej firmy energetycznej został oszukany na 243 000 $. Dyrektor naczelny stracił czujność, ponieważ wierzył, że rozmawia ze swoim szefem z niemieckiej macierzystej spółki. Bez zastanowienia więc przelał 220 000 EUR (około 243 000 USD) do banku , który według niego był kontem bankowym węgierskiego dostawcy.
Rüdiger Kirsch, ekspert ds. oszustw w firmie ubezpieczeniowej, stwierdził WSJ, iż oszuści przekonali dyrektora, że płatność jest pilna i że powinna zostać dokonana w ciągu godziny. Informacja wydała się wiarygodna, ponieważ brytyjski dyrektor generalny rozpoznał „niewielki niemiecki akcent swojego szefa” ”I„ melodię ”jego głosu w telefonie. Sprytnie wyłudzone pieniądze zostały przelane na konto przechwycone przez przestępców na Węgrzech, a następnie na kolejne w Meksyku. Kiedy oszuści ponownie spróbowali podstępu, prosząc o kolejną płatność, brytyjska firma zaczęła podejrzewać przestępstwo, zauważając, że połączenia pochodziły raczej z Austrii niż z Niemiec. To, co sprawia, że Kirsch wierzy, że stosowana jest technologia głębokiego fałszowania, a nie tylko działania kogoś, kto jest naprawdę dobry w naśladowaniu głosu.
Media sugerują, że jest to pierwszy odnotowany przypadek użycia fałszywego użycia dźwięku przez oszustów. Kilka miesięcy temu przedstawiciel firmy ochroniarskiej Symantec powiedział BBC News , że wie o trzech przypadkach, w których „pozornie sfałszowane audio” różnych dyrektorów naczelnych wykorzystano do oszukiwania pracowników w celu przelewania pieniędzy na konta bankowe pod kontrolą oszustów. Niestety, kiedy zapytałem pracownika Symantec o dodatkowe informacje, nie był w stanie potwierdzić, kim były ofiary, ani nawet w jakim kraju miały siedzibę dotknięte firmy.
Oczywiste jest, że niezależnie od metody podjętej w celu przekonania pracowników, że rozmawiają z kimś, kim nie są, należy wprowadzić systemy i procedury potwierdzające, że duże transfery pieniężne lub wrażliwe dane są odpowiednio autoryzowane. Zwykłe połączenie telefoniczne nie może już być uważane za wystarczające.
Źródło: Bitdefender
