Podle Světového ekonomického fóra (WEF) se počet online deepfake videí každým rokem zvyšuje o 900 %. Několik pozoruhodných případů hluboce falešných podvodů se dostalo do novinových titulků se zprávami o obtěžování, pomstě a kryptografických podvodech. Výzkumníci společnosti Kaspersky vrhli světlo na tři hlavní podvodná schémata využívající deepfakes, na které by si uživatelé měli dát pozor.
Použití umělých neuronových sítí, hlubokého učení a tedy techniky hlubokého klamu umožňuje uživatelům na celém světě digitálně měnit své tváře nebo těla, a tak vytvářet realistické obrázky, video a audio materiály, kde může kdokoli vypadat jako někdo jiný. Tato zmanipulovaná videa a obrázky se často používají k šíření dezinformací a jiným škodlivým účelům.
finanční podvod
Deepfakes mohou být předmětem technik sociálního inženýrství, které využívají obrázky vytvořené zločinci, aby se vydávali za celebrity, aby nalákali oběti do jejich pastí. Například uměle vytvořené video Elona Muska slibující vysoké výnosy z pochybného investičního schématu kryptoměn se loni rychle rozšířilo a uživatelé tak přišli o peníze. Podvodníci používají obrázky celebrit k vytváření falešných videí, jako je toto, spojují stará videa a spouštějí živé přenosy na platformách sociálních médií, přičemž slibují zdvojnásobení všech plateb za kryptoměny, které jim budou zaslány.
pornografický deepfake
Dalším využitím deepfakes je narušení soukromí jednotlivce. Deepfake videa mohou být vytvořena překrytím obličeje osoby na pornografické video, což způsobí velké škody a utrpení. V jednom případě se na internetu objevila hluboce falešná videa, na kterých byly obličeje některých celebrit překryty na tělech pornografických hereček v explicitních scénách. V důsledku toho je v takových případech poškozena pověst obětí útoků a porušována jejich práva.
Podnikatelská rizika
Často se deepfakes používají k zacílení podniků na trestné činy, jako je vydírání od vedení společností, vydírání a průmyslová špionáž. Například pomocí hlasu deepfake se kyberzločincům podařilo oklamat bankovního manažera v SAE a ukrást 35 milionů dolarů. V tomto případě stačila jen malá nahrávka hlasu jeho šéfa, aby se vytvořil přesvědčivý deepfake. V jiném případě se podvodníci pokusili oklamat největší kryptoměnovou platformu Binance. Výkonný ředitel Binance řekl „Děkuji!“ o schůzce Zoom, které se nikdy nezúčastnil. Byl překvapen, když začal dostávat zprávy. Útočníkům se podařilo vytvořit deepfake s veřejnými obrázky manažera a implementovat ho tak, že mluvili jménem manažera na online schůzce.
FBI varuje personální manažery!
Obecně platí, že účely podvodníků využívajících deepfakes zahrnují dezinformace a veřejnou manipulaci, vydírání a špionáž. Podle výstrahy FBI jsou manažeři lidských zdrojů již ve střehu před používáním deepfakes uchazeči o práci na dálku. V kauze Binance útočníci použili obrázky skutečných lidí z internetu k vytvoření deepfake a dokonce přidali jejich fotografie do životopisů. Pokud se jim podaří takto oklamat personalisty a následně dostanou nabídku, mohou následně ukrást data zaměstnavatele.
Deepfakes jsou i nadále nákladnou formou podvodu, který vyžaduje velký rozpočet a jehož počet roste. Dřívější studie společnosti Kaspersky odhaluje cenu deepfakes na darknetu. Pokud běžný uživatel najde na internetu software a pokusí se jej deepfake, výsledek bude nereálný a podvodný je nasnadě. Málokdo věří na nekvalitní deepfake. Okamžitě si může všimnout zpoždění ve výrazu obličeje nebo rozmazaného tvaru brady.
Kyberzločinci proto při přípravě na útok potřebují velké množství dat. Stejně jako fotografie, videa a hlasy osoby, za kterou se chtějí vydávat. Různé úhly, světelný jas, mimika, to vše hraje velkou roli ve výsledné kvalitě. Aby byl výsledek realistický, je vyžadován aktuální počítačový výkon a software. To vše vyžaduje velké množství zdrojů a přístup k tomuto zdroji má jen malý počet kyberzločinců. Proto deepfake stále zůstává extrémně vzácnou hrozbou, navzdory nebezpečí, které může představovat, a může si ho dovolit jen malý počet kupujících. Ve výsledku tak cena minutového deepfakeu začíná na 20 XNUMX dolarech.
„Někdy mohou mít rizika spojená s reputací velmi vážné důsledky“
Dmitry Anikin, hlavní bezpečnostní specialista ve společnosti Kaspersky, říká: „Jednou z nejvážnějších hrozeb, které Deepfake pro podniky představuje, není vždy krádež podnikových dat. Někdy mohou mít reputační rizika velmi vážné důsledky. Představte si, že ve videu vysílá váš manažer polarizující poznámky na (zdánlivě) citlivá témata. Pro společnost by to mohlo vést k rychlému poklesu cen akcií. I když jsou rizika takové hrozby extrémně vysoká, šance na hacknutí tímto způsobem jsou extrémně nízké kvůli nákladům na vytvoření deepfake a velmi málo útočníků dokáže vytvořit vysoce kvalitní deepfake. Co s tím můžete udělat, je uvědomit si klíčové vlastnosti deepfake videí a být skeptičtí vůči hlasovým zprávám a videím, které k vám přicházejí. Také se ujistěte, že vaši zaměstnanci chápou, co je deepfake a jak ho mohou rozpoznat. Například známky jako trhavý pohyb, změny v odstínu pleti, podivné mrkání nebo žádné mrkání budou indikativní.“
Nepřetržité sledování zdrojů darknetu poskytuje cenné vhledy do odvětví deepfake a umožňuje výzkumníkům sledovat nejnovější trendy a aktivity aktérů hrozeb v tomto prostoru. Sledováním darknetu mohou výzkumníci odhalit nové nástroje, služby a tržiště používané pro vytváření a distribuci deepfakes. Tento typ monitorování je kritickou součástí hlubokého výzkumu a pomáhá nám lépe porozumět vyvíjejícím se hrozbám. Služba Kaspersky Digital Footprint Intelligence zahrnuje tento typ monitorování, aby pomohla svým zákazníkům zůstat o krok napřed, pokud jde o hrozby související s deepfake.