Anna znie úplne zúfalo. Plačlivým hlasom otcovi oznámi, že mala autonehodu a okamžite potrebuje peniaze na zaplatenie odťahovej služby. Otec neváha a v dobrej viere jej pošle 500 eur. Netuší však, že na druhej strane telefónu nie je jeho dcéra, ale podvodníci.
Príbeh je vymyslený, no samotné riziko je skutočné. Pri takzvaných deepfake telefonátoch zločinci pomocou umelej inteligencie klonujú hlasy blízkych ľudí a následne na svoje obete vytvárajú emocionálny tlak, aby ich pripravili o úspory.
To, čo bolo kedysi skôr technologickou kuriozitou, sa dnes stáva nástrojom na podvody, manipuláciu a rozsiahle šírenie dezinformácií. Technológia totiž v posledných rokoch výrazne pokročila. Na vytvorenie presvedčivej napodobeniny hlasu dnes podvodníkom môže stačiť len niekoľko sekúnd zvukovej nahrávky z verejného videa na sociálnej sieti alebo hlasovej správy. Pri falošnom videu im môže postačiť niekoľko fotografií.
Na vytváranie takýchto podvrhov navyše nepotrebujú špeciálne programátorské znalosti. Výkonné a jednoducho ovládateľné nástroje umelej inteligencie sú voľne dostupné na internete.
Deepfake oslabuje dôveru
Umelá inteligencia výrazne zjednodušuje podvody a umožňuje ich realizovať vo väčšom meradle. V praxi to znamená, že presvedčivé podvody môže pripraviť takmer ktokoľvek. Doterajšie signály, podľa ktorých sme posudzovali dôveryhodnosť – napríklad známy hlas alebo tvár – preto postupne strácajú svoju spoľahlivosť. Dôvera medzi ľuďmi sa oslabuje a narastá potreba všetko si overovať.
Ako rozpoznať deepfake podvod
Deepfake útoky sa netýkajú iba jednotlivcov. Terčom sú aj firmy. Príkladom je takzvaný CEO fraud, pri ktorom sa podvodníci vydávajú za šéfov spoločností a telefonicky alebo prostredníctvom videa nariaďujú zamestnancom urgentne schváliť platby.
Rýchlo sa šíria aj zmanipulované rozhovory či videá, v ktorých známe osobnosti hovoria veci, ktoré v skutočnosti nikdy nepovedali. Takéto deepfaky môžu stačiť na rozšírenie nepravdivých informácií, ktoré poškodia povesť človeka.
Dobrou správou je, že voči deepfake podvodom nie sme úplne bezbranní. Pri útokoch sa totiž opakujú určité vzorce. Podvodníci často využívajú psychologické triky, ktorými sa snažia vzbudiť dôveru a obísť prirodzenú opatrnosť obete.
Nečakaný kontakt: Podvodný telefonát alebo správa prichádza často nečakane a v nezvyčajnom čase – napríklad počas dopravnej špičky, neskoro večer alebo cez víkend. Útočníci cielene využívajú chvíle, keď sme unavení, vystresovaní alebo rozptýlení a nedokážeme na situáciu reagovať s dostatočným odstupom.
Časový tlak: Ďalším typickým znakom je umelo vytvorený pocit naliehavosti. Podvodník tvrdí, že rozhodnutie alebo platbu treba vykonať okamžite, prípadne v priebehu niekoľkých minút. Cieľom je zabrániť obeti premýšľať, overiť si informácie alebo sa poradiť s niekým ďalším.
Emocionálny nátlak: Kritické myslenie sa podvodníci snažia potlačiť aj vyvolaním silných emócií. Môžu vzbudzovať strach, súcit alebo pocit, že blízky človek je v bezprostrednom nebezpečenstve.
Nezvyčajná požiadavka na platbu: Podozrivé by mali byť aj požiadavky na prevod peňazí mimo bežného postupu – napríklad cez neobvyklý kanál alebo na účet, ktorý nepoznáte. Varovným signálom je aj požiadavka, aby ste počas telefonátu nadiktovali heslo do bankovej aplikácie.
Chýbajúci kontext: Hlas či video vytvorené umelou inteligenciou môžu pôsobiť prekvapivo realisticky. Často im však chýba širší kontext. Deepfake napríklad nemusí nadväzovať na predchádzajúce rozhovory, ktoré ste s daným človekom skutočne viedli. Príbeh môže pôsobiť, akoby vznikol úplne z ničoho. Podvod môže prezradiť aj neprirodzené zaváhanie, pauzy alebo slovník, ktorý sa k napodobňovanej osobe vôbec nehodí.
Čím lepšie tieto typické vzorce poznáte, tým skôr môžete podvod odhaliť. Ak máte pochybnosti, pomôže krátke overenie. Danú osobu kontaktujte iným dôveryhodným spôsobom – napríklad jej zavolajte späť na telefónne číslo, ktoré máte uložené vo svojom mobile.
Buďte pripravení na digitálne hrozby
Informovanosť patrí medzi najdôležitejšie spôsoby, ako sa chrániť pred deepfake podvodmi a ďalšími nástrahami digitálneho sveta. Je preto dôležité venovať pozornosť témam, ako sú kybernetická bezpečnosť, falošné správy, ochrana osobných údajov či bezpečné používanie umelej inteligencie.
Čím viac človek o týchto hrozbách vie, tým ľahšie dokáže rozpoznať podozrivé situácie a zachovať si chladnú hlavu. Práve dostatok informácií môže pomôcť predísť unáhleným rozhodnutiam – napríklad v situácii, keď sa niekto pokúša získať peniaze alebo citlivé údaje pomocou falošného hlasu, videa či identity.
Tento článok pochádza z partnerského webu vydavateľstva Ringier.
