Čo sú deepfaky?
Deepfaky sú produktom umelej inteligencie, najmä algoritmov strojového učenia a neurónových sietí, určených na tvorbu alebo úpravu videí. Táto technológia umožňuje generovať realisticky vyzerajúci, no úplne falošný obsah. Pomocou hlbokého učenia, konkrétne generatívnych protivníckych sietí (GAN), umožňujú deepfaky výmenu tvárí, úpravu synchronizácie pier a ďalšie manipulácie, ktoré dokážu veľmi presvedčivo preniesť mimiku a hlas jednej osoby na inú.
Je deepfake nelegálny?
Legalita deepfakov závisí od ich použitia. Technológia sama osebe nie je nelegálna, no jej zneužitie, napríklad na podvody, dezinformácie alebo pomstu, je trestné. Štáty ako Kalifornia a Virgínia prijali zákony proti škodlivému využívaniu deepfakov, najmä v oblasti volieb, pornografie a šírenia klamstiev.
Prečo sú deepfaky zakázané?
Deepfaky sú zakázané alebo obmedzené na mnohých platformách kvôli rizikám spojeným s dezinformáciami, falošnými správami a potenciálnymi škodám. Nesprávne používané deepfaky môžu šíriť klamstvá, napodobňovať ľudí alebo sa využívať pri podvodoch. Napríklad deepfake videá Marka Zuckerberga, Donalda Trumpa či Baracka Obamu boli medializované a ukazujú, akú silu má táto technológia pri skresľovaní reality.
Dá sa deepfake používať zadarmo?
Áno, niektoré platformy a aplikácie ponúkajú bezplatný prístup k deepfake technológii. Bezplatné verzie sú však často funkčne obmedzené. Je potrebné dávať si pozor na zneužitie a dodržiavať etické zásady.
Ako sa deepfake vytvára?
Deepfaky využívajú strojové učenie, najmä GAN (generatívne protivnícke siete). Proces zahŕňa enkóder, ktorý komprimuje obrázok, a dekóder, ktorý ho dekomprimuje, aby vytvoril nový. Pri použití dvoch datasetov (napríklad fotiek dvoch ľudí) sa enkóder naučí komprimovať snímky z oboch sád a spoločný dekóder ich obnovuje. Takto vznikajú hybridné obrázky a výmeny tvárí medzi datasetmi.
Aké sú riziká deepfakov?
Deepfaky predstavujú viacero hrozieb:
- Dezinformácie a falošné správy: Klamlivý obsah sa môže šíriť na sociálnych sieťach a ovplyvňovať verejnú mienku.
- Podvody: Kriminálnici môžu vytvárať presvedčivé deepfaky na podvodné účely.
- Pornografia z pomsty: Zlomyseľní ľudia môžu vkladať tváre do explicitného obsahu.
- Politická manipulácia: Môžu sa vytvárať falošné prejavy, vyhlásenia či podpora.
- Zneužitie v médiách: Celebrity a známe osobnosti, napríklad Tom Cruise či herci z Hollywoodu, boli takto napodobnení, čo vyvoláva zmätok a škody.
Rozdiel medzi deepfake a upraveným obrázkom?
Fotky sa dajú upravovať v programoch ako Photoshop, deepfaky však cielia hlavne na videá pomocou pokročilých algoritmov. S rozvojom technológií však vznikajú aj statické deepfake obrázky.
Najčastejšie využitie deepfakov
Deepfaky poháňané generatívnou umelou inteligenciou majú rôzne – pozitívne aj kontroverzné – využitie. Tu sú tie najhlavnejšie:
- Zábava: Deepfaky sa využívajú vo filme, virtuálnej realite a hrách na tvorbu realistických postáv a scén.
- Žurnalistika a vzdelávanie: Môžu simulovať autentické situácie na vzdelávacie účely či investigatívu – etika je tu kľúčová.
- Firemné školenia: Simulácia reálneho prostredia pre zamestnancov je s deepfakmi rýchlejšia a lacnejšia.
- Syntéza hlasu: Nejde len o vizuál, deepfaky napodobnia aj hlas, napr. pre audioknihy či asistentov.
- Deepfake ako služba: Platformy ponúkajú tvorbu deepfakov na mieru (napr. video s odkazom), často s vodoznakom na rozpoznanie syntetického obsahu.
Deepfaky v správach
Deepfaky sa kontroverzne používajú na tvorbu falošných obrázkov a videí, čo vyvoláva vážne etické a právne otázky. Objavili sa v dezinformáciách, podvodoch aj osobných útokoch. V roku 2021 sa šíril ruský deepfake amerického politika, čo vyvolalo politické napätie a zaujalo médiá ako CNN, The Guardian a The Washington Post. Tieto médiá často skúmajú dopady a využitie deepfakov v spoločnosti, vrátane ich použitia aj zneužitia v politike.
Deepfake obsah možno vytvoriť na rôznych platformách. Kvalitné deepfaky spravidla vyžadujú výkonný hardvér na desktope s Windows alebo Mac, no jednoduché deepfaky sa dajú spraviť aj na Android zariadeniach. Niektoré softvéry pridávajú vodoznaky, čo uľahčuje rozpoznanie deepfaku.
Pre ich dopad je úloha médií ako CNN, The Guardian a The Washington Post kľúčová pri informovaní verejnosti o zodpovednej práci s deepfakmi a rizikách, najmä pri tvorbe falošného obsahu.
Zhrnuté, deepfaky majú veľký potenciál pre rôzne odvetvia, ale aj zásadné riziká. Preto je pri tejto technológii nevyhnutná opatrnosť a etické zvažovanie.
Top 8 deepfake softvérov a aplikácií:
- DeepFaceLab: Veľmi populárny nástroj na tvorbu deepfake videí, obľúbený najmä v komunite na Reddite.
- FaceSwap: Open-source nástroj na tvorbu deepfakov.
- ZAO: Čínska aplikácia známa pre mimoriadne presvedčivé deepfaky.
- DeepArt: Premieňa fotky do štýlu slávnych umeleckých diel pomocou deep learningu.
- DeepDream: Projekt Googlu, ktorý mení obrázky na surrealistické umenie cez neurónové siete.
- ThisPersonDoesNotExist: GANs generujú realistické fotky neexistujúcich ľudí.
- Deepware Scanner: Nástroj na detekciu deepfakov – vyhľadáva manipulovaný obsah.
- DeepTrace: Kyberbezpečnostná firma ponúkajúca nástroje na detekciu a boj proti škodlivým deepfakom.
Deepfaky, rovnako ako každá technológia, v sebe nesú potenciál aj riziká. Ako detekciu zlepšujú firmy ako Microsoft či výskumníci z MIT, boj proti dezinformáciám pokračuje.
