MrDeepFake: Etinė dilema, atpažinimas ir apsauga
Skaitmeninių technologijų amžiuje deepfake technologija sukėlė rimtų etinių diskusijų ir nerimą. Viena žymiausių deepfake platformų yra MrDeepFake. Šiame straipsnyje aptariame įvairius deepfake aspektus: nuo jų apibrėžimo ir neigiamų pasekmių iki etiškos AI alternatyvos.
Kas yra deepfake?
Deepfake'ai – tai sintetinė medija, sukurta naudojant pažangius DI sprendimus, tokius kaip giluminis mokymasis, neuroniniai tinklai ir generatyvūs priešiški tinklai (GAN). Jie jungia esamus vaizdus, vaizdo ar garso įrašus su naujais elementais, dažnai sukuriant itin realistišką klastotę.
Deepfake tipai
Skaitmeniniame amžiuje deepfake fenomenas sparčiai keičia medijos manipuliacijos pasaulį, trinant ribas tarp tikrovės ir fantazijos. Štai keletas dažniausių deepfake pavyzdžių – būkite budrūs:
Deepfake pornografija
Deepfake pornografija – kai asmens veidas be sutikimo uždedamas ant pornografinių vaizdo / foto medijų – kelia didelį nerimą. Aukomis tapo žvaigždės, tokios kaip Taylor Swift, Gal Gadot, Scarlett Johansson, ir žinomi socialinių tinklų veikėjai iš TikTok, Discord platformų.
Deepfake vaizdai
Deepfake vaizdai – tai retušuotos statinės nuotraukos, kur vartotojai sklandžiai uždeda kito žmogaus veidą ar keičia išraiškas per Photoshop, veidų keitimo ar kitą AI programinę įrangą.
Deepfake vaizdo įrašai
Deepfake vaizdo įrašuose keičiama judančių vaizdų animacija, veidai arba veiksmai ir dialogai. Pvz., realistiškame deepfake įraše buvo matomas Tom Cruise, nors jis iš tiesų nebuvo filmuotas.
Deepfake garso įrašai
Deepfake garso įrašai manipuliuoja kalbos maniera ir intonacija, sukurdami sintetinį balsą. Naujausias pavyzdys: Joe Biden robocall, kuriuo Naujojo Hampšyro rinkėjai buvo raginami nedalyvauti pirminiuose rinkimuose.
Deepfake muzika
Deepfake'ai leidžia kurti dainas, imituojančias žinomų atlikėjų balsą ar stilių, o tai kelia painiavą ir autorinių teisių klausimus. Pvz., TikTok vartotojas Ghostwriter977 sukūrė AI dueto įrašą ir teigė, kad tai Drake ir The Weeknd duetas, kuris greitai išplito Reddit bendruomenėje.
Kas yra MrDeepFake?
MrDeepFake – tai didžiausia pasaulyje deepfake pornografijos svetainė, kas mėnesį sulaukianti 14 mln. lankytojų. Nors svetainė populiari, ji tapo visuomenės ir etinių rūpesčių dėl nesuvaldyto netikros atviros medžiagos plitimo simboliu. Tai kelia klausimų dėl sutikimo, privatumo ir technologijų etikos ribų.
MrDeepFake ir netikra žvaigždžių pornografija: etika
MrDeepFake iškilimas sukėlė rimtų etinių klausimų, ypač dėl suklastotos žvaigždžių pornografijos kūrimo ir platinimo. Vieni tai laiko kūrybine laisve ar pramoga, kiti smerkia už privatumo pažeidimą ir neteisėtą išnaudojimą. Žvaigždžių veido „uždėjimas“ ant atviros medžiagos be jų sutikimo pažeidžia privatumą, orumą ir skatina nepageidaujamą seksualinį išnaudojimą.
Ar deepfake'ai etiški?
Deepfake etiką lemia sutikimo, privatumo ir galimos žalos klausimai. Etikos laikymasis priklauso nuo aiškaus atskleidimo, informuoto sutikimo ir pagarbos asmens teisėms.
Etinis vs. neetiškas deepfake naudojimas
Labai svarbu atskirti etišką ir neetišką deepfake naudojimą:
- Etiškas deepfake naudojimas: menas, satyra, pramogos, jei laikomasi sutikimo ir gerbiamos teisės.
- Neetiškas deepfake naudojimas: deepfake kūrimas ir platinimas siekiant pakenkti, pvz., priekabiavimui, šmeižtui, viešosios nuomonės manipuliacijai.
Ar deepfake'ai legalūs?
Kai kuriose šalyse priimti įstatymai, kriminalizuojantys deepfake be sutikimo kūrimą ir platinimą, tačiau teisinės normos skiriasi. Bent 10 JAV valstijų turi teisės aktus, nukreiptus prieš nesutiktą deepfake pornografiją. Georgija, Havajai, Teksasas ir Virdžinija tokių įrašų kūrimą ir platinimą jau įvardija nusikaltimu, o Kalifornija ir Ilinojus suteikia aukoms teisę kreiptis į teismą. Minesota ir Niujorkas taiko platesnes priemones, susijusias ne tik su pornografija, bet ir su deepfake politikoje.
Deepfake pasekmės
Deepfake plitimas turi rimtų pasekmių visuomenei:
Dezinformacija & melagienos
Deepfake'ai skleidžia klaidingas naujienas ir kuria sumaištį, taip prisidėdami prie didelio masto dezinformacijos. Rusijos ir Kinijos propagandistai naudoja deepfake'us viešajai nuomonei JAV ir Ukrainoje manipuliuoti. Tokie įrašai iškraipo informaciją ir mažina pasitikėjimą žiniasklaida bei demokratija. Reikia patikimų atpažinimo ir prevencijos priemonių.
Istorinis revizionizmas
Gali būti iškreipiami istoriniai faktai arba autentiški įrašai vadinami deepfake'ais, taip menkinant įrašų tikrumą. Politikos srityje, pvz., Trumpas ar Obama galėtų tapti manipuliuoto vaizdo subjektu. Taip vis sunkiau atskirti faktą nuo fikcijos, todėl būtina ginti istorijos autentiškumą.
Šantažas ar keršto deepfake pornografija
Deepfake'ai itin pavojingi per šantažą ar keršto pornografiją – jie pažeidžia žmogaus privatumą ir orumą. Šantažo atveju grasinama paviešinti deepfake įrašus viešai ar artimoje aplinkoje, jei nebus įvykdyti reikalavimai. Tai sukelia stiprų emocinį stresą, griauna reputaciją, kenkia karjerai ir gerovei. Keršto atvejais deepfake'ai naudojami sukurti netikrą intymų turinį be sutikimo ir platinti internete ar aukos aplinkoje.
Kaip sustabdyti MrDeepFake pornografiją
Norint kovoti su deepfake pornografija, pvz., MrDeepFake svetainėje, būtinos įstatyminės, techninės ir AI saugos priemonės. Štai kaip galime stabdyti MrDeepFake pornografiją:
Kaip politikai galėtų sustabdyti deepfake'us
JAV teisėsaugos institucijos priima sprendimus dėl deepfake pornografijos draudimo – 10 valstijų jau patvirtino įstatymus prieš nesutikimo deepfake'us. Jie baudžia kūrėjus ir platintojus, leidžia aukoms kreiptis į teismą. Po AI nuotraukų su Taylor Swift virtinės visoje šalyje didėja spaudimas įteisinti griežtą atsakomybę už deepfake pornografijos kūrimą ir platinimą, tam yra abipartinė parama.
Veiksmingų įstatymų komponentai
Reikia stiprių įstatymų, kurie saugotų asmens teisę į atvaizdą ir atgrasytų piktavalius nuo DI technologijų išnaudojimo. Efektyvūs teisės aktai turi suderinti apsaugą ir žodžio laisvę.
Amerikos teisėkūros taryba siūlo įstatymus, baudžiančius už nesutikimo deepfake turėjimą ir platinimą, ypač jei dalyvauja nepilnamečiai. Tuo pat metu federaliniu lygiu siekiama suteikti žmonėms daugiau teisių į jų atvaizdą ir balsą bei teisę teisme ginti savo interesus nuo piktnaudžiavimo. Daugelyje valstijų svarstomos panašios įstatymų iniciatyvos.
Kaip socialiniai tinklai galėtų sustabdyti deepfake'us
Baltųjų rūmų atstovė Karine Jean-Pierre pareiškė, kad socialiniai tinklai turi patys kurti ir laikytis taisyklių, kad sustabdytų deepfake'ų ir dezinformacijos, įskaitant Swift atvejį, plitimą.
Socialinės medijos platformos taiko įvairius būdus deepfake pornografijos mastui mažinti. Vienas pagrindinių – deepfake aptikimo algoritmai, kurie atpažįsta ir žymi manipuliuotą turinį. Pvz., Zuckerberg'o Facebook tyrėjai sukūrė DI, gebančią aptikti deepfake'us naudojant atvirkštinės inžinerijos analizę.
Kaip AI platformos galėtų sustabdyti deepfake'us
Be socialinių tinklų, atsakomybės turi prisiimti ir AI platformos. Šios kompanijos turėtų riboti deepfake kūrimą ir reikalauti aiškaus sutikimo prieš kuriant balso klonus ar kitą panašų turinį.
Kaip atpažinti deepfake'ą
Aptikti deepfake'ą padeda kompleksinis požiūris – technologiniai įrankiai ir žmogaus budrumas:
- Vizualūs neatitikimai: tikrinkite veido bruožų, gestų, apšvietimo ar fono nelogiškumus.
- Garso klaidos: analizuokite kalbos modelius, balso ypatybes – ieškokite nenatūralių detalių.
- Išplėstiniai algoritmai: naudokite deepfake detekavimo programinę įrangą, kuri aptinka subtilesnius manipuliacijų ženklus.
Kaip apsisaugoti nuo deepfake'ų
Žmonės gali imtis aktyvių veiksmų, kad apsisaugotų nuo deepfake keliamos grėsmės:
- Budrumas: būkite informuoti apie deepfake rizikas ir paplitimą.
- Švietimas: mokykite save ir kitus deepfake kūrimo bei atpažinimo technikų – ugdykite skaitmeninį raštingumą ir kritinį mąstymą.
- Advokacija: remkite atsakingą DI naudojimą ir kovokite su nelegaliu deepfake turiniu, pvz., per Change peticiją prieš MrDeepFake svetainę.
- Deepfake atpažinimo įrankiai: naudokite detekcijos įrankius, kad realiu laiku įvertintumėte vaizdo autentiškumą.
Geriausi deepfake atpažinimo įrankiai
Garso ir vaizdo turiniui tampant sudėtingesniam, atsiranda vis daugiau atpažinimo įrankių. Štai keli geriausi, padedantys atskirti tikrovę nuo suklastotos informacijos:
- Intel Real-Time Deepfake Detector: Intel pristatė FakeCatcher – realaus laiko deepfake atpažinimo sistemą su 96 % tikslumu (testuota BBC), kuri klastotes nustato per milisekundes. Ji aptinka tikrumo žymes, pvz., „kraujo tėkmės“ pokyčius pikseliuose.
- Microsoft Video Authenticator: šis įrankis analizuoja nuotraukas ir vaizdo įrašus bei suteikia pasitikėjimo balą manipuliacijos tikimybei įvertinti. Aptinka pilkumo niuansus ir deepfake sujungimų ribas, leidžia greitai susekti klastotes.
- Deepware Scanner: atviro kodo įrankis, vedantis deepfake tyrimus nuo 2018 m. Naudodamas ML sugeba rasti pakeistus veidus turinyje, reikia bent vieno tikro veido palyginimui, analizuoja deepfake vaizdo įrašus iki 10 min. ir pateikia pilną ataskaitą apie AI turinio autentiškumą.
- Sensity: technologijų priešakyje – atpažįsta pažangias AI, pvz., Dall-E, Stable Diffusion, FaceSwap, Midjourney, terpių klastotes per API. Gali aptikti sintetinius veidus socialiniuose tinkluose ar realistišką „veidų sukeitimą“ vaizdo įrašuose.
Speechify Studio: #1 etiška AI platforma
Speechify Voice Over Studio – tai pirmaujanti etiško AI redagavimo platforma, nustatanti standartą sintetinės kalbos technologijoms. Ji siūlo virš 200 balsų įvairiomis kalbomis ir akcentais – lengvai kurkite interaktyvų turinį. Platformoje yra 1 paspaudimo AI įgarsinimas, vaizdo efektai, balso klonavimas ir kt.
Svarbiausia – Speechify Voice Over Studio laikosi etikos: balso klonavimui reikia tik jūsų balso ir aiškaus sutikimo. Taip padedama sustabdyti deepfake plitimą.
Tai puikus pasirinkimas kuriant turinį socialinėms medijoms, vaizdo įrašams, audioknygoms, tinklalaidėms. Pakelkite savo turinį į naują lygį – išbandykite Speechify Studio nemokamai jau šiandien.
DUK
Kuo skiriasi dezinformacija nuo melagienų?
Dezinformacija – tyčia platinama klaidinga informacija, skirta suklaidinti; melagiena – neteisinga ar netiksli informacija, platinama ne visada sąmoningai norint klaidinti.
Kaip atpažinti, kad kažkas yra deepfake?
Deepfake'ą išduoda nenatūralios veido išraiškos, judesiai, garso ar vaizdo neatitikimai, šviesos ir šešėlių nenuoseklumas.
Kuo deepfake skiriasi nuo papildytos realybės?
Deepfake keičia ar kuria mediją, dažniausiai video / garso turinį, siekiant klaidinančio turinio. Papildyta realybė (AR) uždeda skaitmeninius elementus ant realaus pasaulio (pvz., per telefono programą ar prietaisą), kad pagerintų vaizdą.
Ar deepfake yra menas?
Deepfake technologiją galima naudoti kūrybai, bet dažniausiai ji taikoma medijos manipuliacijoms apgaulingais ar žalingais tikslais, todėl savaime menu nelaikoma.
Kaip deepfake gali paveikti liudytojus?
Deepfake'ai gali kelti abejonių dėl liudytojų parodymų tikrumo, trukdyti teisminiams procesams ir mažinti pasitikėjimą liudytojų įrodymais.
Ar deepfake pakeitė politiką?
Taip, deepfake'ai paveikė politiką. Pasak CNN, deepfake įrašai, imituojantys politikus, plačiai paplito internete. Tiriamas deepfake'ų naudojimas Indijos politikoje ir robokalbiai su Biden'o balsu.
