Vrijeme kad je montirana fotografija uz pomoć Photoshop-a bila vrhunac manipulacije slikom odavno je prošlo – stiže nešto mnogo “dublje”. Uz pomoć vještačke inteligencije danas je moguće generisati zvuk ili video, te na osnovu nečeg realnog stvoriti sadržaj koji je prilično vjeran, ali u potpunosti montiran. Hajde da uprostimo.
Uzmimo za primjer video u kojem se pojavljuje virtuelni klon Morgana Frimena, jednog od najpoznatijih svjetskih glumaca.
Impresivni “deepfake” snimak napravio je stručnjak za vještačku inteligenciju Bob de Jong, dok je glas lažnom Frimenu posudio holandski glasovni glumac But Šouvink. Rezultat je nevjerovatno realističan video koji briše granice između stvarnog i digitalnog svijeta – izgled, mimika ili glas toliko su uvjerljivi da oko prosječnog posmatrača ne vidi razliku.
Brojne kompanije takmiče se u ovoj oblasti i u ponudi je mnogo programa za „deepfake“. Značenje pojma dubina (deep) u imenu označava da se u pozadini kriju algoritmi dubokog mašinskog učenja koji se treniraju na ogromnim setovima podataka i bezbroj slika.
Najčešće se “deepfake”-ovi zasnivaju na dubokim neuronskim mrežama koje omogućavaju tehniku zamjene lica. Manipuliše se sa osnovnim snimkom na kojem se mijenja lice ili se na originalnom snimku naprave izmjene tako da izgleda da je osoba rekla ili uradila nešto što nije.
Naravno, snimci i dalje nisu savršeni. Za one obazrivije postoje detalji koji otkrivaju da ima još prostora za napredak, poput sinhronizacije usana sa glasom, pokreta zjenica i mutnih tranzicija pri naglim pokretima, naročito kada osoba okrene lice tako da se vidi profil.
“Deepfake” snimci mogu da se koriste u svrhe šale i zabave ili mogu za potrebe filma ili medija da zamijene voditelje, glumce. Ali svi strepe od zloupotreba da se takvi snimci iskoriste za dezinformisanje, prevare, kao lažni dokazi, za ucjene, osvetničku pornografiju… Zbog svega toga, iako je tehnologija praktično u začetku, mnoge kompanije već su počele da proizvode alate koji će se baviti otkrivanjem “deepfake” intervencija na snimcima, potpuno sigurne da će za to u budućnosti biti potrebe.
Ovaj tekst autora Marka Šikuljaka, ali i druge zanimljive sadržaje, možete pronaći u novom m:agazinu.
