Kako otkriti Deepfakes: kompletan vodič za prepoznavanje i zaštitu od lažnih videa i audio zapisa

Posljednjih godina vidjeli smo kako je umjetna inteligencija olakšala stvaranje ultrarealističnog sadržaja, poznatijeg kao deepfakeovi . Ovi manipulirani videozapisi, slike i audio snimci predstavljaju pravi izazov za način na koji identificiramo istinitost informacija na internetu. Sve je teže razlikovati stvarnost od fikcije, a mogućnost krivotvorenja lica, glasova ili čak cijelih situacija dovela je do novih oblika dezinformacija, digitalnih prevara i krađe identiteta.

Uspon ove tehnologije, olakšan dostupnošću sve sofisticiranijih alata, prisiljava sve da budu izuzetno oprezni prije nego što prihvate bilo koji audiovizuelni ili audio sadržaj kao autentičan. Učenje otkrivanja deepfake-ova je ključno za zaštitu sebe i ličnu i profesionalnu, a također i za suzbijanje širenja lažnih vijesti, prevara i medijskih manipulacija.

Šta su deepfakeovi i kako funkcionišu?

Termin deepfake potiče od kombinacije riječi "duboko učenje" (deep learning) i "lažno" (fake), a odnosi se na sadržaj falsifikovan korištenjem naprednih tehnika dubokog učenja ili vještačke inteligencije. U praksi, to uključuje slike, video zapise ili audio manipulisane algoritmima sposobnim da repliciraju ljudska lica, glasove i izraze lica sa ekstremnim realizmom . Trik leži u upotrebi neuronskih mreža - kao što su GAN-ovi (Generativne suparničke mreže) - i sposobnosti ovih sistema da analiziraju hiljade podataka kako bi zatim generisali nove, hiperrealistične slike koje savršeno oponašaju stvarnu osobu.

Iako se prvobitno koristila za specijalne efekte u filmu, danas postoje javno dostupne aplikacije koje omogućavaju bilo kojem korisniku da se igra s ovom tehnologijom i lažira video zapise, slike i audio zapise u velikim razmjerima, što je umnožilo rizik od prevare, kampanja dezinformacija i krađe identiteta širom svijeta.

Utjecaj i rizici deepfake-a

Prema nedavnim podacima, broj deepfakeova na internetu eksponencijalno raste svake godine . Na primjer, Svjetski ekonomski forum procijenio je godišnji rast ove vrste sadržaja od 900% do 2023. godine. Opasnost od deepfakeova je toliko stvarna da su se, prema specijaliziranim izvještajima, napadi koji uključuju lažno predstavljanje i manipulaciju video zapisima povećali za do 450% samo u Latinskoj Americi tokom 2023. godine. Njihova upotreba već je izazvala probleme u novinarstvu, politici, finansijama, zabavi i javnoj sigurnosti.

Glavni rizici uključuju:

• Kleveta ili šteta na ugledu pojedincima i kompanijama putem kredibilnih postavki.
• Korištenje lažnih videozapisa za zaobiđi biometrijske autentifikacije i lažno se predstavljati kao drugi.
• Realizacija prevare na digitalnim platformama i iznuda.
• Raste širenje lažnih vijesti i društvene i političke manipulaciješto može destabilizirati tržišta i međunarodne odnose.
• Rizik od krađa ili transfer novca korištenje lažnih audio i video zapisa, kao što se dogodilo s romantičnim prevarama i online prevarama.

Identifikacija deepfake-a zahtijeva vještine koje kombiniraju tehničku analizu i kritičko razmišljanje, jer sofisticiranost ovih kreacija nastavlja da se poboljšava.

Znakovi i trikovi za otkrivanje deepfakeova

Napredak u tehnologiji deepfake-a čini ove videozapise sve uvjerljivijima, ali čak i najbolji i dalje pokazuju suptilne nedostatke ili anomalije koje nam mogu pomoći da otkrijemo obmanu. Evo ključnih znakova na koje treba paziti:

1. Neprirodne oči i treptanje

Jedna od najčešćih grešaka je da je broj treptaja ili njihov ritam neprirodan . Neke sekvence izgledaju nametnuto ili prikazuju vrlo malo treptaja, nešto što ljudi obično redovno rade. Ovaj detalj, iako se usavršava, ostaje važan trag.

2. Čudni pokreti lica i tijela

Tražite neslaganja između pokreta lica i tijela ili ukočene, neprirodne izraze koji nisu usklađeni s glasom . Ako se lice pomiče na način koji nije koordiniran s tijelom, moglo bi se raditi o lažnom prikazu lica (deepfake). Mogu postojati i greške u sinhronizaciji playbacka (lip-sync ).

3. Nedosljedno osvjetljenje i sjene

Deepfakeovi često sadrže lažne, mutne ili nerealne sjene . Ako svjetlost neprirodno pada na lice ili ne utiče podjednako na pozadinu i kožu, budite sumnjičavi. Boja lica se također može razlikovati od vrata ili ostatka tijela.

4. Zamućene crte lica, kosa i uši

Linija kose i konture lica često pokazuju nesavršenosti: neravne rubove, zamućenost ili nejasna područja. Kosa je posebno teška za obradu algoritmima, kao i detalji poput naušnica, naočala ili spoja između brade i vrata.

5. Problemi u ustima i zubima

Kada osoba govori, mogu se pojaviti zamagljeni ili nerealni zubi, ili usta mogu imati neobičan oblik ili biti potpuno neusklađena sa zvukom . Tehnologija se još uvijek bori da realistično prikaže jezik, zube i usnu šupljinu.

6. Desinkronizacija zvuka i glasa

Manipulirani zvuk , posebno kod lažnog glasa, može zvučati robotski, s umjetnim pauzama ili neprirodnom intonacijom. Koordinacija između pokreta usana i govora može biti narušena , što olakšava detekciju.

7. Koža koja je previše glatka ili ima deformacije

Neki deepfakeovi prikazuju kožu bez pora, bora, čudnih madeža ili iskrivljene kože prilikom kretanja . Neprirodne boje ili pretjerani sjaj u očima također mogu odati manipulaciju umjetnom inteligencijom.

8. Trajanje i kontekst videa

Najsofisticiraniji falsifikati obično zahtijevaju mnogo sati rada i stoga su obično kratki . Što je video duži, veća je vjerovatnoća da će se greške akumulirati.

9. Usklađenost s javnim informacijama

Ako se kontroverzni video javne ličnosti pojavi samo na nepouzdanoj platformi ili ako nijedan drugi medij ne preuzme informaciju, budite sumnjičavi. Uporedite njegov sadržaj s drugim izvorima kako biste vidjeli da li se poklapa s biografijom, historijom ili stavovima osobe.

10. Nametnute emocije i apeliranje na sentimentalnost

Veliki dio sadržaja koji je u velikoj mjeri pogrešno predstavljen ima za cilj generiranje intenzivnih emocionalnih reakcija (ljutnje, straha, iznenađenja) kako bi se potaknula viralan rast. Ako primijetite da se čini da je poruka osmišljena da manipulira vašim emocijama, budite oprezni: dezinformacije se šire efikasnije što je jača emocionalna veza koju stvaraju.

Tehnološki alati za identifikaciju deepfakeova

Iako je istina da se neki tragovi mogu otkriti pogledom, za delikatniju i profesionalnu upotrebu preporučuju se specijalizirani alati . Ovi alati koriste i umjetnu inteligenciju i analizu podataka, a grupirani su u nekoliko kategorija:

1. Alati zasnovani na umjetnoj inteligenciji za otkrivanje deepfakeova

Postoje rješenja koja koriste napredno mašinsko učenje za poređenje obrazaca lica, pokreta ili nedosljednosti koje su nečujne ili nevidljive ljudskom oku. Evo nekoliko vodećih primjera i njihovih glavnih funkcionalnosti:

• stražarUsluga zasnovana na oblaku koja omogućava detekciju u realnom vremenu analizom orijentira lica, treptaja i vremenske koherencije. Može analizirati video zapise, slike i zvuk, generirajući vizuelni izvještaj o pogođenim područjima.
• osjetljivostŠiroko korištena platforma za praćenje i zaštitu identiteta u organizacijama, vladama i preduzećima. Analizira velike količine vizualnih informacija i detektuje zamjene lica, manipulisane zvukove i dokaze o životu. Posebno korisno u sektorima sa visokim rizikom od krađe identiteta.
• Oz LivenessCertificiran prema standardu ISO 30107, djeluje kao odbrana od napada lažiranja podataka putem SDK-a koji se lako integrira u mobilne i web aplikacije.
• WeVerifyIdealan alat za one koji validiraju viralni sadržaj na društvenim mrežama, kao što su novinari, aktivisti ili moderatori. Koristi blockchain za održavanje javna baza podataka poznatih falsifikata.
• HyperVergeNapredno rješenje koje kombinuje biometrijsku verifikaciju, prepoznavanje lica i analizu protiv prevara u više međunarodnih sektora. Dobilo je globalno priznanje i certifikate.
• Intelov hvatač lažnih podatakaDetektor u realnom vremenu sa stopom tačnosti od 96%. Analizira video tražeći suptilne tragove protoka krvi u pikselima, što je nemoguće savršeno simulirati trenutnom vještačkom inteligencijom.
• Microsoft Video AI autentifikatorBesplatan alat koji daje ocjenu pouzdanosti koja ukazuje na vjerovatnoću manipulacije u videozapisima ili slikama, otkrivajući promjene u sivim tonovima koje ljudi ne mogu otkriti.
• DeepwareOmogućava vam analizu otpremljenih videozapisa kako biste provjerili da li su manipulirani tehnikama umjetne inteligencije, na jednostavan i pristupačan način za sve korisnike.
• Neusklađenost fonema i vizemaFokusirano na otkrivanje neslaganja između čutih zvukova (fonema) i onoga što se vidi u pokretima usana (vizema). Ako postoji neslaganje, vjerovatno se radi o deepfake-u.
• DuckDuckGooseFokus je na zaštiti preduzeća i korisnika od sajber, reputacijskih i finansijskih prijetnji. Pruža jasna objašnjenja manipulacija i posebno je vrijedan u korporativnim okruženjima.

2. Alati za analizu metapodataka

Analiza metapodataka datoteke (datum kreiranja, datum uređivanja, lokacija itd.) može pomoći u otkrivanju tragova o njenoj autentičnosti. Alati poput MediaInfo ili ExifTool omogućavaju vam da pregledate ove detalje skrivene unutar multimedijalnih datoteka.

3. Alati koji otkrivaju anomalije u sadržaju

Druga rješenja poput FaceForensics ili Audio Fingerprinting sistema prate čudne obrasce u pokretima lica, glasu ili elementima samog videa, tražeći statistički nevjerovatne nedosljednosti u originalnim produkcijama.

Praktični savjeti i najbolje prakse za zaštitu od deepfakeova

Pored tehnoloških alata, borba protiv deepfakeova zahtijeva i ljudsku prosudbu i zdrav razum . Evo nekoliko osnovnih preporuka:

• Siempre provjeriti porijeklo slike, videa ili audiozapisa, posebno ako potiču s društvenih mreža ili iz instant poruka.
• Nepovjerenje sadržaj osmišljen da izazove snažne emocije kao što su ljutnja, strah ili iznenađenje. Što je veći emocionalni naboj, to je vjerovatnije da se radi o pokušaju manipulacije.
• Napravi jednu obrnuta pretraga slika korištenje specijaliziranih pretraživača kako bi se provjerilo pojavljuje li se fotografija u drugim kontekstima ili s drugim datumima.
• Ne dijelite videozapise ili slike ako niste mogli potvrditi njihovu autentičnostposebno ako utiču na ugled osobe, organizacije ili mogu imati javne posljedice.
• Budite u toku s novostima novi trendovi i tehnike u vještačkoj inteligenciji i alatima za detekcijuTehnologija se brzo razvija, a borba je stalna.

Buduće perspektive i borba protiv deepfakeova

Posao s deepfake tehnologijama neće izgubiti zamah: predviđa se da će to biti tržište vrijedno više milijardi dolara, sa sve sofisticiranijim napadima. Legitimni tehnološki programeri, kompanije i vlade poduzimaju mjere i sarađuju na jačanju digitalne sigurnosti i etike umjetne inteligencije.

Postoje obećavajući projekti i besplatni resursi dostupni za one koji žele temeljito analizirati vjerodostojnost multimedijskog sadržaja. Iako nijedno rješenje nije savršeno, kombinacija ljudske analize i tehnoloških alata bit će ključna za rješavanje ovog izazova.

Sve veća sofisticiranost deepfakeova predstavlja stalni izazov za povjerenje i integritet online informacija. Njihovo otkrivanje zahtijeva kritički način razmišljanja, korištenje tehnologija za detekciju i posvećenost neučešću u lancu dezinformacija. Što smo svjesniji ovih rizika, manja je vjerovatnoća da ćemo nasjesti na digitalne obmane i efikasnija će biti naša odbrana od prijetnji koje su već prisutne i koje će nesumnjivo postati još veće u bliskoj budućnosti.

Kako otkriti deepfake videozapise na internetu: metode, znakovi i alati