Kā atklāt Deepfakes: pilnīgs ceļvedis viltotu video un audio atpazīšanai un aizsardzībai pret tiem

Pēdējos gados esam redzējuši, kā mākslīgais intelekts ir veicinājis īpaši reālistiska satura, labāk pazīstamu kā dziļviltojumi, izveidi . Šie manipulētie video, attēli un audio ieraksti rada reālu izaicinājumu tam, kā mēs tiešsaistē identificējam informācijas patiesumu. Kļūst arvien grūtāk atšķirt realitāti no izdomājumiem, un spēja viltot sejas, balsis vai pat veselas situācijas ir radījusi jaunas dezinformācijas, digitālās krāpšanas un identitātes zādzības formas.

Šīs tehnoloģijas attīstība, ko veicina arvien sarežģītāku rīku pieejamība, liek ikvienam ievērot ārkārtīgu piesardzību, pirms pieņemt jebkādu audiovizuālu vai audio saturu kā autentisku. Dziļo viltojumu atpazīšanas apguve ir būtiska, lai aizsargātu sevi gan personīgi, gan profesionāli, kā arī lai ierobežotu viltus ziņu, krāpniecības un mediju manipulāciju izplatību.

Kas ir dziļviltojumi un kā tie darbojas?

Termins “dziļā viltošana” ir cēlies no vārdu “dziļā mācīšanās” un “viltus” apvienojuma un attiecas uz saturu, kas ir viltots, izmantojot progresīvas dziļās mācīšanās vai mākslīgā intelekta metodes. Praksē tas ietver attēlus, video vai audio, ko manipulē algoritmi, kas spēj atdarināt cilvēku sejas, balsis un izteiksmes ar ārkārtīgu reālismu . Knifs slēpjas neironu tīklu, piemēram, GAN (Ģeneratīvo pretinieku tīklu), izmantošanā un šo sistēmu spējā analizēt tūkstošiem datu punktu, lai pēc tam ģenerētu jaunus, hiperreālistiskus attēlus, kas perfekti atdarina reālu cilvēku.

Lai gan sākotnēji to izmantoja filmu specefektiem, mūsdienās ir publiski pieejamas lietotnes, kas ļauj jebkuram lietotājam plašā mērogā eksperimentēt ar šo tehnoloģiju un viltot video, attēlus un audio, un tas ir palielinājis krāpšanas, dezinformācijas kampaņu un identitātes zādzības risku visā pasaulē.

Dziļo viltojumu ietekme un riski

Saskaņā ar jaunākajiem datiem, dziļviltojumu skaits internetā katru gadu pieaug eksponenciāli . Piemēram, Pasaules Ekonomikas forums lēš, ka šāda veida saturs līdz 2023. gadam pieaugs par 900 % gadā. Dziļo viltojumu briesmas ir tik reālas, ka saskaņā ar specializētiem ziņojumiem uzbrukumu skaits, kas saistīti ar personības atveidošanu un video manipulācijām, tikai Latīņamerikā 2023. gadā pieauga pat par 450 %. To izmantošana jau ir radījusi problēmas žurnālistikā, politikā, finanšu, izklaides un sabiedriskās drošības jomā.

Galvenie riski ir šādi:

• Apmelojums vai reputācijas bojāšana privātpersonām un uzņēmumiem, izmantojot uzticamus risinājumus.
• Viltus video izmantošana apiet biometriskās autentifikācijas un uzdoties par citiem.
• Realizācija krāpšana digitālajās platformās un izspiešana.
• Aug viltus ziņu izplatība un sociālās un politiskās manipulācijaskas var destabilizēt tirgus un starptautiskās attiecības.
• Risks naudas zādzība vai pārskaitīšana izmantojot viltotus audio un video materiālus, kā tas ir noticis ar romantisku attiecību krāpniecību un krāpšanu tiešsaistē.

Dziļviltojumu identificēšanai ir nepieciešamas prasmes, kas apvieno tehnisko analīzi un kritisko domāšanu, jo šo radījumu izsmalcinātība turpina uzlaboties.

Pazīmes un triki dziļviltojumu atpazīšanai

Dziļviltojumu tehnoloģijas attīstība padara šos video arvien pārliecinošākus, taču pat labākie joprojām parāda smalkus trūkumus vai anomālijas , kas var palīdzēt atklāt maldināšanu. Šeit ir galvenās pazīmes, kurām pievērst uzmanību:

1. Nedabiskas acis un mirkšķināšana

Viena no biežāk pieļautajām kļūdām ir nedabiska mirkšķināšanas reižu skaita vai ritma dēļ . Dažas secības šķiet piespiestas vai parāda ļoti maz mirkšķināšanas reižu, ko cilvēki parasti dara regulāri. Šī detaļa, lai gan tiek pilnveidota, joprojām ir svarīga norāde.

2. Dīvainas sejas un ķermeņa kustības

Meklējiet neatbilstības starp sejas un ķermeņa kustībām vai stīvas, nedabiskas izteiksmes, kas nav sinhronizētas ar balsi . Ja sejas kustības nav saskaņotas ar ķermeni, tā varētu būt dziļā viltība. Var būt arī lūpu sinhronizācijas kļūdas.

3. Nekonsekvents apgaismojums un ēnas

Dziļi viltotās fotogrāfijas bieži vien attēlo mākslīgas, izplūdušas vai nereālistiskas ēnas . Ja gaisma seju apžilbina nedabiski vai neietekmē fonu un ādu vienādi, esiet aizdomīgi. Sejas krāsa var atšķirties arī no kakla vai pārējā ķermeņa.

4. Neskaidri sejas vaibsti, mati un ausis

Matu līnijai un sejas kontūrām bieži ir redzamas nepilnības: nelīdzenas malas, izplūdušas vai izplūdušas zonas. Algoritmiem ir īpaši grūti apstrādāt matus, tāpat kā tādas iezīmes kā auskari, brilles vai zona starp zodu un kaklu.

5. Problēmas mutē un zobos

Kad cilvēks runā, var parādīties izplūduši vai nereāli zobi, vai arī mute var būt dīvainas formas vai pilnībā nesaskaņota ar audio . Tehnoloģijai joprojām ir grūtības reālistiski attēlot mēli, zobus un mutes dobumu.

6. Audio un balss desinhronizācija

Manipulēts audio , īpaši balss viltojumos, var izklausīties robotiski, ar mākslīgām pauzēm vai nedabisku intonāciju. Lūpu kustību un runas koordinācija var būt traucēta , tādēļ to ir vieglāk atklāt.

7. Pārāk gluda vai nelīdzena āda

Dažos dziļajos mākslīgā intelekta portretos āda ir redzama bez porām, grumbām, dīvainām dzimumzīmēm vai kustībā deformētai ādai . Arī nedabiskas krāsas vai pārmērīgs acu spilgtums var liecināt par mākslīgā intelekta manipulācijām.

8. Video ilgums un konteksts

Vismodernāko viltojumu izveidei parasti nepieciešamas daudzas darba stundas, tāpēc tie mēdz būt īsi . Jo garāks video, jo lielāka iespēja, ka tajā uzkrāsies kļūdas.

9. Atbilstība publiskajai informācijai

Ja pretrunīgi vērtēts publiskas personas video parādās tikai neuzticamā platformā vai neviens cits plašsaziņas līdzeklis šo informāciju neuztver, esiet aizdomīgi. Salīdziniet tā saturu ar citiem avotiem, lai noskaidrotu, vai tas atbilst personas biogrāfijai, vēsturei vai uzskatiem.

10. Piespiestas emocijas un sentimentalitātes piespiešana

Liela daļa satura, kas ir ļoti sagrozīts, ir vērsts uz intensīvu emocionālu reakciju (dusmu, bailes, pārsteiguma) izraisīšanu, lai veicinātu vīrusveidīgu izplatību. Ja pamanāt, ka ziņojums šķiet veidots, lai manipulētu ar jūsu emocijām, esiet uzmanīgi: dezinformācija izplatās efektīvāk, jo spēcīgāku emocionālo saikni tā rada.

Tehnoloģiskie rīki dziļviltojumu identificēšanai

Lai gan ir taisnība, ka dažas norādes ir pamanāmas ar redzi, delikātākai un profesionālākai lietošanai ieteicams izmantot specializētus rīkus . Šie rīki izmanto gan mākslīgo intelektu, gan datu analīzi un ir sagrupēti vairākās kategorijās:

1. Mākslīgā intelekta rīki dziļviltojumu noteikšanai

Ir risinājumi, kas izmanto progresīvu mašīnmācīšanos, lai salīdzinātu sejas modeļus, kustības vai neatbilstības, kas nav dzirdamas vai neredzamas cilvēka acij. Šeit ir daži vadošie piemēri un to galvenās funkcijas:

• SargsMākonī balstīts pakalpojums, kas nodrošina noteikšanu reāllaikā, analizējot sejas orientierus, mirkšķināšanu un laika konsekvenci. Tas var analizēt video, attēlus un audio, ģenerējot vizuālu ziņojumu par skartajām zonām.
• JutīgumsPlaši izmantota platforma identitātes uzraudzībai un aizsardzībai organizācijās, valdībās un uzņēmumos. Tā analizē lielu vizuālās informācijas apjomu un nosaka sejas maiņu, manipulētu audio un dzīvības pierādījumus. Īpaši noderīgi nozarēs ar augstu identitātes zādzības risku.
• Oz LivenessSertificēts atbilstoši ISO 30107 standartam, tas darbojas kā aizsardzība pret viltošanas uzbrukumiem, izmantojot SDK, ko ir viegli integrēt mobilajās un tīmekļa lietojumprogrammās.
• WeVerifyIdeāls rīks tiem, kas validē vīrusu saturu sociālajos medijos, piemēram, žurnālistiem, aktīvistiem vai moderatoriem. Tas izmanto blokķēdi, lai uzturētu publiska zināmo viltojumu datubāze.
• HyperVergeUzlabots risinājums, kas apvieno biometrisko verifikāciju, sejas atpazīšanu un krāpšanas apkarošanas analīzi vairākās starptautiskās nozarēs. Tas ir saņēmis globālu atzinību un sertifikātus.
• Intel viltoto ķērājsReāllaika detektors ar 96% precizitāti. Tas analizē video, meklējot pikseļos smalkas asins plūsmas pēdas, ko nav iespējams perfekti simulēt ar pašreizējo mākslīgo intelektu.
• Microsoft Video AI autentifikatorsBezmaksas rīks, kas sniedz ticamības rādītāju, norādot manipulāciju varbūtību video vai attēlos, atklājot pelēktoņu izmaiņas, ko cilvēki nevar pamanīt.
• Deepware: Ļauj analizēt augšupielādētos videoklipus, lai vienkāršā un visiem lietotājiem pieejamā veidā pārbaudītu, vai tie ir manipulēti ar mākslīgā intelekta metodēm.
• Fonēmas-visēmas neatbilstībaKoncentrējas uz neatbilstību noteikšanu starp dzirdētajām skaņām (fonēmām) un to, kas redzams lūpu kustībās (visēmās). Ja pastāv neatbilstība, tas, iespējams, ir dziļais viltojums.
• DuckDuckGooseGalvenā uzmanība tiek pievērsta uzņēmumu un lietotāju aizsardzībai pret kiberdraudiem, reputācijas un finanšu draudiem. Tas sniedz skaidrus manipulāciju skaidrojumus un ir īpaši vērtīgs korporatīvajā vidē.

2. Metadatu analīzes rīki

Faila metadatu (izveidošanas datuma, rediģēšanas datuma, atrašanās vietas utt.) analīze var palīdzēt atklāt norādes par tā autentiskumu. Tādi rīki kā MediaInfo vai ExifTool ļauj pārbaudīt šo informāciju, kas ir paslēpta multivides failos.

3. Rīki, kas atklāj anomālijas saturā

Citi risinājumi, piemēram, FaceForensics vai Audio Fingerprinting sistēmas, izseko dīvainus sejas kustību, balss vai paša video elementu modeļus, meklējot statistiski maz ticamas neatbilstības īstos produktos.

Praktiski padomi un labākā prakse, lai pasargātu sevi no dziļviltojumiem

Papildus tehnoloģiskajiem rīkiem cīņai pret dziļviltojumiem ir nepieciešama arī cilvēka spriestspēja un veselais saprāts . Šeit ir daži svarīgi ieteikumi:

• vienmēr pārbaudīt izcelsmi attēla, video vai audio, it īpaši, ja tas nāk no sociālajiem tīkliem vai tūlītējās ziņojumapmaiņas.
• Neuzticēšanās saturs, kas paredzēts spēcīgu emociju izraisīšanai piemēram, dusmas, bailes vai pārsteigums. Jo lielāks emocionālais lādiņš, jo lielāka iespēja, ka tas ir manipulācijas mēģinājums.
• Padariet vienu apgrieztā attēlu meklēšana izmantojot specializētas meklētājprogrammas, lai pārbaudītu, vai fotoattēls parādās citos kontekstos vai ar citiem datumiem.
• Nekopīgojiet video vai attēlus, ja neesat spējis pārliecināties par to autentiskumu.īpaši, ja tie ietekmē personas, organizācijas reputāciju vai var radīt sabiedriskas sekas.
• Esiet lietas kursā par jaunumiem jaunas tendences un metodes mākslīgā intelekta un atklāšanas rīku jomāTehnoloģijas attīstās strauji, un cīņa ir nepārtraukta.

Nākotnes perspektīvas un cīņa pret dziļviltojumiem

Dziļviltojumu bizness nezaudēs apgriezienus: tiek prognozēts, ka tas kļūs par vairāku miljardu dolāru lielu tirgu ar arvien sarežģītākiem uzbrukumiem. Likumīgi tehnoloģiju izstrādātāji, uzņēmumi un valdības rīkojas, sadarbojoties, lai stiprinātu digitālo drošību un mākslīgā intelekta ētiku.

Tiem, kas vēlas rūpīgi analizēt multimediju satura patiesumu , ir pieejami daudzsološi projekti un bezmaksas resursi . Lai gan neviens risinājums nav ideāls, cilvēka analīzes un tehnoloģisko rīku kombinācija būs galvenais, lai pārvarētu šo izaicinājumu.

Dziļo viltojumu pieaugošā izsmalcinātība rada pastāvīgus izaicinājumus tiešsaistes informācijas uzticamībai un integritātei. To atklāšana prasa kritisku domāšanu, atklāšanas tehnoloģiju izmantošanu un apņemšanos nepiedalīties dezinformācijas ķēdē. Jo labāk mēs apzināmies šos riskus, jo mazāka iespēja, ka mēs iekritīsim digitālo maldu gūstā, un jo efektīvāka būs mūsu aizsardzība pret draudiem, kas jau pastāv un neapšaubāmi tuvākajā nākotnē kļūs vēl lielāki.

Kā internetā atpazīt dziļviltotus video: metodes, pazīmes un rīki