Kaip atpažinti „Deepfakes“: išsamus vadovas, kaip atpažinti ir apsisaugoti nuo padirbtų vaizdo įrašų ir garso įrašų

Pastaraisiais metais matėme, kaip dirbtinis intelektas palengvino itin tikroviško turinio, geriau žinomo kaip „deepfake“, kūrimą . Šie manipuliuojami vaizdo įrašai, vaizdai ir garso įrašai kelia tikrą iššūkį tam, kaip mes nustatome informacijos teisingumą internete. Vis sunkiau atskirti realybę nuo prasimanymų, o galimybė suklastoti veidus, balsus ar net ištisas situacijas sukėlė naujas dezinformacijos, skaitmeninio sukčiavimo ir tapatybės vagystės formas.

Šios technologijos iškilimas, kurį palengvina vis sudėtingesnių įrankių prieinamumas, verčia visus būti itin atsargiems prieš priimant bet kokį audiovizualinį ar garso turinį kaip autentišką. Išmokti atpažinti giliąsias klastotes yra būtina norint apsisaugoti tiek asmeniškai, tiek profesionaliai, taip pat norint pažaboti netikrų naujienų, sukčiavimo ir žiniasklaidos manipuliavimo plitimą.

Kas yra giluminės klastotės ir kaip jos veikia?

Terminas „gilusis klastotė“ kilęs iš žodžių „gilusis mokymasis“ ir „klastotė“ derinio ir reiškia turinį, suklastotą naudojant pažangius gilaus mokymosi arba dirbtinio intelekto metodus. Praktiškai tai apima vaizdus, ​​vaizdo įrašus ar garsą, manipuliuojamus algoritmais, gebančiais itin realistiškai atkartoti žmonių veidus, balsus ir išraiškas . Gudrybė slypi neuroninių tinklų, tokių kaip GAN (generatyviniai priešpriešiniai tinklai), naudojime ir šių sistemų gebėjime analizuoti tūkstančius duomenų taškų, kad būtų sugeneruoti nauji, hiperrealistiški vaizdai, kurie idealiai imituoja tikrą žmogų.

Nors iš pradžių ši technologija buvo naudojama specialiesiems efektams filmuose, šiandien yra viešai prieinamų programėlių, leidžiančių bet kuriam vartotojui dideliu mastu žaisti su šia technologija ir kurti padirbtus vaizdo įrašus, vaizdus bei garso įrašus, o tai visame pasaulyje padidino sukčiavimo, dezinformacijos kampanijų ir tapatybės vagysčių riziką.

Giliųjų klastočių poveikis ir rizika

Remiantis naujausiais duomenimis, giliųjų klastočių skaičius internete kasmet auga eksponentiškai . Pavyzdžiui, Pasaulio ekonomikos forumas apskaičiavo, kad iki 2023 m. tokio tipo turinys kasmet augs 900 %. Giliųjų klastočių pavojus yra toks realus, kad, remiantis specializuotomis ataskaitomis, vien Lotynų Amerikoje 2023 m. išpuolių, susijusių su apsimetinėjimu ir vaizdo įrašų manipuliavimu, padaugėjo iki 450 %. Jų naudojimas jau sukėlė problemų žurnalistikoje , politikoje, finansuose, pramogų ir viešojo saugumo srityse.

Pagrindinė rizika apima:

• Šmeižtas arba reputacijos žala asmenims ir įmonėms per patikimas sistemas.
• Netikrų vaizdo įrašų naudojimas apeiti biometrinius autentifikavimus ir apsimesti kitais.
• Realizavimas sukčiavimas skaitmeninėse platformose ir turto prievartavimas.
• Auga netikrų naujienų plitimas ir socialinė bei politinė manipuliacijakuris gali destabilizuoti rinkas ir tarptautinius santykius.
• Rizika vagystė ar pinigų pervedimas naudojant netikrą garso ir vaizdo įrašą, kaip nutiko su romantiniais sukčiavimais ir sukčiavimu internete.

Norint atpažinti giliąją klastotę, reikia įgūdžių, apjungiančių techninę analizę ir kritinį mąstymą, nes šių kūrinių rafinuotumas nuolat gerėja.

Ženklai ir gudrybės, kaip aptikti giliuosius klastotes

Dėl gilaus klastojimo technologijų pažangos šie vaizdo įrašai tampa vis įtikinamesni, tačiau net ir geriausiuose vis dar matyti subtilių trūkumų ar anomalijų , kurios gali padėti atskleisti apgaulę. Štai pagrindiniai požymiai, į kuriuos reikia atkreipti dėmesį:

1. Nenatūralios akys ir mirksėjimas

Viena dažniausių klaidų yra ta, kad mirksėjimų skaičius arba jų ritmas yra nenatūralus . Kai kurios sekos atrodo priverstinės arba rodo labai mažai mirksėjimų, ką žmonės paprastai daro reguliariai. Ši detalė, nors ir tikslinama, išlieka svarbia užuomina.

2. Keisti veido ir kūno judesiai

Ieškokite neatitikimų tarp veido ir kūno judesių arba sustingusių, nenatūralių išraiškų, kurios nesinchronizuojamos su balsu . Jei veidas juda nesuderintu būdu su kūnu, tai gali būti „deepfeke“. Taip pat gali būti lūpų sinchronizavimo klaidų.

3. Nenuoseklus apšvietimas ir šešėliai

Giliosios klastotės dažnai rodo netikrus, neryškius arba nerealistiškus šešėlius . Jei šviesa į veidą krinta nenatūraliai arba foną ir odą veikia nevienodai, įtarkite. Veido spalva taip pat gali skirtis nuo kaklo ar likusios kūno dalies.

4. Neryškūs veido bruožai, plaukai ir ausys

Plaukų linija ir veido kontūrai dažnai rodo netobulumus: nelygius kraštus, neryškumą ar neryškias sritis. Algoritmams ypač sunku apdoroti plaukus, taip pat tokius bruožus kaip auskarai, akiniai ar sritis tarp smakro ir kaklo.

5. Burnos ir dantų problemos

Kai žmogus kalba, gali matytis neryškūs arba nerealistiški dantys, burna gali būti keistos formos arba visiškai nesinchronizuota su garsu . Technologijai vis dar sunku realistiškai atvaizduoti liežuvį, dantis ir burnos ertmę.

6. Garso ir balso desinchronizavimas

Manipuliuotas garsas , ypač gilaus balso imitacijose, gali skambėti robotiškai, su dirbtinėmis pauzėmis ar nenatūralia intonacija. Gali būti sutrikusi lūpų judesių ir kalbos koordinacija , todėl jį lengviau aptikti.

7. Pernelyg lygi arba nelygi oda

Kai kuriuose giliųjų klastotių vaizduose oda rodoma be porų, raukšlių, keistų apgamų arba iškreipta judesio metu . Nenatūralios spalvos arba per didelis akių ryškumas taip pat gali atskleisti dirbtinio intelekto manipuliavimą.

8. Vaizdo įrašų trukmė ir kontekstas

Sudėtingiausi klastotės paprastai reikalauja daug darbo valandų, todėl jos būna trumpos . Kuo ilgesnis vaizdo įrašas, tuo didesnė tikimybė, kad jame kaupsis klaidos.

9. Atitiktis viešai informacijai

Jei prieštaringai vertinamas viešo asmens vaizdo įrašas pasirodo tik nepatikimoje platformoje arba jei jokia kita žiniasklaidos priemonė šios informacijos negauna, sukelkite įtarimą. Palyginkite jo turinį su kitais šaltiniais, kad pamatytumėte, ar jis atitinka asmens biografiją, istoriją ar požiūrį.

10. Priverstinės emocijos ir apeliavimas į sentimentalumą

Didelė dalis labai klaidingai pateikto turinio siekia sukelti stiprias emocines reakcijas (pyktį, baimę, nuostabą), kad paskatintų plitimą. Jei pastebite, kad žinutė, regis, skirta manipuliuoti jūsų emocijomis, būkite budrūs: dezinformacija plinta efektyviau, kuo stipresnį emocinį ryšį ji sukuria.

Technologinės priemonės giliųjų klastočių atpažinimui

Nors tiesa, kad kai kuriuos užuominas galima aptikti regėjimu, subtilesniam ir profesionalesniam naudojimui rekomenduojamos specializuotos priemonės . Šios priemonės naudoja ir dirbtinį intelektą, ir duomenų analizę ir yra suskirstytos į kelias kategorijas:

1. Dirbtiniu intelektu pagrįsti įrankiai giliųjų klastotių aptikimui

Yra sprendimų, kurie naudoja pažangų mašininį mokymąsi, kad palygintų veido bruožus, judesius ar neatitikimus, kurie yra negirdimi arba nematomi žmogaus akiai. Štai keli svarbiausi pavyzdžiai ir jų pagrindinės funkcijos:

• SargasDebesijos pagrindu veikianti paslauga, leidžianti realiuoju laiku aptikti objektus analizuojant veido orientyrus, mirksėjimus ir laiko suderinamumą. Ji gali analizuoti vaizdo įrašus, vaizdus ir garso įrašus, generuodama vaizdinę ataskaitą apie paveiktas zonas.
• JautrumasPlačiai naudojama tapatybės stebėjimo ir apsaugos platforma organizacijose, vyriausybėse ir įmonėse. Ji analizuoja didelius vaizdinės informacijos kiekius ir aptinka veidų keitimą, manipuliuojamą garsą ir gyvybės įrodymus. Ypač naudinga sektoriuose, kuriuose yra didelė tapatybės vagystės rizika.
• Ozo gyvumasSertifikuota pagal ISO 30107 standartą, ji veikia kaip apsauga nuo apgavysčių atakų per SDK, kurį lengva integruoti į mobiliąsias ir žiniatinklio programas.
• WeVerifyIdealus įrankis tiems, kurie socialinėje žiniasklaidoje tikrina virusinį turinį, pavyzdžiui, žurnalistams, aktyvistams ar moderatoriams. Jis naudoja blokų grandinę, kad palaikytų vieša žinomų padirbinių duomenų bazė.
• HyperVergePažangus sprendimas, apjungiantis biometrinį patvirtinimą, veido atpažinimą ir kovos su sukčiavimu analizę įvairiuose tarptautiniuose sektoriuose. Jis pelnė pasaulinį pripažinimą ir sertifikatus.
• „Intel“ netikrų daiktų gaudytojasRealaus laiko detektorius, kurio tikslumas siekia 96 %. Jis analizuoja vaizdo įrašą, ieškodamas pikseliuose subtilių kraujo tekėjimo pėdsakų, kurių neįmanoma idealiai imituoti naudojant dabartinį dirbtinį intelektą.
• „Microsoft Video AI“ autentifikatoriusNemokamas įrankis, pateikiantis patikimumo balą, rodantį vaizdo įrašų ar vaizdų manipuliavimo tikimybę, aptinkant žmonėms nepastebimus pilkos spalvos pokyčius.
• Deepware: Leidžia paprastai ir visiems vartotojams prieinamu būdu analizuoti įkeltus vaizdo įrašus, siekiant patikrinti, ar jie nebuvo manipuliuoti dirbtinio intelekto metodais.
• Fonemos ir visemos neatitikimasDėmesys sutelktas į neatitikimų tarp girdimų garsų (fonemų) ir to, kas matoma lūpų judesiuose (visemose), nustatymą. Jei yra neatitikimas, tai greičiausiai yra „deepfake“.
• DuckDuckGooseDėmesys skiriamas įmonių ir vartotojų apsaugai nuo kibernetinių, reputacijos ir finansinių grėsmių. Jame pateikiami aiškūs manipuliacijų paaiškinimai ir tai ypač vertinga įmonių aplinkoje.

2. Metaduomenų analizės įrankiai

Failo metaduomenų (sukūrimo datos, redagavimo datos, vietos ir kt.) analizė gali padėti atskleisti užuominų apie jo autentiškumą. Tokios priemonės kaip „MediaInfo“ arba „ExifTool“ leidžia patikrinti šią informaciją, paslėptą multimedijos failuose.

3. Įrankiai, kurie aptinka turinio anomalijas

Kiti sprendimai, tokie kaip „FaceForensics“ arba garso pirštų atspaudų sistemos, seka keistus veido judesių, balso ar paties vaizdo įrašo elementų modelius, ieškodami statistiškai neįtikėtinų neatitikimų tikruose kūriniuose.

Praktiniai patarimai ir geriausia praktika, kaip apsisaugoti nuo giliųjų klastotių

Be technologinių priemonių, kovai su „deepfake“ taip pat reikalingas žmogiškasis nuovokumas ir sveikas protas . Pateikiame keletą esminių rekomendacijų:

• visada patikrinti kilmę vaizdo, vaizdo ar garso įrašo, ypač jei jis gaunamas iš socialinių tinklų ar tiesioginių pranešimų.
• Nepasitikėjimas turinys, skirtas sukelti stiprias emocijas pavyzdžiui, pyktis, baimė ar nuostaba. Kuo didesnis emocinis krūvis, tuo didesnė tikimybė, kad tai bandymas manipuliuoti.
• Padarykite vieną atvirkštinė vaizdų paieška naudojant specializuotas paieškos sistemas, siekiant patikrinti, ar nuotrauka rodoma kituose kontekstuose arba su kitomis datomis.
• Nesidalinkite vaizdo įrašais ar vaizdais, jei negalėjote patvirtinti jų autentiškumoypač jei jie daro įtaką asmens, organizacijos reputacijai arba gali turėti viešų pasekmių.
• Sekite naujienas naujos dirbtinio intelekto ir aptikimo įrankių tendencijos ir metodaiTechnologijos sparčiai tobulėja, o kova su jomis nuolat vyksta.

Ateities perspektyvos ir kova su giliosiomis klastotėmis

Giliųjų klastočių verslas nepraras pagreitio: prognozuojama, kad tai bus kelių milijardų dolerių rinka su vis sudėtingesnėmis atakomis. Teisėti technologijų kūrėjai, įmonės ir vyriausybės imasi veiksmų, bendradarbiaudamos siekdamos stiprinti skaitmeninį saugumą ir dirbtinio intelekto etiką.

Tiems, kurie nori nuodugniai išanalizuoti multimedijos turinio teisingumą, yra perspektyvių projektų ir nemokamų išteklių . Nors nėra tobulo sprendimo, žmogaus analizės ir technologinių įrankių derinys bus labai svarbus sprendžiant šį iššūkį.

Vis sudėtingesnės giliųjų klastočių versijos nuolat kelia iššūkį internetinės informacijos patikimumui ir vientisumui. Norint jas aptikti, reikia kritinio mąstymo, aptikimo technologijų naudojimo ir įsipareigojimo nedalyvauti dezinformacijos grandinėje. Kuo geriau suvokiame šias rizikas, tuo mažesnė tikimybė, kad pasiduosime skaitmeninėms apgaulėms ir tuo veiksmingesnė bus mūsų gynyba nuo jau egzistuojančių grėsmių, kurios neabejotinai dar labiau didės artimiausiu metu.

Kaip internete aptikti „deepfake“ vaizdo įrašus: metodai, požymiai ir įrankiai