Com detectar Deepfakes: guia completa per reconèixer i protegir-te davant de vídeos i àudios falsos

En els darrers anys hem vist com la intel·ligència artificial ha propiciat la creació de continguts ultrarealistes, millor coneguts com a deepfakes . Aquests vídeos, imatges i àudios manipulats estan generant un autèntic repte en la manera com identifiquem la veracitat de la informació a internet. Cada vegada és més complicat distingir el que és real del que és fals, i la capacitat de falsificar cares, veus o fins i tot situacions senceres ha donat peu a noves formes de desinformació, fraus digitals i atacs a la identitat.

L'auge d'aquesta tecnologia, afavorida per la disponibilitat d'eines cada cop més sofisticades, obliga tothom a extremar la precaució abans de donar per autèntic qualsevol contingut audiovisual o sonor. Aprendre a detectar deepfakes és essencial per protegir-nos tant en el pla personal com professional, i també per frenar la viralització de notícies falses, estafes i manipulació mediàtica.

Què són els deepfakes i com funcionen?

El terme deepfake neix de la combinació de deep learning i fake, i fa referència a continguts falsificats mitjançant tècniques avançades d'aprenentatge profund o intel·ligència artificial. A la pràctica, es tracta d'imatges, vídeos o àudios manipulats per algorismes capaços de replicar, amb realisme extrem, rostres, veus i expressions humanes . El truc està en l'ús de xarxes neuronals —com les GAN (Generative Adversarial Networks)— i la capacitat d'aquests sistemes d'analitzar milers de dades per generar noves imatges hiperrealistes que imiten a la perfecció una persona real.

Tot i que originalment es van utilitzar per a efectes especials de cinema, avui hi ha aplicacions d'accés públic que permeten a qualsevol usuari jugar amb aquesta tecnologia i falsejar vídeos, imatges i àudios a gran escala, i això ha multiplicat el risc de fraus, campanyes de desinformació i suplantació d'identitat a tot el món.

L'impacte i riscos dels deepfakes

Segons dades recents, el nombre de deepfakes a la xarxa augmenta exponencialment cada any . Per exemple, el Fòrum Econòmic Mundial estimava el 2023 un creixement del 900% anual en aquests continguts. El perill dels deepfakes és tan real que, segons informes especialitzats, els atacs de suplantació i manipulació de vídeos han crescut fins a un 450% només a Llatinoamèrica durant el 2023. El seu ús ja ha desencadenat problemes a l'entorn del periodisme, la política, les finances, l'entreteniment i la seguretat ciutadana.

Entre els riscos principals es troben:

• Difamació o dany reputacional persones i empreses a través de muntatges creïbles.
• Ús de vídeos falsos per eludir autenticacions biomètriques i suplantar identitats.
• realització de fraus en plataformes digitals i extorsions.
• creixent propagació de notícies falses i manipulació social i política, que pot desestabilitzar mercats i relacions internacionals.
• risc de robatori o transferència de diners usant àudios i vídeos falsos, com ha passat amb estafes romàntiques i fraus en línia.

Identificar un deepfake requereix habilitats que combinen anàlisis tècniques i sentit crític, ja que la sofisticació d'aquestes creacions continua millorant.

Senyals i trucs per detectar deepfakes

L'avenç de la tecnologia deepfake fa que aquests vídeos siguin cada cop més convincents, però fins i tot els millors encara mostren certes fallades subtils o anomalies que ens poden ajudar a descobrir l'engany. A continuació, t'expliquem els senyals clau a què prestar atenció:

1. Ulls i parpelleig poc naturals

Un dels errors més freqüents és que el nombre de parpellejos o el seu ritme no és natural . Algunes seqüències semblen forçades o mostren molt pocs parpellejos, cosa que els humans solem fer de manera regular. Aquest detall, tot i que es va perfeccionant, continua sent una pista important.

2. Moviments facials i corporals estranys

Fixa't en desajustos entre els moviments de la cara i el cos, o en expressions rígides, poc naturals o desincronitzades amb el to de veu . Si el rostre es mou de forma descoordinada amb el cos, pot ser un deepfake. També hi pot haver errors en el moviment de llavis respecte de l'àudio.

3. Il·luminació i ombres incoherents

Els deepfakes sovint presenten ombres falses, borroses o poc realistes . Si la llum incideix a la cara de manera irreal o no afecta de la mateixa manera el fons i la pell, sospita. El color del rostre també pot diferir amb el coll o la resta del cos.

4. Vores del rostre, pèl i orelles difusos

La zona dels cabells i el contorn de la cara sol mostrar imperfeccions: vores irregulars, desenfocaments o zones borroses. El pèl és especialment difícil per als algorismes, igual que elements com arracades, ulleres o la unió entre la barbeta i el coll.

5. Problemes a la boca i les dents

Quan la persona parla, poden aparèixer dents difuminades o irreals, una boca amb forma estranya o que no se sincronitza en absolut amb l'àudio . La tecnologia encara té dificultats per representar llengua, dents i cavitat bucal amb realisme.

6. Desincronització d'àudio i veu

L' àudio manipulat , especialment als deepfakes de veu, pot sonar robòtic, amb pauses artificials o entonació poc natural. La coordinació entre el moviment dels llavis i el discurs pot fallar , cosa que en facilita la detecció.

7. Pell massa llisa o amb distorsions

Alguns deepfakes mostren pell sense porus, arrugues, lunars estranys o distorsionada en moure's . Els colors poc naturals o la brillantor excessiva dels ulls també poden delatar la manipulació IA.

8. Durada i context dels vídeos

Les falsificacions més aconseguides solen requerir moltes hores de treball i, per tant, solen tenir una durada limitada . Com més llarg el vídeo, més probable és que apareguin errors acumulatius.

9. Coherència amb la informació pública

Si un vídeo polèmic d'una figura pública apareix només en una plataforma poc fiable, o cap altre mitjà no recull aquesta informació, sospita. Contrasta el contingut amb altres fonts per comprovar si encaixa amb la biografia, l'historial o les postures del personatge.

10. Emocions forçades i apel·lació a allò sentimental

Molt contingut ultrafalsificat cerca generar reaccions emocionals intenses (ràbia, por, sorpresa) per motivar la viralitat. Si notes que el missatge sembla dissenyat per manipular les teves emocions, estigues alerta: la desinformació es propaga millor com més connexió emocional genera.

Eines tecnològiques per identificar deepfakes

És cert que hi ha pistes que podem detectar a l'ull, però per als usos més delicats i professionals convé fer servir eines especialitzades . Aquestes aprofiten tant la intel·ligència artificial com l'anàlisi de dades, i s'agrupen en diverses categories:

1. Eines basades en IA per detectar deepfakes

Hi ha solucions que utilitzen machine learning avançat per comparar patrons facials, moviments o incongruències inaudibles o invisibles per a l'ull humà. Aquí alguns exemples capdavanters i les seves funcionalitats principals:

• Sentinella: Servei al núvol que permet la detecció en temps real, analitzant punts de referència facials, parpellejos i coherència temporal. Podeu analitzar vídeos, imatges i àudio, generant un informe visual de les zones modificades.
• Sensibilitat: Plataforma molt utilitzada per a la monitorització i protecció d'identitat en organitzacions, governs i empreses. Analitza grans volums dinformació visual i detecta intercanvis de rostre, àudios manipulats i proves de vida. Especialment útil en sectors amb risc alt de suplantació d'identitat.
• Oz Liveness: Certificada amb l'estàndard ISO 30107, actua com a defensa contra atacs de suplantació a través de SDK fàcil d'integrar a aplicacions mòbils i web.
• WeVerify: Eina ideal per a aquells que validen continguts virals a xarxes socials, com periodistes, activistes o moderadors. Fes servir blockchain per mantenir una base de dades pública de falsificacions conegudes.
• HyperVerge: Solució avançada que combina verificació biomètrica, identificació facial i anàlisi antifrau en múltiples sectors internacionals. Compte amb reconeixements i certificacions mundials.
• FakeCatcher d'Intel: Detector en temps real amb una taxa d'èxit de 96%. Analitza el vídeo buscant el subtil rastre del flux sanguini als píxels, impossible de simular perfectament per IA actual.
• Microsoft Video AI Authenticator: Eina gratuïta que atorga una puntuació de confiança assenyalant la probabilitat de manipulació en vídeos o imatges, detectant alteracions d'escala de grisos indetectables per als humans.
• Deepware: Permet analitzar vídeos pujats per comprovar si han estat manipulats amb tècniques d'IA, de manera senzilla i accessible a tots els usuaris.
• Phoneme-Viseme Mismatch: Centrada a descobrir desajustos entre els sons que se senten (fonemes) i el que es veu en el moviment dels llavis (visemes). Si hi ha incoherència, probablement estiguem davant d'un deepfake.
• DuckDuckGoose: El focus està en la protecció d'empreses i usuaris davant d'amenaces cibernètiques, reputacionals o financeres. Aporta explicacions clares de les manipulacions i és especialment valuosa en entorns corporatius.

2. Eines danàlisi de metadades

Analitzar les metadades d'un fitxer (data de creació, edició, ubicació, etc.) pot ajudar a trobar pistes sobre la seva autenticitat. Eines com MediaInfo o ExifTool permeten inspeccionar aquests detalls amagats als fitxers multimèdia.

3. Eines que detecten anomalies al contingut

Altres solucions com FaceForensics o sistemes d' Àudio Fingerprinting rastregen patrons estranys en els moviments facials, la veu o elements del propi vídeo, cercant inconsistències estadísticament improbables en produccions genuïnes.

Consells pràctics i bones pràctiques per protegir-te dels deepfakes

A més de les eines tecnològiques, la lluita contra els deepfakes també requereix criteri humà i sentit comú . Aquí tens algunes recomanacions essencials:

• Sempre verifica l'origen de la imatge, vídeo o àudio, especialment si prové de xarxes socials o missatgeria ràpida.
• desconfia de continguts dissenyats per provocar emocions fortes com ràbia, por o sorpresa. Com més càrrega emocional, més possibilitats que sigui un intent de manipulació.
• fes una cerca inversa d'imatges usant cercadors especialitzats per comprovar si la foto apareix en altres contextos o amb altres dates.
• No comparteixis vídeos ni imatges si no has pogut verificar-ne l'autenticitat, sobretot si afecten la reputació duna persona, organització o poden tenir conseqüències públiques.
• Estigues actualitzat sobre les noves tendències i tècniques en intel·ligència artificial i eines de detecció. La tecnologia avança ràpid i la lluita és constant.

Perspectives futures i el combat contra els deepfakes

El negoci del deepfake no perdrà força: es calculen mercats multimilionaris i un creixement en la sofisticació dels atacs. Els creadors de tecnologia legítima, empreses i governs estan prenent cartes a l'assumpte, col·laborant per reforçar la seguretat digital i l'ètica de la IA.

Hi ha projectes prometedors i recursos gratuïts per als que vulguin analitzar a fons la veracitat d'un contingut multimèdia. Tot i que cap solució no és perfecta, la combinació d'anàlisis humana i eines tecnològiques serà clau per fer front a aquest desafiament.

L'increment en la sofisticació dels deepfakes suposa un desafiament permanent per a la confiança i la integritat de la informació en línia. Detectar-los requereix una actitud crítica, l'ús de tecnologies de detecció i el compromís de no ser part de la cadena de desinformació. Com més consciència tinguem sobre aquests riscos, menors seran les possibilitats de caure en enganys digitals i més efectiu serà la nostra defensa davant les amenaces que ja formen part del present i que, sens dubte, seran encara més grans en el futur proper.

Com detectar vídeos deepfake a internet: mètodes, senyals i eines