Cara mengesan Deepfakes: panduan lengkap untuk mengenali dan melindungi diri anda daripada video dan audio palsu

Dalam beberapa tahun kebelakangan ini, kita telah melihat bagaimana kecerdasan buatan telah memudahkan penciptaan kandungan ultra-realistik, lebih dikenali sebagai deepfake . Video, imej dan rakaman audio yang dimanipulasi ini menimbulkan cabaran sebenar kepada cara kita mengenal pasti kesahihan maklumat dalam talian. Semakin sukar untuk membezakan realiti daripada fiksyen, dan keupayaan untuk memalsukan wajah, suara atau keseluruhan situasi telah menimbulkan bentuk maklumat salah baharu, penipuan digital dan kecurian identiti.

Kebangkitan teknologi ini, yang dipermudahkan oleh ketersediaan alatan yang semakin canggih, memaksa semua orang untuk berhati-hati sebelum menerima sebarang kandungan audiovisual atau audio sebagai tulen. Belajar untuk mengesan deepfake adalah penting untuk melindungi diri kita secara peribadi dan profesional, dan juga untuk membendung penyebaran berita palsu, penipuan dan manipulasi media.

Apakah deepfakes dan bagaimana ia berfungsi?

Istilah deepfake berasal daripada gabungan "pembelajaran mendalam" dan "palsu", dan merujuk kepada kandungan yang dipalsukan menggunakan teknik pembelajaran mendalam lanjutan atau kecerdasan buatan. Dalam praktiknya, ia melibatkan imej, video atau audio yang dimanipulasi oleh algoritma yang mampu mereplikasi wajah, suara dan ekspresi manusia dengan realisme yang melampau . Caranya terletak pada penggunaan rangkaian saraf—seperti GAN (Generative Adversarial Networks)—dan keupayaan sistem ini untuk menganalisis beribu-ribu titik data untuk kemudian menghasilkan imej hiperrealistik baharu yang meniru orang sebenar dengan sempurna.

Walaupun pada asalnya digunakan untuk kesan khas dalam filem, hari ini terdapat aplikasi yang boleh diakses secara umum yang membolehkan mana-mana pengguna bermain dengan teknologi ini dan video, imej dan audio palsu secara besar-besaran, dan ini telah menggandakan risiko penipuan, kempen maklumat salah dan kecurian identiti di seluruh dunia.

Kesan dan risiko deepfake

Menurut data terkini, bilangan deepfake di internet meningkat secara eksponen setiap tahun . Contohnya, Forum Ekonomi Dunia menganggarkan pertumbuhan tahunan sebanyak 900% dalam jenis kandungan ini menjelang 2023. Bahaya deepfake adalah begitu nyata sehingga, menurut laporan khusus, serangan yang melibatkan penyamaran dan manipulasi video meningkat sehingga 450% di Amerika Latin sahaja sepanjang tahun 2023. Penggunaannya telah mencetuskan masalah dalam kewartawanan, politik, kewangan, hiburan dan keselamatan awam.

Risiko utama termasuk:

• Fitnah atau kerosakan reputasi kepada individu dan syarikat melalui persediaan yang boleh dipercayai.
• Penggunaan video palsu untuk pintasan pengesahan biometrik dan menyamar sebagai orang lain.
• Realisasi daripada penipuan di platform digital dan pemerasan.
• Berkembang penyebaran berita palsu dan manipulasi sosial dan politikyang boleh menjejaskan kestabilan pasaran dan hubungan antarabangsa.
• Risiko kecurian atau pemindahan wang menggunakan audio dan video palsu, seperti yang telah berlaku dengan penipuan percintaan dan penipuan dalam talian.

Mengenal pasti deepfake memerlukan kemahiran yang menggabungkan analisis teknikal dan pemikiran kritis, memandangkan kecanggihan ciptaan ini terus bertambah baik.

Tanda dan cara untuk mengesan deepfake

Kemajuan dalam teknologi deepfake menjadikan video-video ini semakin meyakinkan, tetapi video-video terbaik pun masih menunjukkan kelemahan atau anomali halus yang dapat membantu kita mendedahkan penipuan tersebut. Berikut adalah tanda-tanda utama yang perlu diperhatikan:

1. Mata yang tidak semula jadi dan berkelip-kelip

Salah satu kesilapan yang paling kerap berlaku ialah bilangan kedipan mata atau rentaknya tidak semula jadi . Sesetengah urutan kelihatan dipaksa atau menunjukkan kedipan mata yang sangat sedikit, sesuatu yang biasanya dilakukan oleh manusia secara berkala. Perincian ini, walaupun sedang diperhalusi, kekal sebagai petunjuk penting.

2. Pergerakan muka dan badan yang pelik

Cari perbezaan antara pergerakan muka dan badan, atau ekspresi kaku dan tidak semula jadi yang tidak selari dengan suara . Jika muka bergerak dengan cara yang tidak selaras dengan badan, ia mungkin deepfake. Mungkin juga terdapat ralat lip-sync.

3. Pencahayaan dan bayang-bayang yang tidak konsisten

Deepfake selalunya menampilkan bayang-bayang palsu, kabur atau tidak realistik . Jika cahaya mengenai muka secara tidak semula jadi atau tidak menjejaskan latar belakang dan kulit secara sama rata, berwaspadalah. Warna muka juga mungkin berbeza daripada leher atau seluruh badan.

4. Ciri-ciri wajah, rambut dan telinga yang kabur

Garis rambut dan kontur wajah sering menunjukkan ketidaksempurnaan: tepi yang tidak sekata, kekaburan atau kawasan yang kabur. Rambut amat sukar untuk diproses oleh algoritma, begitu juga dengan ciri-ciri seperti anting-anting, cermin mata atau kawasan antara dagu dan leher.

5. Masalah pada mulut dan gigi

Apabila orang itu bercakap, gigi yang kabur atau tidak realistik mungkin kelihatan, atau mulut mungkin mempunyai bentuk yang ganjil atau tidak selaras sepenuhnya dengan audio . Teknologi ini masih menghadapi masalah untuk mewakili lidah, gigi dan rongga mulut secara realistik.

6. Penyahsegerakan audio dan suara

Audio yang dimanipulasi , terutamanya dalam deepfake suara, boleh kedengaran seperti robot, dengan jeda buatan atau intonasi yang tidak semula jadi. Koordinasi antara pergerakan bibir dan pertuturan mungkin terjejas , menjadikannya lebih mudah untuk dikesan.

7. Kulit yang terlalu licin atau mempunyai herotan

Sesetengah deepfake menunjukkan kulit tanpa liang pori, kedutan, tahi lalat pelik atau kulit herot apabila bergerak . Warna yang tidak semula jadi atau kecerahan mata yang berlebihan juga boleh menunjukkan manipulasi AI.

8. Tempoh dan konteks video

Palsu yang paling canggih biasanya memerlukan kerja berjam-jam dan oleh itu cenderung pendek . Semakin panjang video, semakin besar kemungkinan ralat akan terkumpul.

9. Keselarasan dengan maklumat awam

Jika video kontroversi tokoh awam hanya muncul di platform yang tidak boleh dipercayai, atau jika tiada saluran media lain yang mengambil maklumat tersebut, berwaspadalah. Bandingkan kandungannya dengan sumber lain untuk melihat sama ada ia selaras dengan biografi, sejarah atau pendirian orang tersebut.

10. Emosi yang dipaksa dan merayu kepada sentimentaliti

Kebanyakan kandungan yang banyak disalahtafsirkan bertujuan untuk menghasilkan reaksi emosi yang kuat (kemarahan, ketakutan, kejutan) untuk menggalakkan penyebaran. Jika anda perasan bahawa sesuatu mesej seolah-olah direka untuk memanipulasi emosi anda, berwaspada: maklumat salah tersebar dengan lebih berkesan apabila hubungan emosi yang diwujudkan itu lebih kuat.

Alat teknologi untuk mengenal pasti deepfake

Walaupun benar bahawa sesetengah petunjuk dapat dikesan melalui penglihatan, untuk kegunaan yang lebih halus dan profesional, alat khusus disyorkan . Alat ini memanfaatkan kecerdasan buatan dan analisis data, dan dikumpulkan kepada beberapa kategori:

1. Alat berasaskan AI untuk mengesan deepfake

Terdapat penyelesaian yang menggunakan pembelajaran mesin canggih untuk membandingkan corak, pergerakan atau ketidakkonsistenan wajah yang tidak dapat didengar atau tidak kelihatan oleh mata manusia. Berikut adalah beberapa contoh utama dan fungsi utamanya:

• SentinelPerkhidmatan berasaskan awan yang membolehkan pengesanan masa nyata dengan menganalisis mercu tanda wajah, kelipan dan konsistensi temporal. Ia boleh menganalisis video, imej dan audio, menghasilkan laporan visual kawasan yang terjejas.
• KepekaanPlatform yang digunakan secara meluas untuk pemantauan dan perlindungan identiti dalam organisasi, kerajaan dan perniagaan. Ia menganalisis sejumlah besar maklumat visual dan mengesan pertukaran wajah, audio yang dimanipulasi dan bukti kehidupan. Amat berguna dalam sektor yang mempunyai risiko kecurian identiti yang tinggi.
• Oz LivenessDiperakui mengikut piawaian ISO 30107, ia bertindak sebagai pertahanan terhadap serangan spoofing melalui SDK yang mudah diintegrasikan ke dalam aplikasi mudah alih dan web.
• KamiSahkanAlat yang ideal untuk mereka yang mengesahkan kandungan tular di media sosial, seperti wartawan, aktivis atau moderator. Ia menggunakan rantaian blok untuk mengekalkan pangkalan data awam pemalsuan yang diketahui.
• HyperVergePenyelesaian canggih yang menggabungkan pengesahan biometrik, pengecaman wajah dan analisis anti-penipuan merentasi pelbagai sektor antarabangsa. Ia telah menerima pengiktirafan dan pensijilan global.
• FakeCatcher IntelPengesan masa nyata dengan kadar ketepatan 96%. Ia menganalisis video untuk mencari kesan halus aliran darah dalam piksel, yang mustahil untuk disimulasikan dengan sempurna dengan AI semasa.
• Pengesah AI Video MicrosoftAlat percuma yang memberikan skor keyakinan yang menunjukkan kebarangkalian manipulasi dalam video atau imej, mengesan perubahan skala kelabu yang tidak dapat dikesan oleh manusia.
• Perisian dalamMembolehkan anda menganalisis video yang dimuat naik untuk memeriksa sama ada ia telah dimanipulasi dengan teknik AI, dengan cara yang mudah dan mudah diakses oleh semua pengguna.
• Ketidakpadanan Fonem-VisemTertumpu pada mengesan percanggahan antara bunyi yang didengar (fonem) dan apa yang dilihat dalam pergerakan bibir (viseme). Jika terdapat ketidakkonsistenan, ia mungkin deepfake.
• DuckDuckGooseTumpuannya adalah untuk melindungi perniagaan dan pengguna daripada ancaman siber, reputasi dan kewangan. Ia memberikan penjelasan yang jelas tentang manipulasi dan amat berharga dalam persekitaran korporat.

2. Alat analisis metadata

Menganalisis metadata fail (tarikh penciptaan, tarikh suntingan, lokasi, dll.) boleh membantu mendedahkan petunjuk tentang kesahihannya. Alat seperti MediaInfo atau ExifTool membolehkan anda memeriksa butiran ini yang tersembunyi dalam fail multimedia.

3. Alat yang mengesan anomali dalam kandungan

Penyelesaian lain seperti sistem FaceForensics atau Audio Fingerprinting menjejaki corak pelik dalam pergerakan wajah, suara atau elemen video itu sendiri, mencari ketidakkonsistenan yang tidak konsisten secara statistik dalam produksi tulen.

Petua praktikal dan amalan terbaik untuk melindungi diri anda daripada deepfake

Selain alatan teknologi, memerangi deepfake juga memerlukan pertimbangan manusia dan akal sehat . Berikut adalah beberapa cadangan penting:

• Sentiasa sahkan asal usul imej, video atau audio, terutamanya jika ia datang daripada rangkaian sosial atau pesanan segera.
• Ketidakpercayaan kandungan yang direka untuk membangkitkan emosi yang kuat seperti kemarahan, ketakutan, atau kejutan. Semakin besar cas emosi, semakin besar kemungkinan ia merupakan percubaan manipulasi.
• Buat satu carian imej terbalik menggunakan enjin carian khusus untuk menyemak sama ada foto itu muncul dalam konteks lain atau dengan tarikh lain.
• Jangan kongsi video atau imej jika anda belum dapat mengesahkan kesahihannyaterutamanya jika ia menjejaskan reputasi seseorang, organisasi atau mungkin mempunyai akibat awam.
• Kekal dikemas kini trend dan teknik baharu dalam kecerdasan buatan dan alat pengesananTeknologi semakin maju dengan pesat, dan perjuangannya berterusan.

Perspektif masa depan dan perjuangan menentang deepfake

Perniagaan deepfake tidak akan kehilangan momentum: ia diunjurkan menjadi pasaran bernilai berbilion dolar, dengan serangan yang semakin canggih. Pembangun teknologi, syarikat dan kerajaan yang sah sedang mengambil tindakan, bekerjasama untuk memperkukuh keselamatan digital dan etika AI.

Terdapat projek yang berpotensi dan sumber percuma yang tersedia untuk mereka yang ingin menganalisis kebenaran kandungan multimedia secara menyeluruh. Walaupun tiada penyelesaian yang sempurna, gabungan analisis manusia dan alat teknologi akan menjadi kunci untuk menghadapi cabaran ini.

Kecanggihan deepfake yang semakin meningkat menimbulkan cabaran berterusan terhadap kepercayaan dan integriti maklumat dalam talian. Mengesannya memerlukan pemikiran yang kritis, penggunaan teknologi pengesanan dan komitmen untuk tidak terlibat dalam rantaian maklumat salah. Lebih sedar kita tentang risiko ini, lebih kecil kemungkinan kita terpedaya dengan penipuan digital dan lebih berkesan pertahanan kita terhadap ancaman yang sedia ada dan pastinya akan menjadi lebih hebat dalam masa terdekat.

Cara mengesan video deepfake di internet: kaedah, tanda dan alat