Deepfake porn kini menjadi salah satu ancaman serius yang mengintai perempuan di Korea Selatan. Teknologi ini menggunakan kecerdasan buatan (AI) untuk memanipulasi gambar dan video, menciptakan konten pornografi yang tampak nyata. Di Korea Selatan, para pelaku, yang sebagian besar adalah laki-laki, menggunakan gambar-gambar perempuan dari lingkup terdekat mereka untuk membuat deepfake porn tanpa persetujuan. Kasus ini bahkan menyasar figur publik seperti idol K-pop, termasuk grup terkenal seperti TWICE dan Blackpink.
Menurut analisis Sensity AI, 99% korban deepfake porn adalah perempuan, dengan 96% konten berupa pornografi non-konsensual. Korea Selatan menjadi negara dengan tingkat kerentanan tertinggi terhadap konten deepfake, mencatat lebih dari 53% dari total video yang dianalisis merupakan konten deepfake porn.
Banyak pelaku kejahatan deepfake porn di Korea Selatan adalah remaja. Data menunjukkan bahwa 78.9% pelaku kejahatan deepfake pada tahun 2024 berasal dari kelompok usia 10 hingga 19 tahun. Mereka memanfaatkan kemudahan akses AI untuk membuat konten pornografi palsu dengan menggunakan foto-foto yang diunggah di media sosial.
Profesi juga menjadi faktor utama dalam penargetan konten deepfake porn. Sebanyak 94% video deepfake porn menyasar pekerja di industri hiburan, dengan 58% di antaranya adalah penyanyi. Bahkan, lebih dari 200 idol K-pop menjadi korban dalam kasus ini, termasuk anggota grup populer seperti IVE, BabyMonster, dan New Jeans.
Meskipun hukuman terhadap pelaku deepfake porn di Korea Selatan bisa mencapai 5 tahun penjara, mayoritas pelaku yang dihukum adalah remaja. Namun, remaja sering kali hanya dijatuhi hukuman ringan seperti pelayanan masyarakat, yang dinilai tidak sebanding dengan kerugian psikologis yang diderita korban.
Kasus deepfake porn yang meluas menunjukkan pentingnya edukasi literasi digital bagi anak muda, terutama dalam memahami dampak buruk dari teknologi deepfake. Penggunaan AI yang tidak bijak bisa merusak masa depan banyak individu. Peningkatan kesadaran akan kejahatan ini diharapkan bisa mencegah penyebaran konten deepfake porn yang terus meningkat.
Kejahatan seksual berbasis teknologi seperti deepfake porn bukanlah masalah sepele. Skala dan dampaknya yang mengerikan, terutama bagi perempuan, telah menyebabkan trauma yang mendalam. Selain itu, lemahnya penegakan hukum di Korea Selatan terhadap kejahatan deepfake menunjukkan bahwa banyak negara, termasuk Indonesia, harus lebih serius dalam melindungi warga dari ancaman ini. Teknologi AI memang memiliki manfaat besar, namun di tangan yang salah, teknologi ini bisa menjadi mimpi buruk yang menghancurkan hidup orang lain.