Halo, pembaca nawala Cek Fakta Tempo!
Apa yang terpikir di benak Anda, jika tiba-tiba mendapati wajah Anda sebagai sosok dalam foto atau video telanjang? Tidakkah Anda marah? Kasus yang disebut deepfake porn (pornografi palsu) ini kini semakin marak. Hal ini menunjukkan bahwa pelaku kejahatan semakin dipermudah oleh teknologi berbasis AI. Apa itu deepfake porn dan bagaimana kita bisa menyelamatkan diri dan orang-orang sekitar?
Baca berita dengan sedikit iklan, klik di sini
Apakah Anda menerima nawala ini dari teman dan bukan dari e-mail Tempo? Daftarkan surel di sini untuk berlangganan.
Waspada Deepfake Porn, Pornografi Palsu Menggunakan Kecerdasan Buatan
Pekan lalu, mahasiswa Program Studi Akuntansi, Fakultas Ekonomi dan Bisnis (FEB) Universitas Udayana, Sergio Lucasandro Ksatria Dwi Putra, diduga melakukan pelecehan seksual. Ia menjadi sorotan lantaran mencuri foto puluhan kawan-kawan perempuannya di Instagram. Lalu menyuntingnya menjadi telanjang menggunakan bot berbasis Artificial Intelligence di aplikasi Telegram.
Deepfake porn atau pornografi palsu dibuat menggunakan teknologi AI, khususnya algoritma pembelajaran mendalam. Algoritma ini dilatih untuk memanipulasi gambar, misalnya dengan melepaskan pakaian dan menggantinya dengan gambar bagian tubuh telanjang.
Awalnya, deepfake porn menyasar kalangan selebriti atau tokoh publik karena foto dan video mereka tersebar luas di internet, sehingga amat mudah untuk didapatkan. Namun kini, masyarakat biasa dapat menjadi korban pornografi palsu sebab media sosial memudahkan pelaku untuk mencuri foto korban yang diinginkan.
Menurut kandidat doktor Annenberg School for Communication, Sophie Maddocks, meskipun secara teori dapat digunakan pada pria, algoritma ini biasanya dilatih pada gambar wanita. Dengan kemajuan pesat dalam AI, pornografi deepfake menjadi semakin umum. Siapapun dapat menjadi sasaran deepfake porno, bahkan jika kita tidak pernah mengambil atau mengirim foto telanjang. Deepfake semacam ini juga menjadi ladang bisnis bagi kreator yang menerima pesanan pembuatan deepfake lewat situs khusus untuk pornografi deepfake.
Pornografi hasil manipulasi ini merupakan salah satu bentuk Kejahatan Berbasis Gender Online (KBGO). Berdasarkan data SAFEnet Indonesia, pada 2024 kasus KBGO di Indonesia naik 4 kali lipat dibandingkan tahun sebelumnya. Modus dan jenis KBGO pun bertambah seiring berkembangnya teknologi. Selain pelecehan daring, ancaman penyebaran konten intim tanpa persetujuan atau Non-Consentual Intimate Images (NCII), maupun sextortion atau pemerasan, deepfake porn dilakukan dengan teknik morphing alias memodifikasi visual seseorang,
Bahaya pornografi palsu ini tak main-main. Belajar dari Korea Selatan, pornografi deepfake di Korea Selatan menjelma menjadi ancaman yang lebih parah karena mereka memiliki sejarah panjang kejahatan seks digital. Mulai kamera tersembunyi sampai chatroom tempat perempuan dan anak perempuan dipaksa untuk mengunggah konten seksual yang merendahkan. Di sekolah-sekolah Negeri Ginseng, lebih dari 900 siswa, guru, dan staf melaporkan menjadi korban kejahatan seks deepfake antara Januari dan awal November tahun sebelumnya.
Meski banyak korban, publik ternyata tak serta merta menaruh empati. Bahkan tak sedikit yang berkomentar kepada para perempuan korban pornografi deepfake tak perlu risau, “karena toh itu bukan benar-benar tubuhmu”.
Sementara korban deepfake porn di Indonesia, seperti dikutip dari Magdalene, dipermalukan dan dikucilkan dalam lingkungan pertemanan maupun profesi. Ketika foto atau seseorang sudah tersebar di lingkungan kerja, alih-alih mendapat dukungan dari teman atau atasan. Ia bisa dihakimi bahkan terancam dipecat walau sudah berupaya menjelaskan.
Beberapa cara untuk mengurangi risiko menjadi korban deepfake porn:
- Berhenti mengunggah foto diri Anda atau keluarga di akun media sosial yang tidak dilindungi
- Selalu berhati-hati saat mengunggah foto diri Anda ke situs publik
- Pastikan Anda menjaga keamanan tingkat tinggi di semua perangkat elektronik Anda
- Bicaralah dengan keluarga dan teman Anda tentang risiko mengunggah gambar di media sosial
Pengacara Carrie Goldberg dari firma hukum C.A. Goldberg Law, membagikan saran apabila orang-orang terdekat ada yang mengalami pelecehan daring, khususnya deepfake porn. Langkah pertama adalah mengambil tangkapan layarnya (screenshot). "Reaksi spontan yang dilakukan adalah menghapusnya dari internet sesegera mungkin, tapi Anda memerlukan bukti jika Anda kelak ingin melaporkannya secara pidana."
Kemudian, mereka dapat mencari formulir yang disediakan oleh platform seperti Google, Meta, dan Snapchat untuk meminta penghapusan konten eksplisit/porno. Organisasi nirlaba seperti StopNCII.org dan Take It Down juga dapat membantu memfasilitasi penghapusan gambar tersebut di beberapa platform sekaligus, meskipun tidak semua situs bekerja sama dengan kelompok tersebut.
Ada Apa Pekan Ini?
Dalam sepekan terakhir, klaim yang beredar di media sosial memiliki beragam isu, namun sebagian banyak juga konten hoaks terkait aksi buruh menjelang hari buruh 1 Mei kemarin. Buka tautannya ke kanal Cek Fakta Tempo untuk membaca hasil periksa fakta berikut:
- Benarkah Narasi bahwa Kegiatan May Day dan Seruan Hari Buruh 2025 Hanya Hoaks?
- Benarkah Seruan May Day 2025 di Sumatera dan Berbagai Daerah adalah Hoaks?
- [Eksplainer] Kontranarasi Hari Buruh 2025 di Media Sosial
Kenal seseorang yang tertarik dengan isu disinformasi? Teruskan nawala ini ke surel mereka. Punya kritik, saran, atau sekadar ingin bertukar gagasan? Layangkan ke sini. Ingin mengecek fakta dari informasi atau klaim yang anda terima? Hubungi Tipline kami.
Ikuti kami di media sosial:
