Soroti Risiko Deepfake Asusila, Kemkomdigi Perketat Pengawasan Grok AI di Ruang Digital

INILAHKORAN.ID - Kementerian Komunikasi dan Digital (Kemkomdigi) meningkatkan pengawasan terhadap pemanfaatan teknologi kecerdasan buatan di ruang digital menyusul maraknya dugaan penyalahgunaan Grok AI di platform X. Teknologi tersebut diduga digunakan untuk memanipulasi foto pribadi menjadi konten asusila tanpa izin pemiliknya.

Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi, Alexander Sabar, mengungkapkan bahwa hasil penelusuran awal menunjukkan belum adanya pengaturan yang memadai dalam Grok AI untuk membendung produksi dan penyebaran konten pornografi berbasis foto nyata warga Indonesia. Kondisi ini dinilai membuka celah besar terjadinya pelanggaran privasi dan hak atas citra diri.

Menurut Alexander, manipulasi digital terhadap foto pribadi bukan sekadar pelanggaran norma kesusilaan, melainkan juga bentuk perampasan kendali seseorang atas identitas visualnya. Dampaknya bisa meluas, mulai dari tekanan psikologis, stigma sosial, hingga kerusakan reputasi korban.

“Ketika foto seseorang dimanipulasi dan disebarkan tanpa persetujuan, itu merupakan pelanggaran serius terhadap hak asasi, khususnya hak atas citra diri,” ujar Alexander dalam keterangannya di Jakarta, Rabu.

Sebagai langkah antisipasi, Kemkomdigi kini menjalin koordinasi intensif dengan para Penyelenggara Sistem Elektronik (PSE). Pemerintah mendorong penguatan moderasi konten, pencegahan pembuatan deepfake asusila, serta penyediaan mekanisme respons cepat terhadap laporan pelanggaran privasi.

Alexander menegaskan, seluruh PSE yang beroperasi di Indonesia wajib memastikan teknologi yang mereka sediakan tidak disalahgunakan untuk eksploitasi seksual atau tindakan yang merendahkan martabat manusia. Kepatuhan terhadap regulasi nasional menjadi kewajiban mutlak.

Jika ditemukan unsur pelanggaran atau sikap tidak kooperatif, Kemkomdigi memiliki kewenangan untuk menjatuhkan sanksi administratif, termasuk pemutusan akses layanan Grok AI maupun platform X di Indonesia.

Lebih lanjut, Kemkomdigi mengingatkan bahwa sejak diberlakukannya Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana (KUHP) pada 2 Januari 2026, pengaturan mengenai pornografi semakin tegas. Ketentuan tersebut tercantum antara lain dalam Pasal 172 dan Pasal 407 yang mengatur definisi pornografi serta ancaman pidana penjara dan denda.

Masyarakat yang menjadi korban manipulasi foto, deepfake asusila, atau pelanggaran hak citra diri juga diimbau untuk tidak ragu menempuh jalur hukum. Pengaduan dapat dilakukan melalui aparat penegak hukum maupun langsung ke Kemkomdigi.

“Kami mengajak semua pihak menggunakan teknologi kecerdasan buatan secara etis dan bertanggung jawab. Ruang digital tetap berada dalam koridor hukum dan harus menghormati privasi setiap warga,” pungkas Alexander.