 |
| Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi, Alexander Sabar |
Jakarta, Rakyatterkini.com – Kementerian Komunikasi dan Digital (Kemkomdigi) menindaklanjuti dugaan penyalahgunaan fitur kecerdasan buatan Grok AI di platform X, yang diduga digunakan untuk membuat dan menyebarkan konten asusila, termasuk manipulasi foto pribadi tanpa izin pemiliknya.
Direktur Jenderal Pengawasan Ruang Digital, Alexander Sabar, menyampaikan bahwa penelusuran awal menemukan Grok AI belum memiliki pengaturan yang cukup untuk mencegah pembuatan dan distribusi konten pornografi berbasis foto asli warga Indonesia.
“Temuan awal menunjukkan belum ada aturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi,” ujarnya di Jakarta, Rabu (7/1/2026). “Kondisi ini berpotensi melanggar privasi dan hak atas citra diri warga.”
Menurut Alexander, manipulasi digital terhadap foto pribadi bukan sekadar masalah kesusilaan, tetapi juga perampasan kendali individu atas identitas visualnya, yang dapat menimbulkan dampak psikologis, sosial, dan reputasi.
Kemkomdigi saat ini bekerja sama dengan Penyelenggara Sistem Elektronik (PSE) untuk memastikan adanya mekanisme perlindungan yang efektif. Langkah ini meliputi penguatan sistem moderasi konten, pencegahan pembuatan deepfake asusila, serta prosedur cepat untuk menindaklanjuti laporan pelanggaran privasi dan hak atas citra diri.
“Setiap PSE wajib memastikan teknologi yang mereka sediakan tidak disalahgunakan untuk pelanggaran privasi, eksploitasi seksual, maupun perusakan martabat seseorang,” tegas Alexander.
Kemkomdigi juga menekankan bahwa seluruh PSE yang beroperasi di Indonesia wajib mematuhi peraturan perundang-undangan. Jika ditemukan pelanggaran atau ketidakpatuhan, kementerian dapat menjatuhkan sanksi administratif, termasuk pemutusan akses layanan Grok AI dan platform X.
Penyedia layanan AI maupun pengguna yang terbukti memproduksi atau menyebarkan konten pornografi atau manipulasi citra pribadi tanpa izin dapat dikenakan sanksi administratif maupun pidana sesuai hukum yang berlaku. Sejak berlakunya Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana (KUHP) pada 2 Januari 2026, konten pornografi diatur dalam Pasal 172 dan Pasal 407. Pasal 172 mendefinisikan pornografi sebagai media yang memuat kecabulan atau eksploitasi seksual yang melanggar norma kesusilaan, sedangkan Pasal 407 mengatur ancaman pidana penjara minimal enam bulan hingga maksimal sepuluh tahun, atau pidana denda.
Alexander menambahkan, masyarakat yang menjadi korban manipulasi foto, deepfake asusila, atau pelanggaran hak atas citra diri dapat menempuh jalur hukum melalui aparat penegak hukum maupun pengaduan ke Kemkomdigi.
“Kami mengimbau seluruh pihak menggunakan teknologi kecerdasan buatan secara bertanggung jawab. Ruang digital bukan ruang tanpa hukum—privasi dan hak atas citra diri setiap warga harus dihormati dan dilindungi,” pungkas Alexander.(da*)
