MAKLUMAT — Kementerian Komunikasi dan Digital (Kemkomdigi) menyelidiki dugaan penyalahgunaan teknologi kecerdasan buatan Grok AI yang beroperasi di platform X. Teknologi tersebut diduga digunakan untuk memproduksi dan menyebarkan konten asusila, termasuk manipulasi foto pribadi tanpa persetujuan pemiliknya.
Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi, Alexander Sabar mengatakan hasil penelusuran awal menunjukkan Grok AI belum memiliki pengaturan yang memadai untuk mencegah pembuatan dan distribusi konten pornografi berbasis foto nyata warga Indonesia.
Menurut Alexander, kondisi ini berpotensi melanggar hak privasi dan hak atas citra diri, terutama ketika foto seseorang dimanipulasi dan disebarluaskan tanpa izin yang sah.
“Temuan awal kami menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi,” ujar Alexander, Rabu (7/1/2026).
Kemkomdigi menegaskan manipulasi digital terhadap foto pribadi termasuk persoalan kesusilaan. Praktik tersebut dinilai sebagai bentuk perampasan kendali individu atas identitas visualnya dan berpotensi menimbulkan dampak serius, mulai dari kerugian psikologis hingga rusaknya reputasi sosial korban.
Saat ini, Kemkomdigi tengah berkoordinasi dengan para Penyelenggara Sistem Elektronik (PSE) untuk memastikan tersedianya mekanisme perlindungan yang efektif. Langkah tersebut mencakup penguatan moderasi konten, pencegahan pembuatan deepfake asusila, serta penyediaan prosedur penanganan cepat atas laporan pelanggaran privasi.
Alexander mengatakan setiap PSE wajib memastikan teknologi yang mereka sediakan tidak digunakan sebagai sarana pelanggaran privasi, eksploitasi seksual, maupun perusakan martabat manusia.
“Kepatuhan terhadap peraturan perundang-undangan Indonesia bersifat wajib bagi seluruh PSE yang beroperasi di Indonesia,” tegasnya.
Kemkomdigi membuka kemungkinan menjatuhkan sanksi administratif hingga pemutusan akses layanan Grok AI dan platform X jika ditemukan ketidakpatuhan atau sikap tidak kooperatif dalam proses pengawasan.
