MAKLUMAT — Kementerian Komunikasi dan Digital (Komdigi) mengambil langkah tegas dengan memutus akses alias memblokir sementara layanan chatbot berbasis kecerdasan artifisial (AI) milik platform X (sebelumnya Twitter), Grok, mulai Sabtu (10/1/2026).
Langkah tersebut diambil sebagai upaya untuk melindungi masyarakat dari ancaman konten deepfake menjurus pornografi, yang belakangan kian marak di ruang digital.
Menteri Komunikasi dan Digital (Menkomdigi), Meutya Hafid, menegaskan bahwa keputusan tersebut diambil sebagai respons mendesak atas meningkatnya risiko penyalahgunaan teknologi AI, khususnya yang berdampak pada perempuan dan anak.
“Demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu yang dihasilkan menggunakan teknologi kecerdasan artifisial, Pemerintah melalui Kementerian Komunikasi dan Digital melakukan pemutusan akses sementara terhadap aplikasi Grok,” tegas Meutya Hafid dalam pernyataan resminya di Jakarta, dikutip Ahad (11/1/2026).
Pemerintah menilai praktik deepfake pornografi nonkonsensual bukan sekadar pelanggaran kesusilaan, melainkan pelanggaran serius terhadap hak asasi manusia (HAM). Manipulasi visual tersebut dinilai merampas kendali individu atas identitas visualnya (right to one’s image), merusak martabat korban, serta menciptakan rasa tidak aman di ruang digital.
Dampak psikologis yang berat, kerusakan reputasi sosial, hingga potensi pelecehan di ruang publik menjadi alasan kuat Komdigi bertindak cepat. Selain memutus akses sementara, Komdigi juga telah memanggil pihak Platform X untuk memberikan klarifikasi terkait dampak negatif penggunaan Grok.
Langkah pemutusan akses tersebut memiliki dasar hukum yang kuat, merujuk pada Peraturan Menteri Komunikasi dan Informatika (Permenkominfo) 5/2020 tentang Penyelenggara Sistem Elektronik (PSE) Lingkup Privat. Dalam Pasal 9 regulasi tersebut, mewajibkan setiap PSE memastikan sistem elektroniknya tidak memuat, memfasilitasi, atau menyebarluaskan informasi dan dokumen elektronik yang dilarang.
Tak hanya menyasar penyelenggara sistem, pemerintah juga mengingatkan adanya ancaman pidana bagi pengguna yang membuat atau menyebarkan konten deepfake.
Direktur Tindak Pidana Siber Bareskrim Polri, Brigjen Himawan Bayu Aji, menegaskan bahwa manipulasi data elektronik tanpa persetujuan pemiliknya merupakan tindak kriminal. Ketentuan tersebut juga berlaku bagi pengguna Grok maupun aplikasi AI lainnya yang digunakan untuk tujuan serupa.
“Selama itu bisa diklarifikasi bahwa itu adalah manipulasi data elektronik, maka itu menjadi suatu hal yang dipidana,” ujar Himawan pada Rabu (7/1/2026) lalu.
Sebelumnya, fitur Grok AI menuai sorotan tajam dari berbagai negara karena kemampuannya memproduksi konten pornografi secara instan. Sejumlah pengguna X dilaporkan menyalahgunakan fitur ini.
Masalahnya berawal dari fitur image generation/editing yang dinilai sejumlah kalangan memiliki celah keamanan cukup lemah. Banyak user tidak bertanggungjawab kemudian memanfaatkannya buat membuat deepfake pornografi nonkonsensual, termasuk mengedit foto seseorang menjadi telanjang atau semi-telanjang, bahkan melibatkan anak di bawah umur maupun figur publik.
Merespons gelombang kritik tersebut, X disebut mulai membatasi akses fitur edit foto di Grok. Saat ini, fitur tersebut diklaim hanya tersedia bagi pelanggan berbayar X Premium. Ketika pengguna meminta Grok mengedit foto melalui mention, chatbot tersebut menjawab dengan pernyataan, “Pembuatan dan pengeditan gambar saat ini terbatas untuk pelanggan berbayar. Anda dapat berlangganan untuk mengakses fitur-fitur tersebut.”
Hal itu dilakukan supaya lebih terkontrol dan kurangi akses massal ke Grok untuk melakukan fitur tersebut. Selain itu, X juga menyebut meningkatkan safeguards secara internal dengan filter yang lebih ketat, deteksi prompt yang dinilai berbahaya, dan sebagainya.
Pemilik X, Elon Musk juga sempat mengatakan “siapa pun yang menggunakan Grok untuk membuat konten ilegal (termasuk CSAM/child sexual abuse material) bakal kena konsekuensi sama seperti kalau mereka upload langsung—artinya akun diban, berurusan dengan polisi, dll.”
Pemerintah melalui Kementerian Komdigi menegaskan akan terus memantau perkembangan serta memastikan ruang digital di Indonesia tetap aman, bermartabat, dan menghormati hak asasi setiap warga.
Pihak Komdigi dikabarkan juga telah memanggil secara resmi perwakilan pihak platform X untuk memberikan klarifikasi dan menjelaskan terkait celah keamanan, dampak negatif, langkah mitigasi, dan perbaikan safeguards fitur image generation di Grok.
