Komdigi Blokir Grok untuk Sementara Karena Potensi Asusila

Januari 14, 2026

Pengku. A

Bagikan Artikel

Ringkasan Artikel: Komdigi Blokir Grok

Kementerian Komunikasi dan Digital (Komdigi) melakukan pemutusan akses terhadap Grok
sebagai langkah pengawasan akibat penyalahgunaan fitur kecerdasan buatan untuk konten asusila.

Pemutusan akses dilakukan karena penyalahgunaan fitur AI untuk konten asusila.
Kebijakan pemblokiran bersifat sementara dan akan dievaluasi.
Dasar hukum mencakup Permenkominfo Nomor 5 Tahun 2020 dan Undang-Undang ITE.
Deepfake seksual dinilai sebagai ancaman serius terhadap hak asasi manusia.

Komdigi Memblokir Grok AI untuk Sementara

Pemblokiran akses Grok AI berawal dari maraknya konten manipulasi foto yang memanfaatkan AI untuk mengubah foto seseorang menjadi tidak senonoh tanpa izin.

Praktik ini ditemukan beredar melalui platform X dan memicu kekhawatiran serius mengenai keselamatan serta privasi pengguna.

Direktur Jenderal Pengawasan Ruang Digital Alexander Sabar menyatakan penelusuran awal menemukan Grok AI belum memiliki pengaturan memadai.

Terutama untuk mencegah pembuatan dan penyebaran konten pornografi berbasis foto pribadi yang berisiko melanggar privasi dan hak atas citra diri.

“Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi.

Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga,” ujar Alexander di Jakarta, Rabu (07/01/2026).

Menteri Komunikasi dan Digital, Meutya Hafid juga menyampaikan bahwa kebijakan ini diambil demi perlindungan publik.

“Pemerintah memandang praktik deepfake seksual non-konsensual sebagai pelanggaran serius terhadap hak asasi manusia, martabat, serta keamanan warga negara di ruang digital,” ujarnya dalam keterangan resmi pada Sabtu (10/1/2026).

Pemblokiran Grok oleh Indonesia dan Malaysia menjadi sorotan media internasional setelah fitur “digital undressing” memicu maraknya deepfake seksual

Fitur Grok yang Menjadi Sorotan

Sejumlah kemampuan Grok menjadi perhatian karena berpotensi disalahgunakan, antara lain:

Spicy Mode pada Grok Imagine, yang memiliki standar moderasi lebih longgar dibandingkan layanan serupa.
Manipulasi foto berbasis prompt teks, memungkinkan perubahan identitas visual seseorang.
Kemampuan pengubahan pakaian atau tubuh, yang dapat mengarah pada pembuatan konten asusila palsu.

Alasan Pemblokiran Grok AI oleh Kemkomdigi

Penyalahgunaan Grok untuk Konten Pornografi Palsu

Fitur generatif pada Grok memungkinkan pengguna memanipulasi gambar secara realistis.

Dalam praktiknya, kemampuan ini dimanfaatkan untuk membuat konten pornografi palsu yang menampilkan individu tanpa persetujuan.

Dampaknya tidak hanya merugikan korban secara personal, tetapi juga mencederai rasa aman di ruang digital.

Non-Consensual Deepfake Sexual Imagery (NCDSI) sebagai Ancaman Serius

NCDSI dipandang sebagai pelanggaran berat terhadap hak asasi manusia. Teknologi deepfake membuat penyebaran konten palsu semakin sulit dibedakan dari gambar asli.

Ketika konten tersebut bersifat seksual dan tidak disetujui, risiko kerusakan reputasi dan trauma psikologis meningkat tajam.

Risiko Kekerasan Gender Berbasis Online (KGBO)

Perempuan dan anak menjadi kelompok yang paling rentan terdampak KGBO. Penyalahgunaan AI memperluas skala dan kecepatan penyebaran konten berbahaya.

Pemerintah menilai pencegahan harus dilakukan sejak dini, termasuk dengan membatasi akses pada fitur yang belum aman.

Landasan Hukum Pemutusan Akses Grok

Permenkominfo Nomor 5 Tahun 2020 tentang PSE Lingkup Privat

Permenkominfo Nomor 5 Tahun 2020 mengatur kewajiban Penyelenggara Sistem Elektronik untuk memastikan layanannya tidak memuat atau memfasilitasi konten terlarang.

Kewajiban PSE berdasarkan Pasal 9 Permenkominfo 5/2020

Pasal 9 menegaskan tanggung jawab platform dalam melakukan moderasi dan pengendalian konten.

Ketidakmampuan mencegah penyebaran konten terlarang dapat berujung pada sanksi administratif.

Ketentuan UU ITE Pasal 27 Ayat (1) dan Pasal 45 Ayat (1)

Penyebaran konten yang melanggar kesusilaan berpotensi dijerat pidana. Ketentuan ini menjadi rujukan tambahan dalam menilai pelanggaran yang terjadi.

Tanggapan dan Solusi dari Grok/X

Model kecerdasan buatan Grok milik Elon Musk dilaporkan mengalami pembatasan di satu platform, namun relatif tidak berubah di platform lainnya.

Di media sosial X, fitur balasan Grok untuk pembuatan gambar kini hanya tersedia bagi pelanggan berbayar dan tampak dibatasi.

Namun, pada aplikasi Grok versi mandiri, situs web, serta tab Grok di X, pengguna masih dapat memanfaatkan AI tersebut untuk memanipulasi gambar orang tanpa persetujuan.

Meski fitur balasan Grok di X kini banyak menolak permintaan bernuansa seksual, pembatasan tersebut tidak berlaku di platform Grok lainnya.