JAKARTA, HARIANHALUAN.ID – Pemerintah Indonesia melalui Kementerian Komunikasi dan Digital (Komdigi) akhirnya mengambil langkah tegas terhadap Grok, layanan chatbot berbasis kecerdasan buatan (AI) milik platform X (sebelumnya Twitter).
Pada Sabtu (10/1/2026), Komdigi resmi melakukan pemutusan akses sementara terhadap fitur Grok demi melindungi masyarakat dari bahaya konten pornografi palsu atau deepfake.
Menteri Komunikasi dan Digital (Menkomdigi), Meutya Hafid, menyatakan bahwa keputusan ini diambil sebagai respons mendesak untuk melindungi perempuan, anak, dan seluruh warga negara dari risiko penyalahgunaan teknologi AI.
“Demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu yang dihasilkan menggunakan teknologi kecerdasan artifisial, Pemerintah melalui Kementerian Komunikasi dan Digital melakukan pemutusan akses sementara terhadap aplikasi Grok,” tegas Meutya Hafid dalam pernyataan resminya di Jakarta, Sabtu (10/1/2026).
Pemerintah menilai fenomena deepfake seksual nonkonsensual bukan sekadar pelanggaran kesusilaan biasa, melainkan pelanggaran serius terhadap hak asasi manusia. Praktik manipulasi visual ini dianggap merusak martabat, keamanan warga di ruang digital, serta merupakan bentuk perampasan kendali individu atas identitas visualnya (right to one’s image).
Dampak psikologis bagi korban, kerusakan reputasi sosial, hingga pelecehan di ruang publik menjadi alasan utama pemerintah bertindak cepat. Selain memblokir akses, Komdigi juga telah melayangkan panggilan kepada pihak Platform X untuk segera hadir dan memberikan klarifikasi terkait dampak negatif penggunaan Grok.
Tindakan pemutusan akses ini memiliki dasar hukum kuat, yakni Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik (PSE) Lingkup Privat. Pasal 9 aturan tersebut mewajibkan setiap PSE memastikan sistem elektroniknya tidak memuat, memfasilitasi, atau menyebarluaskan informasi dan dokumen elektronik yang dilarang.
Tidak hanya pemblokiran layanan, ancaman pidana juga mengintai para pengguna yang membuat atau menyebarkan konten deepfake. Direktur Tindak Pidana Siber Bareskrim Polri, Brigjen Himawan Bayu Aji, menegaskan bahwa manipulasi data elektronik tanpa persetujuan pemiliknya adalah tindak kriminal.
“Selama itu bisa diklarifikasi bahwa itu adalah manipulasi data elektronik, maka itu menjadi suatu hal yang dipidana,” ujar Himawan, Rabu (7/1/2026). Hal ini berlaku bagi pengguna Grok maupun aplikasi AI lainnya yang digunakan untuk tujuan serupa.
Sebelumnya, fitur Grok AI menjadi sorotan tajam dari berbagai negara karena kemampuannya memproduksi konten pornografi secara instan. Sejumlah pengguna X menyalahgunakan kecanggihan AI ini dengan mengunggah foto wanita-termasuk figur publik dan anak-anak-disertai perintah atau prompt spesifik seperti “pakaikan dia bikini” atau “lepaskan pakaiannya”.
