Indonesia Jadi Negara Pertama Blokir Grok AI Akibat Deepfake
Awalan Berita – Pemerintah melalui Kementerian Komunikasi dan Digital akhirnya mengambil langkah tegas dengan memblokir sementara Grok AI di Indonesia. Keputusan ini diambil menyusul maraknya penyalahgunaan teknologi tersebut untuk membuat konten deepfake, khususnya rekayasa visual bermuatan pornografi dengan wajah orang lain. Pemblokiran resmi mulai diberlakukan pada Sabtu, 10 Januari 2026, dan mencakup aplikasi mandiri Grok, situs Grok.com, serta domain X.AI.
“Baca Juga: NVIDIA Tunda Peluncuran GeForce RTX 50 SUPER Tanpa Batas Waktu”
Langkah ini menandai sikap pemerintah dalam merespons cepat perkembangan teknologi AI yang dinilai mulai menimbulkan dampak sosial serius. Komdigi menilai penyebaran konten deepfake bukan sekadar pelanggaran etika, tetapi juga berpotensi melanggar hukum dan merugikan korban secara psikologis maupun sosial. Pemblokiran sementara ini disebut sebagai langkah awal sebelum keputusan lanjutan diambil.
Menteri Komunikasi dan Digital, Meutya Hafid, menyatakan bahwa kebijakan ini diambil demi melindungi masyarakat luas. Ia menekankan bahwa perempuan dan anak menjadi kelompok paling rentan terdampak konten pornografi palsu yang dihasilkan oleh AI. Menurutnya, negara tidak boleh abai ketika teknologi digunakan untuk merugikan dan mengeksploitasi pihak lain.
Meutya menegaskan bahwa pemerintah tidak menolak inovasi AI secara keseluruhan. Namun, setiap platform digital wajib memastikan teknologinya tidak disalahgunakan. Dalam konteks Grok AI, pemerintah menilai mekanisme pengamanan yang ada belum cukup untuk mencegah penyebaran konten berbahaya, sehingga diperlukan tindakan pembatasan akses sementara.
Keputusan Komdigi berlandaskan pada Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik. Dalam Pasal 9, disebutkan bahwa setiap PSE wajib memastikan platformnya tidak memuat, memfasilitasi, atau menyebarluaskan informasi elektronik yang dilarang. Konten pornografi, termasuk hasil rekayasa digital dan deepfake, masuk dalam kategori tersebut.
Dengan dasar hukum ini, Komdigi menilai pemblokiran Grok AI memiliki legitimasi kuat. Pemerintah juga menekankan bahwa kewajiban kepatuhan tidak hanya berlaku bagi platform lokal, tetapi juga perusahaan teknologi global yang beroperasi dan dapat diakses di Indonesia. Penegakan aturan ini menjadi bagian dari upaya menjaga ruang digital tetap aman dan bertanggung jawab.
Meski aplikasi mandiri dan situs Grok telah diblokir, Komdigi mencatat bahwa Grok AI masih dapat diakses secara terbatas. Dari hasil pemantauan, fitur Grok masih muncul melalui tab khusus di platform X serta lewat kolom komentar. Akses ini hanya tersedia bagi pengguna premium, sehingga tidak sepenuhnya tertutup dari publik.
Kondisi tersebut membuat Komdigi kini menunggu respons resmi dari pihak X. Pemerintah meminta klarifikasi mengenai mekanisme pengamanan dan langkah konkret untuk mencegah dampak negatif penggunaan Grok. Tanpa komitmen yang jelas, Komdigi membuka kemungkinan kebijakan lanjutan, termasuk pembatasan lebih luas terhadap fitur AI di platform tersebut.
“Baca Juga: Holiday Sale Perdana, Switch 2 Tak Lampaui Switch 1″
Isu penyalahgunaan Grok AI tidak hanya terjadi di Indonesia. Di tingkat global, sejumlah negara seperti India, Prancis, dan Malaysia juga menghadapi masalah serupa. Pemerintah di negara-negara tersebut dilaporkan menuntut platform X untuk segera bertindak, atau berisiko menghadapi sanksi hukum. Penyebaran konten pornografi dan kekerasan berbasis deepfake menjadi perhatian utama regulator internasional.
Salah satu sorotan terbesar adalah kemudahan pembuatan konten deepfake melalui fitur edit foto Grok AI. Pengguna hanya perlu menyebut akun @Grok dengan prompt tertentu di kolom komentar, lalu sistem dapat menghasilkan gambar rekayasa yang berpotensi melanggar hukum. Situasi ini memicu kekhawatiran serius tentang lemahnya kontrol moderasi. Ke depan, langkah Komdigi dipandang sebagai bagian dari tren global untuk menuntut tanggung jawab lebih besar dari penyedia teknologi AI.
