Grok AI Diblokir Pemerintah Gara-gara Bisa Bikin “Foto Syur” Palsu

Pemerintah memutus akses aplikasi Grok. Langkah tegas itu muncul dari kekhawatiran terdalam teknologi kecerdasan buatan disalahgunakan untuk merampas yang paling pribadi citra diri kita.

JABARSATU.COM – Ia mungkin tak pernah mengunggah foto dengan pakaian terbuka. Tak pernah sekalipun berpose di ranjang. Wajahnya biasa saja di linimasa media sosial, tertawa dalam acara keluarga, rapat kerja, atau berswafoto sederhana. Tapi dalam hitungan detik, semua norma itu bisa direnggut oleh beberapa baris perintah di aplikasi kecerdasan buatan. Wajahnya yang polos tiba tiba direkatkan ke tubuh lain, dalam adegan-adegan yang tak pernah ia impikan, untuk kemudian disebar luas di lorong-lorong gelap dunia maya. Inilah pencurian era baru. Bukan uang, bukan barang, melainkan identitas visual seseorang.

Pemerintah Indonesia pekan ini bergerak cepat menanggapi potensi pencurian massal itu. Kementerian Komunikasi dan Digital secara resmi memutus akses sementara terhadap aplikasi Grok AI, yang diintegrasikan dalam platform X. Pernyataan tegas Menteri Komunikasi dan Digital, Meutya Hafid, tak main main. Tindakan ini diambil demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu hasil teknologi AI. Pemerintah memandang praktik deepfake seksual nonkonsensual sebagai pelanggaran serius terhadap hak asasi manusia, martabat, serta keamanan warga di ruang digital.

Layaknya menutup sebuah pintu sebelum badai masuk. Langkah pemutusan akses ini bukan tindakan gegabah, melainkan respons atas temuan awal yang mencemaskan. Direktorat Jenderal Pengawasan Ruang Digital Kemkominfo menemukan celah menganga. Alexander Sabar, sang Direktur Jenderal, menyebut hasil penelusuran awal menunjukkan Grok AI belum memiliki pengaturan yang eksplisit dan memadai untuk mencegah produksi serta distribusi konten pornografi berbasis foto nyata warga Indonesia.

“Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi,” kata Alexander di Jakarta, Rabu lalu. Celah teknis ini, dalam pandangan pemerintah, berpotensi melanggar hak privasi dan hak atas citra diri (right to one’s image). Ketika foto seseorang dapat dengan mudah dimanipulasi menjadi konten asusila tanpa persetujuan, yang terampas bukan hanya kesopanan, melainkan kedaulatan individu atas tubuh dan identitasnya sendiri.

Direktur Jenderal Pengawasan Ruang Digital, Alexander Sabar,

Dunia hukum Indonesia sedang menata ulang batas batasnya di ruang digital. Dua pasal dalam Kitab Undang Undang Hukum Pidana yang baru berlaku sejak 2 Januari 2026, yaitu Pasal 172 dan Pasal 407, kini menjadi senjata yang lebih tajam. Pasal 172 mendefinisikan pornografi sebagai media yang memuat kecabulan atau eksploitasi seksual yang melanggar norma kesusilaan. Sementara Pasal 407 mengancam pelakunya dengan pidana penjara paling singkat enam bulan dan paling lama sepuluh tahun, atau denda.

Ancaman hukuman itu nyata. Kemkominfo menegaskan, baik penyedia layanan AI maupun pengguna yang terbukti memproduksi atau menyebarkan konten pornografi atau manipulasi citra pribadi tanpa hak, dapat dikenai sanksi administratif dan pidana. Pemerintah juga telah memanggil platform X untuk memberikan klarifikasi atas dampak negatif penggunaan Grok. Isyaratnya jelas ada konsekuensi bagi yang tidak kooperatif, mulai dari sanksi administratif hingga pemutusan akses permanen.

Namun, di balik langkah tegas pemerintah, tersembunyi sebuah pergulatan yang lebih dalam. Alexander Sabar menyebut manipulasi digital terhadap foto pribadi bukan sekadar persoalan kesusilaan. Ini adalah bentuk perampasan kendali. Ketika seseorang kehilangan kendali atas bagaimana wajah dan tubuhnya direpresentasikan, kerugian yang muncul adalah gabungan mematikan antara trauma psikologis, kehancuran sosial, dan kerusakan reputasi yang bisa bertahun tahun pulihnya.

“Ruang digital bukan ruang tanpa hukum,” tegas Alexander. “Ada privasi dan hak atas citra diri setiap warga yang harus dihormati dan dilindungi.” Peringatan itu sekaligus menjadi penanda sebuah era dimana pertahanan terakhir kita bukan lagi kunci rumah atau kata sandi email, melainkan regulasi yang waspada dan kesadaran kolektif bahwa setiap teknologi berpotensi ganda menjadi alat pencipta atau alat perusak.

Pemutusan akses Grok mungkin hanya sebuah babak pembuka. Ia adalah peringatan pertama dalam episode panjang perjalanan manusia berdamai dengan kecerdasan buatan. Di ujung layar, wajah wajah kita yang tersimpan di dunia maya menanti. Apakah ia akan tetap menjadi milik kita, atau hanya sekumpulan data pixel yang siap direkayasa oleh siapa saja, untuk tujuan apa saja. Pertarungan untuk menjawabnya baru saja dimulai. |WAW-JAKSAT