Logo Grok. Dok
JAKARTA— Pada 10 Januari 2026, Pemerintah Indonesia
melalui Kementerian Komunikasi dan Digital (Komdigi) resmi memutus akses
layanan kecerdasan buatan (AI) Grok di platform X (fomerly Twitter),
sebagai respons atas maraknya penyalahgunaan fitur AI tersebut untuk membuat
konten deepfake pornografi non-konsensual. Langkah ini memicu perdebatan
luas di ranah hukum, teknologi, hingga etika digital — tidak hanya di Indonesia
tetapi juga di seluruh dunia.
Deepfake: Teknologi Canggih — Risiko Lebih Besar
Grok adalah sistem AI yang diluncurkan oleh xAI —
perusahaan teknologi milik Elon Musk — dengan kemampuan generatif teks dan
visual yang canggih. AI ini dirancang untuk membantu pengguna membuat konten
kreatif, namun sejumlah pihak menilai fitur tersebut mudah disalahgunakan untuk
keperluan negatif, termasuk manipulasi foto pribadi menjadi konten seksual
tanpa persetujuan.
Laporan media global seperti Financial Times dan Reuters
mencatat bahwa beberapa regulator di Eropa, Inggris, Prancis, Jerman, serta
negara lain tengah menuntut pengetatan kontrol atau bahkan pembatasan layanan
semacam ini karena berbagai kasus deepfake yang melibatkan wanita dan
anak-anak.
Di Indonesia, penyalahgunaan Grok dipandang bukan hanya
sekadar masalah teknis, tetapi ancaman terhadap hak atas citra diri (right to
one’s image), reputasi sosial, dan perlindungan anak serta perempuan di ruang
digital.
Perlindungan Publik vs. Kebebasan Teknologi: Argumen Pemerintah Indonesia
Menteri Komunikasi dan Digital, Meutya Hafid, menyatakan
keputusan pemblokiran bersifat sementara dan bertujuan untuk melindungi
masyarakat dari konten pornografi deepfake yang merugikan secara
psikologis dan sosial. Ia menekankan pentingnya adanya mekanisme moderasi yang
kuat pada teknologi semacam ini sebelum diizinkan beroperasi bebas di
Indonesia.
Menurut temuan awal pemerintah, Grok belum memiliki
sistem filter yang mumpuni untuk mencegah pengguna membuat konten seksual dari
foto individu tanpa izin. Ini dinilai melanggar norma kesusilaan, hak privasi,
serta regulasi digital Indonesia yang mengatur konten elektronik.
Langkah tegas tersebut dijustifikasi melalui ancaman sanksi
administratif hingga pemutusan akses layanan secara regional, jika penyedia
platform (X / xAI) tidak membangun sistem moderasi yang memadai.
Dukungan dan Tekanan dari DPR RI
Kasus ini juga mendapat sorotan dari legislatif. Anggota
Komisi I DPR RI, Syamsu Rizal, menyerukan tindakan lebih tegas terhadap
kemampuan AI ini yang memungkinkan manipulasi foto menjadi konten cabul. Ia
menyatakan bahwa pemerintah harus mempertimbangkan pemblokiran tidak hanya AI
itu sendiri, tetapi platform X secara keseluruhan apabila sistem moderasi tidak
ditingkatkan.
Pendekatan legislatif ini mencerminkan kekhawatiran lebih
luas tentang perlindungan hak digital warga negara, terutama pada konteks era
AI yang berkembang pesat. Menurut Rizal, jika dibiarkan tanpa standar moderasi,
teknologi canggih seperti Grok bisa berdampak jauh lebih luas daripada
sekadar kejahatan digital biasa.
Penegakan Hukum & Ancaman PIDANA
Bukan hanya Komdigi yang merespons. Bareskrim Polri tengah
menyelidiki kemungkinan penerapan pasal pidana terhadap penyalahgunaan deepfake
melalui Grok AI. Direktur Tindak Pidana Siber, Brigjen Himawan Bayu Aji,
menyatakan bahwa manipulasi foto tanpa persetujuan adalah bentuk pelanggaran
data elektronik yang dapat dipidana jika terbukti.
Pernyataan ini menjadi sinyal kuat bahwa aparat penegak
hukum tidak hanya menunggu respons platform, tetapi siap menindak secara hukum
individu atau kelompok yang memanfaatkan teknologi untuk kriminal digital.
Respon Internasional: Ancaman Regulasi dan Perubahan Bisnis Model
Fenomena serupa juga terjadi di luar negeri. Di Inggris,
pemerintah bahkan telah mengancam akan melarang penggunaan X secara luas
apabila platform tidak mampu membendung penyebaran konten AI yang tidak pantas.
Sementara itu, di Eropa dan beberapa negara seperti Jerman
dan Italia, otoritas perlindungan data sudah menyiapkan kerangka aturan lebih
ketat untuk mengatasi manipulasi gambar berbasis AI, serta peningkatan hak
hukum bagi korban deepfake.
Respons industri juga muncul: Grok telah membatasi
akses fitur pengeditan gambar kepada pelanggan berbayar, sebagai salah satu
upaya meredam kritik global. Namun banyak pihak menilai langkah itu belum cukup
karena masih memungkinkan celah penyalahgunaan.
Analisis: Batas Kebebasan Teknologi dan Kewajiban Pengendalian AI
Kasus Grok menandai persimpangan penting antara kemajuan
teknologi dan perlindungan masyarakat dalam era digital. Secara global, generative
AI seperti Grok, GPT-4, dan layanan sejenis telah merevolusi produktivitas,
tetapi juga membuka peluang besar untuk disalahgunakan.
Pakar teknologi dan akademisi mengingatkan bahwa tanpa
standar moderasi, AI yang sangat otomatis bisa memperluas efek negatif deepfake
— yang tidak hanya merugikan individu, tetapi juga bisa memengaruhi opini publik,
menimbulkan diskriminasi, hingga ancaman privasi massal. Pendekatan regulatif
semacam ini, meskipun terkadang kontroversial, menjadi bagian dari upaya untuk
menyeimbangkan inovasi dan keamanan masyarakat.
Titik Balik Regulasi AI
Pemutusan akses Grok di Indonesia bukan sekadar
langkah unilateral, tetapi mengindikasikan momentum penting dalam governansi AI
global. Pengawasan teknologi generatif kini tidak bisa lagi diabaikan — baik
oleh pembuat kebijakan, penegak hukum, perusahaan teknologi, maupun publik
luas. Penanganan khusus terhadap deepfake merupakan bagian dari upaya lebih
besar dalam melindungi hak asasi, privasi, dan ruang digital yang aman bagi
semua lapisan masyarakat.
