JABAR EKSPRES – Artificial Intelligence atau AI milik Elon Musk bernama Grok terancam diblokir di beberapa negara setelah disalahgunakan untuk menghasilkan konten tidak senonoh. Uni Eropa, Inggris, Malaysia dan Indonesia mengecam salah satu fitur Grok yang dinilai “melewati batas”.
Sebelumnya, beredar konten di media sosial mengenai keresahan beberapa user yang menemukan chatbot virtual Grok menanggapi perintah pengguna untuk menghasilkan gambar-gambar berbau sensual.
Perintah seperti “lepaskan bajunya” atau “edit jadi bikini” pada opsi edit gambar menjadi ketakuan baru terutama bagi perempuan. Orang-orang yang biasa membagikan potret dirinya di internet menjadi resah, khawatir gambarnya digunakan jadi konten deepfake.
Baca Juga:Lowongan Kerja Januari 2026 Terbaru, PT Yakult Indonesia, PT PELNI dan PPPK KemenhamCara Daftar PPPK Kemenham 2026 yang Dibuka Hari Ini
Menanggapi hal tersebut, Kementerian Komunikasi kemudian mendesak semua perusahaan teknologi untuk mematuhi hukum yang berlaku, tak terkecuali larangan pornografi.
“Semua operator sistem elektronik harus memastikan bahwa teknologi yang mereka sediakan tidak berubah menjadi platform untuk pelanggaran privasi, eksploitasi seksual, atau bahkan merusak martabat seseorang,” kata pejabat senior kementerian, Alexander Sabar, pada hari Rabu.
Selain itu, Regulator Indonesia juga memperingatkan akan ada sanksi administrasi dan memutus akses Grok AI dan X jika masalah ini tidak segera diatasi.
Temuan pemerintah Indonesia menunjukkan jika Grok saat ini tidak memiliki peraturan khusus yang dapat mencegah sistemnya menghasilkan dan mendistribusikan konten menggunakan gambar pribadi.
Hal tersebut dinilai berisiko karena bisa menyebabkan pelanggaran serius terhadap privasi warga negara dan hak citra atas diri mereka, ungkap Alexander. Selain mengecam, Alexander juga menyeru pada para korban untuk melapor jika mengalami hal tersebut pada pihak berwenang.
Selain Indonesia, Uni Eropa juga turut mengecam perkara ini. Komisi Eropa lewat juru bicara urusan digital, Thomas Regnier mengatakan jika tindakan mengedit gambar dengan nuansa seksual dinilai ilegal.
“Grok sekarang menawarkan ‘mode panas’ yang menampilkan konten seksual eksplisit, bahkan dalam beberapa kasus melibatkan gambar anak-anak. Ini bukan panas. Ini ilegal. Ini mengerikan,” ujar Regnier, Senin (6/1/2026).
Baca Juga:Harga Buyback Emas Terbaru Hari Ini, Rabu 7 Januari 2026 di Antam, UBS, dan Galeri 243 Contoh Proposal Isra Mi'raj 2026, Lengkap dengan Susunan Acara dan Biaya
Selain Indonesia dan Uni Eropa, protes juga datang dari Inggris dan Malaysia. Kedua negara tersebut juga angkat suara. Ofcom sebagai regulator media Inggris dikabarkan telah menghubungi X dan xAI untuk meminta klarifikasi.