Ini Alasan Pemerintah Putus Sementara Akses Aplikasi Grok
Poin Penting
|
JAKARTRA, investortrust.id - Pemerintah melalui Kementerian Komunikasi dan Digital (kemkenkomdigi) memutusakses sementara aplikasi Grok. Langkah itu ditempuh demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu yang dihasilkan dengan menggunakan teknologi kecerdasan artifisial (AI).
Menteri Komunikasi dan Digital (Menkomdigi), Meutya Hafid menegaskan, praktik deepfake seksual nonkonsensual merupakan pelanggaran serius terhadap hak asasi manusia, martabat, serta keamanan warga negara di ruang digital.
“Kemenkomdigi telah meminta Platform X segera hadir guna memberikan klarifikasi terkait dampak negatif penggunaan Grok,” kata Meutya Hafid dalam keterangan resmi, Sabtu (10/1/2026).
Meutya menjelaskan, pemutusan akses dilakukan berdasarkan kewenangan Kemenkomdigi sebagaimana digariskan Peraturan Menteri Komunikasi dan Informatika (Permenkomdigi) Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat.
Permenkomdigi 5/2020, khususnya Pasal 9, mewajibkan setiap penyelenggara sistem elektronik (PSE) memastikan sistem elektronik yang dikelolanya tidak memuat, memfasilitasi, atau menyebarluaskan informasi elektronik dan/atau dokumen elektronik yang dilarang.
Kemenkomdigi sebelumnya mengancam akan menjatuhkan sanksi administratif hingga pemutusan akses jika Grok AI dan X tidak patuh dan tidak kooperatif terhadap aturan di Indonesia. Penyedia layanan AI maupun pengguna yang terbukti memproduksi dan/atau menyebarkan konten pornografi atau manipulasi citra pribadi tanpa hak dapat dikenakan sanksi administratif dan/atau pidana sesuai ketentuan hukum yang berlaku.
Anggota Komisi I DPR, Syamsu Rizal mendukung langkah Kemenkomdigi tersebut. Kemampuan Grok AI dalam memanipulasi gambar seseorang hingga menjadi konten asusila merupakan ancaman serius dan sangat mengkhawatirkan.
"Selama ini Grok AI di platform X dimanfaatkan pengguna untuk mengubah foto atau gambar seseorang menjadi konten asusila. Dengan permintaan yang spesifik, Grok AI dapat menuruti instruksi tersebut. Ini jelas berbahaya," tandas Rizal.
Kemenkomdigi menduga fitur AI di platform X dimanfaatkan untuk memproduksi dan menyebarkan konten asusila. Dugaan tersebut mencakup manipulasi foto pribadi yang bersifat sensitif tanpa persetujuan pemiliknya.
Menurut Dirjen Pengawasan Ruang Digital Kemenkomdigi, Alexander Sabar, hasil penelusuran awal menemukan belum adanya pengaturan yang eksplisit dan memadai dalam AI Grok. Kondisi ini membuka celah produksi dan distribusi konten pornografi berbasis foto nyata warga Indonesia.
Kemenkomdigi menilai manipulasi digital terhadap foto pribadi bukan sekadar persoalan kesusilaan. Praktik tersebut merupakan perampasan kendali individu atas identitas visual yang dapat menimbulkan dampak psikologis, sosial, dan reputasi.
Berdasarkan UU Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana (KUHP) yang berlaku mulai 2 Januari 2026, selain sanksi administratif, penyedia layanan maupun pengguna yang terbukti memproduksi atau menyebarkan konten pornografi dapat dikenai sanksi pidana.
Pasal 172 KUHP mendefinisikan pornografi sebagai media yang memuat kecabulan atau eksploitasi seksual. Sedangkan Pasal 407 mengatur ancaman pidana penjara paling singkat enam bulan dan paling lama 10 tahun atau pidana denda.
Masyarakat yang menjadi korban manipulasi foto atau deepfake asusila dapat menempuh jalur hukum. Pengaduan dapat disampaikan kepada aparat penegak hukum maupun Kemenkomdigi.
Kecaman di Seluruh Dunia
Tak hanya di Indonesia, Chatbot AI Grox milik AI di platform X juga menuai kecaman di berbagai negara setelah digunakan untuk membuat gambar seksual secara digital, termasuk “menelanjangi” perempuan dan anak di bawah umur. Kasus ini memicu reaksikeras pemerintah India, Prancis, Malaysia, hingga Uni Eropa.
Masalah berawal dari fitur edit image Grok yang memungkinkan pengguna memodifikasi foto hingga pakaian subjek. Konten tersebut ramai di X, termasuk permintaan yang menyasar foto anak di bawah umur, walaupun hal itu dilarang dalam kebijakan Grok sendiri.
Akun resmi Grok mengakui adanya kegagalan pengamanan dan menyatakan sistem sedang diperbaiki. “Kami telah mengidentifikasi kekurangan pengamanan dan segera memperbaikinya,” demikian manajemen Grok dalam pernyataannya.
Pemerintah India memerintahkan X menghentikan pembuatan konten bermuatan ketelanjangan dan seksualisasi. Pemerintah Prancis menyebut konten buatan Grok ilegal. Pemerintah Malaysia juga sedang melakukan investigasi terhadap kasus tersebut.
Di tengah polemik tersebut, sang pemilik, Elon Musk, sempat menegaskan bahwa pelecehan seksual anak ilegal dan dilarang dalam platform yang berada di bawah kendalinya. Musk sempat ikut mengunggah gambar AI dirinya sendiri dalam pakaian bikini.