Komdigi Putus Akses Sementara Grok, Lindungi Warga dari Pornografi AI

kabarmelayu.comJAKARTA - Pemerintah melalui Kementerian Komunikasi dan Digital (Komdigi) melakukan pemutusan akses sementara terhadap aplikasi Grok. Pemutusan ini sebagai langkah melindungi perempuan, anak, dan masyarakat dari risiko penyebaran konten pornografi palsu yang dihasilkan menggunakan teknologi akal imitasi (artificial intelligence/AI).

Menteri Komunikasi dan Digital Meutya Hafid menyatakan kebijakan tersebut diambil sebagai bentuk tanggung jawab negara dalam menjaga ruang digital yang aman, beretika, dan menghormati hak asasi manusia.

"Pemerintah memandang praktik deepfake seksual nonkonsensual sebagai pelanggaran serius terhadap hak asasi manusia, martabat, serta keamanan warga negara di ruang digital," kata Meutya dalam pernyataan resmi di Jakarta, Sabtu (10/1/2026).

Baca Juga:

• Waspada! Akun WhatsApp Palsu Catut Nama Ketua PWI Riau, Modus Minta Uang Tiket
• Gelar Pelatihan Digital Marketing BMIWI Riau, Hendry Munief Dorong Penguatan Mindset Bisnis

Menurut Meutya, penggunaan teknologi AI untuk membuat dan menyebarkan konten pornografi palsu tanpa persetujuan pihak yang menjadi objek merupakan bentuk kekerasan berbasis digital. Dampaknya dapat merugikan korban secara psikologis, sosial, maupun hukum.

Ia menjelaskan, pemutusan akses terhadap Grok bersifat sementara dan dilakukan sebagai langkah preventif sekaligus korektif. Pemerintah perlu memastikan setiap platform digital yang beroperasi di Indonesia memiliki mekanisme pengamanan memadai agar tidak dimanfaatkan untuk memproduksi atau menyebarluaskan konten terlarang.

Baca Juga:

• Pemerintahan Digital Wujudkan Transparansi dan Efisiensi
• Waspada Akun FB Palsu Catut Nama Plh Sekdako Pekanbaru

Selain pemutusan akses, Kementerian Komunikasi dan Digital juga telah meminta Platform X sebagai pihak terkait untuk segera memberikan klarifikasi. Klarifikasi tersebut diperlukan guna menjelaskan dampak negatif penggunaan Grok serta langkah mitigasi yang akan ditempuh untuk mencegah terulangnya penyalahgunaan teknologi tersebut.

"Kementerian Komunikasi dan Digital telah meminta Platform X untuk segera hadir memberikan klarifikasi terkait dampak negatif penggunaan Grok," ujar Meutya.

Meutya menegaskan, tindakan pemutusan akses sementara ini memiliki dasar hukum yang jelas. Kementerian Komunikasi dan Digital menjalankan kewenangannya sebagaimana diatur dalam Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat.

Dalam regulasi tersebut, khususnya Pasal 9, setiap Penyelenggara Sistem Elektronik (PSE) diwajibkan memastikan sistem elektronik yang dikelolanya tidak memuat, memfasilitasi, atau menyebarluaskan informasi elektronik dan/atau dokumen elektronik yang dilarang oleh peraturan perundang-undangan.

Seperti diketahui, Grok menuai kritik keras dari berbagai kalangan di sejumlah negara karena dinilai memungkinkan pengguna membuat gambar bermuatan pornografi. Dalam pernyataannya, Grok menyebut hanya pelanggan berbayar di platform X yang dapat membuat dan mengedit gambar.

Namun, sejumlah pihak menuding aplikasi tersebut tetap memungkinkan pengguna membuat gambar tanpa harus berlangganan. Sejumlah negara, seperti Inggris, Uni Eropa, dan India, secara terbuka mengecam X dan Grok karena mengizinkan penggunaan fitur tersebut.

Uni Eropa bahkan meminta xAI menyimpan seluruh dokumentasi yang berkaitan dengan chatbot tersebut. Sementara itu, India dikabarkan memerintahkan X untuk segera melakukan perubahan guna menghentikan penyalahgunaan fitur pembuatan gambar, atau berisiko kehilangan perlindungan safe harbor di negara tersebut.

Lembaga pengawas komunikasi Inggris juga menyatakan telah menghubungi xAI untuk meminta penjelasan terkait permasalahan tersebut.

Waspada! Akun WhatsApp Palsu Catut Nama Ketua PWI Riau, Modus Minta Uang Tiket

Gelar Pelatihan Digital Marketing BMIWI Riau, Hendry Munief Dorong Penguatan Mindset Bisnis

Pemerintahan Digital Wujudkan Transparansi dan Efisiensi

Waspada Akun FB Palsu Catut Nama Plh Sekdako Pekanbaru

Dewan Pers Bertemu KPPU, Bahas Ancaman Dominasi Platform Digital Terhadap Ekosistem Pers

Diskominfo Siak Perkuat Kompetensi SDM Melalui Pelatihan Media Sosial dan AI