RADAR KUDUS - Malaysia dan Indonesia resmi memblokir akses ke Grok, chatbot kecerdasan buatan milik Elon Musk yang terintegrasi dengan platform media sosial X.
Langkah tegas ini diambil setelah muncul kekhawatiran serius terkait penyalahgunaan Grok untuk membuat gambar deepfake bermuatan seksual tanpa persetujuan.
Grok diketahui memungkinkan pengguna menghasilkan dan memodifikasi gambar. Namun, fitur tersebut justru dimanfaatkan untuk mengedit foto orang sungguhan—terutama perempuan—agar tampak mengenakan pakaian minim atau dalam situasi seksual yang tidak pernah terjadi.
Baca Juga: Alarm Bahaya AI: Model Canggih Mulai Menolak Dimatikan
Pemerintah menilai praktik ini berpotensi melanggar hak asasi manusia, martabat individu, serta keamanan digital.
Kementerian Komunikasi Malaysia menyatakan telah beberapa kali mengirim peringatan kepada pihak X sejak awal tahun akibat temuan penyalahgunaan Grok yang berulang.
Sayangnya, respons dari X dinilai belum menyentuh akar persoalan.
Regulator menilai perusahaan hanya menitikberatkan pada mekanisme pelaporan pengguna, tanpa memperbaiki desain sistem yang memungkinkan konten berbahaya tersebut muncul.
Sementara itu di Indonesia, Menteri Komunikasi dan Digital Meutya Hafid menegaskan bahwa pembuatan konten seksual non-konsensual, terlebih yang berpotensi melibatkan perempuan dan anak-anak, merupakan pelanggaran serius terhadap nilai kemanusiaan dan keselamatan ruang digital.
Pemerintah juga meminta klarifikasi resmi dari pihak X terkait pengamanan penggunaan Grok.
Indonesia sendiri dikenal memiliki kebijakan ketat terhadap konten pornografi daring. Sejumlah platform besar seperti OnlyFans dan Pornhub telah lebih dulu diblokir.
Baca Juga: Fenomena Underload Mengintai Gen Z Akibat Pemakaian AI Berlebihan
Karena itu, kehadiran teknologi AI yang berpotensi memperparah penyebaran konten asusila dianggap sebagai ancaman baru yang harus segera diatasi.
Di sisi lain, kebijakan pemblokiran Grok ini memicu perdebatan global.
Di Inggris, desakan serupa mulai menguat, meski Elon Musk menilai langkah tersebut sebagai upaya membungkam kebebasan berekspresi.
Namun bagi korban, terutama pengguna X di Indonesia yang fotonya dimanipulasi, isu ini bukan soal kebebasan bicara, melainkan soal rasa aman dan perlindungan martabat pribadi di era kecerdasan buatan. (rani)
Editor : Ali Mustofa