Indonesia, Kementerian Komunikasi dan Digital atau Kemkomdigi langsung bertindak cepat. Mereka selidiki dugaan penyalahgunaan fitur Grok AI di platform X. Grok AI ini adalah alat kecerdasan buatan pintar dari xAI. Alat itu bisa buat gambar atau teks baru dari perintah sederhana. Sayangnya, orang curang pakai untuk hasilkan konten asusila. Contohnya, mereka ubah foto pribadi orang jadi gambar telanjang tanpa sepengetahuan pemiliknya. Foto itu lalu disebar luas di media sosial.
Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi, Alexander Sabar, ungkap hasil penelusuran awal. Timnya temukan pengaturan pencegahan konten sensitif masih lemah. Grok AI belum tegas batasi pembuatan pornografi dari foto asli. Foto nyata orang biasa atau tokoh bisa dimanipulasi mudah. Sistemnya kurang filter ketat untuk cegah hal itu.
Masalah ini ancam hak privasi warga Indonesia. Juga rusak hak atas citra diri seseorang. Bayangkan foto wajah Anda dipasang di tubuh bugil. Lalu gambar itu viral di internet. Korban kehilangan kendali atas gambar dirinya sendiri. Itu bukan cuma soal malu. Tapi bentuk perampasan identitas visual.
"Temuan awal tunjukkan belum ada pengaturan spesifik di Grok AI. Itu cegah pakai teknologi untuk buat dan sebar konten pornografi dari foto pribadi. Risikonya besar. Bisa langgar privasi dan hak citra diri warga," kata Alexander dalam keterangan resminya. Pernyataan itu disampaikan di Jakarta, Rabu (7/1/2026).
Kemkomdigi nilai manipulasi foto digital lebih dari isu kesusilaan semata. Praktik ini rampas kuasa individu atas tampilan visualnya. Dampaknya parah. Korban bisa alami tekanan jiwa berat. Misalnya, stres, depresi, atau trauma panjang. Bisa juga rugi sosial. Teman menjauh. Keluarga malu. Reputasi hancur di tempat kerja. Alexander tekankan pengawasan AI harus diperketat sekarang.
Saat ini, Kemkomdigi koordinasi erat dengan Penyelenggara Sistem Elektronik atau PSE. PSE adalah perusahaan yang sediakan layanan digital seperti platform X. Mereka wajib pasang mekanisme lindungi pengguna. Langkahnya termasuk kuatkan moderasi konten. Juga cegah deepfake berisi asusila. Deepfake adalah trik AI yang ganti wajah orang ke video atau foto lain. Hasilnya terlihat nyata sekali.
"Tiap PSE harus pastikan teknologi mereka tak jadi alat langgar privasi. Juga cegah eksploitasi seksual atau rusak martabat orang," tegas Alexander.
Kemkomdigi ingatkan semua PSE patuhi aturan hukum Indonesia. Kalau bandel, sanksi tunggu. Bisa denda administratif. Sampai layanan diputus akses di tanah air.
Penyedia AI atau pengguna nakal kena hukum. Kalau terbukti buat atau sebar konten pornografi, pidana menanti. Begitu juga untuk manipulasi citra pribadi tanpa izin.
Alexander bilang korban bisa lapor hukum. Hubungi polisi atau langsung ke Kemkomdigi. Prosesnya jelas. Bukti foto asli dan hasil manipulasi cukup kuat.
"Kami himbau semua pakai teknologi AI dengan tanggung jawab. Ruang digital punya aturan hukum. Privasi dan hak citra diri warga harus dihormati. Juga dilindungi penuh," tutup Alexander. Langkah ini tunjukkan pemerintah serius jaga ruang maya aman bagi semua. (Red)
Dengarkan
Berita dan Artikel lainnya di :
