Berandaindonesia.com, Jakarta – Anggota Komisi I DPR RI Syamsu Rizal mendesak Kementerian Komunikasi dan Digital (Komdigi) mengambil langkah tegas terhadap Grok AI di platform X. Grok AI di nilai mampu memproduksi konten pornografi dengan memanipulasi foto seseorang menjadi konten asusila. Hingga kini, Grok AI belum memiliki sistem moderasi konten yang memadai untuk mencegah penyalahgunaan tersebut.
Syamsu Rizal menilai kemampuan Grok AI memanipulasi gambar menjadi konteen asusila sebagai ancaman serius dan sangat mengkhawatirkan. Dia melihat banyak pengguna memanfaatkan Grok AI untuk mengubah foto orang lain menjadi konten pornografi.
“Selama ini kita melihat Grok AI di platform X di manfaatkan oleh pengguna untuk mengubah foto atau gambar seseorang menjadi konten asusila. Dengan permintaan yang spesifik, Grok AI dapat menuruti instruksi tersebut. Ini jelas berbahaya,” kata Syamsu Rizal di Jakarta, Kamis.
Menurut politisi tersebut, penyalahgunaan kecerdasan buatan tanpa pengawasan ketat dapat berdampak luas. Dampak buruk tidak hanya merugikan individu yang menjadi korban. Penyalahgunaan ini juga merusak tatanan sosial dan moral masyarakat.
Politisi yang akrab di sapa Deng Ical itu kemudian memberikan ultimatum tegas kepada platform X dan Grok. Dia menuntut Komdigi segera memblokir layanan tersebut jika tidak mempu mengendalikan sistem mereka.
“Jika Grok AI dan platform X tidak mampu mengendalikan sistemnya dan tetap membiarkan produksi serta penyebaran konten pornografi, maka Komdigi harus bersikap tegas dengan memblokirnya,” katanya.
Dia menegaskan, negara meiliki kewajiban melindungi warga negara dari dampak negatif teknologi digital. Perlindungan ini terutama menyangkut eksploitasi, pornografi dan pelanggaran privasi. Pembiaran terhadap praktik semacam ini akan menjadi preseden buruk bagi ekosistem digital nasional.
“Langkah tegas ini penting karena jika dibiarkan, penggunaan AI yang tidak bertanggung jawab akan sangat membahayakan dan merusak moral bangsa,” katanya.
Komdigi: Grok AI Belum Miliki Sistem Moderasi Memadai
Sementara itu, Kementerian Komunikasi dan Digital telah menindaklanjuti dugaan penyalahgunaan fitur Grok AI. Platform X di duga memanfaatkan teknologi ini untuk memproduksi dan menyebarkan konten asusila. Bahkan, manipulasi foto pribadi yang bersifat sensitif terjadi tanpa persetujuan pemiliknya.
Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi Alexander Sabar mengungkapkan hasil penelusuran awal. Grok AI belum memiliki pengaturan eksplisit dan memadai untuk mencegah produksi konten pornografi berbasis foto nyata warga Indonesia. Kondisi ini berpotensi melanggar hak privasi dan hak atas citra diri, khususnya ketika foto seseorang dimanipulasi atau disebarluaskan tanpa persetujuan sah.
“Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi. Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga,” ujar Alexander, Rabu (7/1).
