Telset.id – Platform media sosial X milik Elon Musk mengambil langkah kontroversial pasca maraknya penyalahgunaan Grok AI untuk membuat gambar asusila. Alih-alih memperbaiki sistem keamanan secara menyeluruh, X kini membatasi fitur pembuatan gambar pada chatbot tersebut hanya untuk pelanggan berbayar.
Perubahan ini muncul setelah gelombang kritik dan investigasi regulator global terkait kemampuan Grok menghasilkan gambar “undressing” atau deepfake seksual tanpa izin, termasuk yang melibatkan anak di bawah umur. Kini, pengguna gratis yang mencoba membuat gambar akan menerima pesan bahwa fitur tersebut “saat ini terbatas untuk pelanggan berbayar,” disertai tautan untuk berlangganan layanan premium tahunan seharga $395.
Langkah ini menuai sorotan tajam karena dianggap tidak menyelesaikan akar masalah, melainkan hanya memonetisasi celah keamanan yang ada. Para ahli keamanan siber menilai bahwa X hanya memasang “plester” pada luka menganga, membiarkan potensi Deepfake Asusila tetap terjadi di kalangan pengguna berdompet tebal.
Monetisasi Konten Berbahaya?
Meskipun X mengklaim mengambil tindakan terhadap konten ilegal, fakta di lapangan menunjukkan hal berbeda. Paul Bouchaud, peneliti utama dari organisasi nirlaba AI Forensics, mengungkapkan kepada WIRED bahwa meskipun jumlah gambar asusila di feed publik berkurang, kemampuan model AI tersebut belum sepenuhnya diperbaiki.
Bouchaud mencatat bahwa pengguna dengan akun terverifikasi (berbayar) masih bisa menghasilkan gambar seksualisasi wanita dengan perintah (prompt) tertentu. “Kami mengamati jenis prompt yang sama, kami mengamati jenis hasil yang sama, hanya jumlahnya lebih sedikit dari sebelumnya,” ujar Bouchaud. Ia menegaskan bahwa Penyalahgunaan Grok untuk membuat gambar berbikini atau berbalut lateks masih sangat mungkin dilakukan oleh pelanggan berbayar.
Dalam sebuah pengujian, Grok masih menghasilkan gambar wanita dengan deskripsi seksual spesifik seperti “latex lingerie” atau “plastic bikini” namun gambar tersebut muncul di balik peringatan konten dewasa. Ironisnya, pembatasan ini tampaknya belum berlaku merata di seluruh ekosistem xAI.
Celah di Aplikasi Terpisah
Yang lebih mengkhawatirkan, pembatasan yang diterapkan di platform X tampaknya tidak sinkron dengan aplikasi mandiri (standalone app) Grok. Laporan menyebutkan bahwa pengguna akun gratis di aplikasi dan situs web terpisah Grok masih bisa menghasilkan konten video seksual yang sangat grafis dan terkadang mengandung unsur kekerasan, tanpa batasan yang berarti.
Bouchaud menambahkan, “Saya bisa menghasilkan video dengan konten seksual eksplisit tanpa batasan apa pun dari akun yang tidak terverifikasi.” Hal ini menunjukkan inkonsistensi penanganan Konten Asusila di ekosistem produk milik Musk.
Emma Pickering, kepala penyalahgunaan teknologi di badan amal Refuge Inggris, menyebut keputusan X ini sebagai “monetisasi kekerasan”. Menurutnya, membatasi pembuatan gambar AI hanya untuk pengguna berbayar mungkin sedikit mengurangi volume, tetapi tidak menghentikan penyalahgunaan itu sendiri. “Penyalahgunaan itu hanya ditempatkan di balik paywall, memungkinkan X mengambil untung dari kerugian orang lain,” tegasnya.
Pemerintah Inggris bahkan menyebut langkah ini “menghina” para korban, karena mengubah fitur yang memungkinkan pembuatan gambar melanggar hukum menjadi sebuah layanan premium. Henry Ajder, pakar deepfake, menambahkan bahwa pelaku kejahatan siber masih bisa dengan mudah membuat konten tersebut menggunakan nama palsu dan metode pembayaran sekali pakai.
Hingga berita ini diturunkan, baik X maupun xAI belum memberikan konfirmasi resmi apakah fitur pembuatan gambar ini akan selamanya menjadi fitur berbayar atau hanya langkah sementara. Namun, satu hal yang pasti: kemampuan model AI ini untuk menghasilkan konten berbahaya belum dimatikan sepenuhnya.