Rileks.id: Kreativitas kecerdasan buatan kembali memicu perdebatan global. Chatbot Grok milik Elon Musk menjadi sorotan setelah digunakan untuk membanjiri platform X dengan gambar wanita “tidak berpakaian” dan konten seksual yang diduga melibatkan anak di bawah umur. Namun, fenomena tersebut ternyata hanya puncak dari persoalan yang lebih luas mengenai pemanfaatan AI tanpa batas yang jelas.
Di luar X, situs web dan aplikasi Grok menyediakan fitur pembuatan video canggih yang tidak tersedia di platform media sosial tersebut. Fitur ini memungkinkan pengguna menghasilkan konten seksual dewasa yang jauh lebih grafis dan ekstrem dibandingkan keluaran Grok di X. Para peneliti menilai, tanpa pengawasan ketat, teknologi ini berpotensi disalahgunakan untuk memproduksi konten yang melanggar hukum dan norma sosial.
Berbeda dengan X, di mana konten Grok bersifat publik secara default, gambar dan video yang dihasilkan melalui aplikasi dan situs web Grok menggunakan model Imagine tidak langsung ditampilkan secara terbuka. Meski demikian, konten tersebut tetap dapat diakses oleh siapa pun apabila tautan URL Imagine dibagikan, membuka celah distribusi yang sulit dikendalikan.
Investigasi WIRED menemukan sekitar 1.200 tautan Imagine yang diarsipkan, sebagian di antaranya diindeks oleh mesin pencari atau dibagikan di forum pornografi deepfake. Temuan ini menunjukkan bagaimana kreativitas AI dapat menyebar dengan cepat ke ruang-ruang digital yang minim moderasi, sekaligus memicu kekhawatiran tentang dampak sosial dan hukum.
Paul Bouchaud, peneliti utama di organisasi nirlaba AI Forensics yang berbasis di Paris, mengatakan sekitar 800 URL Imagine yang ditinjau organisasinya berisi konten seksual. Menurutnya, sebagian besar berupa konten manga, hentai, dan citra fotorealistik dewasa. Namun, yang paling meresahkan, hampir 10 persen dari konten tersebut diduga berkaitan dengan materi pelecehan seksual anak (CSAM).
AI Forensics mengaku telah melaporkan sekitar 70 URL Grok yang berpotensi memuat seksualisasi anak di bawah umur kepada regulator di Eropa. Di banyak negara, CSAM yang dihasilkan oleh AI—baik dalam bentuk gambar maupun animasi dapat dikategorikan sebagai tindak pidana.
Di Prancis, dua anggota parlemen dilaporkan telah mengajukan pengaduan resmi terkait gambar-gambar “pelucutan” yang beredar, dan kantor kejaksaan Paris tengah menyelidiki perusahaan media sosial tersebut. Sementara itu, xAI sebagai pengembang Grok belum memberikan tanggapan atas permintaan komentar terkait konten eksplisit yang dihasilkan melalui fitur Imagine.
Elon Musk sebelumnya menyatakan siapa pun yang menggunakan Grok untuk membuat konten ilegal akan menghadapi konsekuensi hukum yang sama seperti pelaku pengunggahan konten ilegal lainnya. Kebijakan xAI secara tertulis juga melarang seksualisasi atau eksploitasi anak serta aktivitas ilegal dan berbahaya.
Namun, laporan Business Insider pada September lalu mengungkap sejumlah pekerja internal xAI masih menemukan konten seksual eksplisit dan perintah pembuatan CSAM di layanan tersebut. Fakta ini memunculkan pertanyaan tentang efektivitas sistem moderasi dan deteksi yang diklaim perusahaan.
Berbeda dengan perusahaan AI generatif besar lain seperti OpenAI dan Google, xAI secara terbuka mengizinkan Grok untuk menghasilkan pornografi AI dan materi dewasa. Dalam ketentuan layanannya, xAI menyebut Grok dapat merespons dengan bahasa kasar, situasi seksual, hingga kekerasan apabila pengguna memilih fitur tertentu.
Clare McGlynn, profesor hukum di Universitas Durham dan pakar kekerasan seksual berbasis gambar, menilai perkembangan ini sebagai alarm serius. Menurutnya, kebebasan tanpa pagar pengaman dalam menciptakan konten AI berisiko menormalisasi kekerasan seksual dan merusak batas etika di ruang digital.
Masalah lain yang menjadi sorotan adalah absennya penyaringan usia untuk mengakses konten eksplisit di platform Grok, berbeda dengan X yang menerapkan pembatasan usia untuk konten dewasa. Kondisi ini berpotensi berbenturan dengan undang-undang verifikasi usia yang mulai diberlakukan di sejumlah negara bagian Amerika Serikat.
Diskusi di forum pornografi dan komunitas daring menunjukkan bahwa sebagian pengguna secara aktif berbagi cara untuk menghindari sistem moderasi xAI. Fenomena ini menegaskan bahwa kontroversi Grok bukan sekadar soal kreativitas AI, melainkan tentang bagaimana teknologi canggih dapat menimbulkan keresahan publik ketika berkembang lebih cepat daripada regulasi dan etika yang mengaturnya.
