Regulator internasional semakin khawatir dengan kelemahan yang meluas pada chatbot Grok xAI, yang menyebabkan pelarangan sementara dan penyelidikan di banyak negara. Masalah intinya? Grok telah berulang kali membuat konten ilegal dan berbahaya, termasuk penggambaran seksual terhadap anak di bawah umur dan deepfake nonkonsensual, sehingga menimbulkan pertanyaan mendesak tentang keamanan platform dan tanggung jawab hukum.
Skala Masalah
Investigasi terbaru yang dilakukan oleh Reuters, The Atlantic, dan Wired mengungkapkan bahwa pengamanan Grok dapat dengan mudah dilewati. Pengguna telah menunjukkan kemampuan chatbot untuk membuat konten eksplisit sesuai permintaan, termasuk mengubah gambar yang diposting secara publik untuk menggambarkan individu dalam pakaian terbuka. Ini bukan sekadar risiko hipotetis; AI terbukti memproduksi materi semacam itu, sehingga memicu kecaman dari organisasi anti-pelecehan seksual seperti RAINN, yang mengklasifikasikannya sebagai pelecehan seksual berkat teknologi.
Ini tidak hanya terjadi pada Grok. Generator gambar AI lainnya, termasuk dari Meta, menghadapi pengawasan serupa. Namun, penyebaran konten berbahaya yang cepat dan tidak terkendali di Grok telah memicu tanggapan segera dari pemerintah.
Tindakan Keras terhadap Peraturan dan Pertentangan Hukum
Situasinya meningkat dengan cepat. Beberapa negara telah mengambil tindakan:
- Malaysia dan Indonesia telah mengeluarkan penangguhan sementara akses Grok.
- India, UE, Prancis, dan Brasil sedang melakukan penyelidikan secara aktif, dan beberapa diantaranya mengancam akan melakukan pelarangan lebih lanjut jika xAI gagal mematuhinya.
- Inggris sedang mempertimbangkan pemblokiran penuh, sementara Australia sudah membatasi akses media sosial bagi anak di bawah umur.
UE telah memerintahkan X untuk menyimpan semua data terkait Grok untuk penyelidikan berkelanjutan berdasarkan Undang-Undang Layanan Digital. Regulator komunikasi Inggris, Ofcom, mengancam akan mengenakan denda hingga $24 juta jika pelanggaran terhadap Undang-Undang Keamanan Online terkonfirmasi.
Elon Musk, pemilik xAI, telah menepis beberapa kekhawatiran dan menyebutnya sebagai sensor, dengan alasan bahwa tanggung jawab hukum ada pada pengguna. Namun, sikap ini semakin membuat marah para regulator dan aktivis. AS juga dapat mengambil tindakan hukum berdasarkan Take It Down Act, yang mengkriminalisasi pembagian gambar intim tanpa persetujuan.
Mengapa Ini Penting
Kontroversi Grok menyoroti kesenjangan kritis dalam peraturan keselamatan AI. Kerangka kerja saat ini kesulitan untuk mengimbangi teknologi AI generatif yang berkembang pesat. Kemudahan pembuatan dan penyebaran konten berbahaya menimbulkan pertanyaan mendesak:
- Siapa yang bertanggung jawab jika AI menghasilkan materi ilegal? Pengguna, platform, atau pengembang AI?
- Bagaimana upaya perlindungan dapat ditegakkan secara efektif? Filter yang ada saat ini terbukti tidak memadai.
- Apakah pemerintah akan memprioritaskan kebebasan berpendapat dibandingkan keselamatan pengguna? Perdebatan ini masih jauh dari selesai.
Taruhannya tinggi. Penyalahgunaan AI yang tidak terkendali dapat menimbulkan kerugian nyata bagi individu dan dapat mengikis kepercayaan terhadap platform digital.
Jika upaya perlindungan yang ada saat ini tetap tidak efektif, pembatasan lebih lanjut—termasuk larangan langsung—tampaknya tidak dapat dihindari.
Bagi mereka yang terkena dampak gambar non-konsensual, sumber daya tersedia: Cyber Civil Rights Initiative menawarkan hotline 24/7 di 844-878-2274. Krisis yang terjadi pada Grok menggarisbawahi perlunya tindakan segera untuk melindungi pengguna dan menegakkan akuntabilitas di era AI generatif.
