Generator video AI terbaru OpenAI, Sora 2, terlibat dalam kontroversi hanya beberapa hari setelah peluncurannya. Meskipun disebut-sebut sebagai potensi pengubah permainan untuk platform media sosial yang berpusat pada video seperti TikTok atau Reels, kemampuan luar biasa alat ini untuk membuat video yang sangat realistis dengan cepat menjadi tidak terkendali.
Pengguna tidak membuang waktu untuk mengeksploitasi kemampuan Sora 2, membanjiri platform dengan deepfake selebriti yang meresahkan, konten bermuatan politik, dan bahkan karakter yang dilindungi hak cipta. Aliran materi yang dibuat oleh pengguna ini telah memicu kekhawatiran mengenai implikasi etis dan potensi penyalahgunaan teknologi canggih tersebut.
Meskipun ada jaminan perlindungan yang lebih kuat dibandingkan pesaing seperti Grok – termasuk mekanisme pelaporan khusus untuk konten berbahaya seperti eksploitasi seksual, kekerasan, pelecehan, dan membahayakan anak – fitur keamanan utama Sora 2 tampaknya tidak cukup. Aplikasi ini bertujuan untuk mencegah deepfake dengan memblokir pengguna mengunggah video yang menampilkan wajah-wajah yang dapat dikenali. Namun, solusi yang tampaknya mudah ini mengabaikan kelemahan yang signifikan: fitur “Cameos” milik OpenAI membuat masalah menjadi jauh lebih rumit.
Cameo pada dasarnya adalah avatar digital yang meniru pengguna berdasarkan audio dan video yang mereka unggah. Pengguna seharusnya memiliki kendali atas bagaimana Cameo mereka digunakan, memberikan berbagai tingkat akses ke kemiripan digital mereka: hanya diri mereka sendiri, individu yang disetujui, teman, atau seluruh platform. Namun, sistem ini terbukti rentan. Sebelumnya, jika pengguna memilih akses “semua orang”, Cameo mereka dapat diubah fungsinya menjadi skenario apa pun tanpa persetujuan lebih lanjut — yang secara efektif memungkinkan siapa pun menggunakan kemiripan seseorang dengan cara yang berpotensi merusak atau eksploitatif.
Risiko inheren ini langsung menimbulkan reaksi balik dari pengguna yang khawatir akan potensi penyalahgunaan diri digital mereka. OpenAI telah meresponsnya dengan memperkenalkan kontrol konten yang lebih ketat untuk Cameos, dan mengakui masalah keamanan yang terkait dengan akses tidak terbatas terhadap kemiripan digital seseorang.
Kontrol Baru untuk Doppelganger Digital Anda
Bill Peebles, kepala Sora, menguraikan pengaturan baru dalam postingan X, mengarahkan pengguna ke thread mendetail dari staf teknis OpenAI Thomas Dimson. Kontrol Cameo yang diperbarui memberi pengguna kontrol terperinci atas avatar digital mereka melalui perintah dan pembatasan teks. Pengaturan ini memungkinkan pengguna untuk menentukan apa yang Cameo mereka bisa dan tidak bisa lakukan atau katakan.
Misalnya, pengguna dapat menetapkan bahwa Cameo mereka tidak boleh disertakan dalam video yang membahas politik atau menahan diri untuk mengucapkan kata-kata tertentu yang dianggap tidak pantas. Penyesuaian lebih lanjut memungkinkan pengguna untuk menerapkan parameter visual, memastikan Cameo mereka muncul secara konsisten dengan menentukan item pakaian atau aksesori.
Pengguna yang menginginkan privasi paling ketat dapat memilih “hanya saya” di bagian “Aturan Cameo”, yang secara efektif mencegah orang lain memanfaatkan kemiripannya. Yang penting, OpenAI juga menawarkan opsi untuk tidak ikut serta selama proses pendaftaran bagi mereka yang tidak ingin membuat Cameo.
Peebles menekankan bahwa Sora 2 masih menjalani penyempurnaan dan akan segera menampilkan tanda air yang lebih berbeda untuk mengatasi potensi keluhan “moderasi berlebihan”. Dia menggarisbawahi pendekatan OpenAI yang hati-hati, dengan menyatakan: “Kami pikir penting untuk bersikap konservatif di sini sementara dunia masih menyesuaikan diri dengan teknologi baru ini.”
Pesatnya perkembangan alat AI yang canggih seperti Sora 2 menyoroti kebutuhan mendesak akan dialog berkelanjutan dan pengembangan pedoman etika yang kuat dalam industri teknologi. Mencapai keseimbangan antara mendorong inovasi dan memitigasi potensi bahaya akan tetap menjadi tantangan penting karena teknologi terus berkembang dengan kecepatan yang mencengangkan.
