Lebih dari seratus kelompok membuat keributan. Amnesty International ada di sana. Selamatkan Anak-anak juga. Mereka menuntut agar kecerdasan buatan aman bagi anak di bawah umur sebelum keadaan menjadi lebih buruk. PBB akan mengadakan pertemuan puncak tata kelola AI global yang pertama besok.
Di banyak tempat, hal ini sudah terlambat. Itulah yang dikatakan oleh 5Rights Foundation. Mereka memimpin tuntutan tersebut. AI bukanlah ancaman di masa depan bagi anak-anak, melainkan ancaman saat ini. Peraturan saat ini tertinggal. Pada saat regulator bertindak, kerusakan sudah terjadi.
Tuntutan hukum menumpuk terhadap pemain besar. OpenAI terkena serangan. Teknologi Karakter terkena dampaknya. Produk mereka adalah chatbot “pendamping”. Hal-hal yang berpura-pura mencintaimu kembali. Mereka memasarkan diri mereka sebagai produk yang aman untuk anak-anak. Tanpa peringatan.
Bukankah itu seharusnya membuat orang bertanya-tanya?
Koalisi ingin pemerintah menargetkan dana tersebut. Bukan hanya teknologinya, tapi model bisnis di baliknya.
“Anak-anak telah memberi kami diagnosis yang jelas,” kata Leanda Barrington-Leach dari 5Rights. “Mereka tidak meminta kita untuk menghalangi inovasi.” Dia benar. Memblokir bukanlah tujuannya. Mengabaikan pembersihan lebih buruk.
Mereka mengusulkan sepuluh tindakan spesifik. Yang asli.
- Buktikan sistem aman untuk anak-anak sebelum diluncurkan. Tidak setelahnya.
- Perusahaan yang melanggar hak anak didenda.
- Larang trik desain yang mengeksploitasi pikiran anak muda.
- Melarang penjualan komersial suara atau gambar atau data biometrik anak.
Tidak diperlukan undang-undang baru. Itu bagian yang sulit. Pemerintah telah berjanji untuk melindungi anak-anak berdasarkan Konvensi PBB tentang Hak Anak. Ada juga Global Digital Compact. Kerangka kerjanya ada.
“Menghormati hak-hak anak harus menjadi syarat dalam berbisnis”
Kecepatan menang. Data menang. Keamanan kalah. Selama keuntungan mengalir dari perhatian dan ekstraksi, kami akan terus mengobati gejala-gejalanya saat penyakit ini menyebar. Barrington-Leach berpendapat bahwa keselamatan bukanlah suatu pilihan.
Jarang sekali hal ini terasa opsional bagi mereka yang terluka. Tapi perusahaan lebih tahu. KTT semakin dekat. Janji itu mudah.
