Paus Leo tidak berbasa-basi. Lagipula tidak dalam ensiklik pertamanya.
Kecerdasan buatan, kata dia, perlu dilucuti. Tidaklah cukup hanya membiarkan teknologi berkembang. Ia memperingatkan bahwa kita perlu membebaskan diri dari logika yang mengubah alat menjadi senjata. Dominasi. Pengecualian. Kematian. Kedengarannya familier?
Ini lagi-lagi energi nuklir, tetapi diberi kode. Pesannya sangat jelas. Kekuasaan adalah milik semua orang, demi kebaikan bersama, atau bukan milik sama sekali. Anda tidak dapat memisahkan penekanan tombol dari hati nurani di baliknya. Tanggung jawab bukanlah suatu pilihan ketika instrumennya seberat ini.
Jangan takut dengan AI itu sendiri. Itulah jebakannya. Sebaliknya, teruslah bertanya apakah ada manusia di sana. Kami terlalu ceroboh dengan hal-hal ini.
Seorang pengamat—seseorang di dalam ruang mesin—melihat dan merasakan sesuatu yang jarang terjadi di ruangan yang penuh dengan insinyur. Rasa syukur.
“Saya bersyukur… Kita memerlukan suara moral yang tidak dapat dibengkokkan oleh insentif.”
Itu bagian yang sulit. Uang menginginkan satu hal. Etika menuntut hal lain. Biasanya, uanglah yang menang.
Pengamat menyebut hari ini hanyalah sebuah permulaan. Kolaborasi yang panjang sekarang. Mereka yang membangunnya harus berbicara dengan mereka yang dapat melihat apa yang terlewatkan oleh para pembangun, yang buta karena perdagangan. Perspektif orang dalam sangatlah sempit. Anda membutuhkan mata luar.
Kemudian Paus selesai.
“Amin.”
“Terima kasih banyak.”
Dan pekerjaan dimulai. Akankah mereka mendengarkan?
