Departemen Pertahanan (DoD) A.S. dan Anthropic, pengembang AI terkemuka, terlibat dalam perselisihan sengit mengenai bagaimana kecerdasan buatan dapat digunakan dalam aplikasi militer. Persoalan utamanya bukanlah apakah AI akan diterapkan, namun siapa yang menetapkan aturan: perusahaan yang membangun teknologi tersebut atau pemerintah yang menerapkannya.
Konflik: Batasan Penggunaan AI
Anthropic, yang dipimpin oleh CEO Dario Amodei, menolak mengizinkan model AI-nya digunakan untuk dua tujuan utama: pengawasan massal terhadap warga AS dan sistem senjata otonom penuh yang membuat keputusan mematikan tanpa pengawasan manusia. Sikap ini secara langsung bertentangan dengan posisi Departemen Pertahanan, sebagaimana diungkapkan oleh Menteri Pete Hegseth, bahwa segala “penggunaan yang sah” atas teknologi tersebut harus diizinkan.
Departemen Pertahanan berpendapat bahwa hal ini tidak boleh dibatasi oleh kebijakan vendor, terutama ketika keamanan nasional dipertaruhkan. Dalam ultimatum yang blak-blakan, Pentagon mengancam akan menetapkan Anthropic sebagai “risiko rantai pasokan” – yang secara efektif memutus kontrak pemerintah – kecuali mereka mematuhinya pada hari Jumat.
Mengapa Ini Penting: Masa Depan Peperangan Otomatis
Perselisihan ini bukan hanya mengenai satu kontrak saja. Hal ini mencerminkan ketegangan mendasar dalam evolusi AI yang pesat. Militer AS sudah menggunakan sistem yang sangat otomatis, beberapa di antaranya mampu menghasilkan kekuatan yang mematikan. Peraturan saat ini memungkinkan AI untuk memilih dan melibatkan target tanpa campur tangan manusia secara langsung, asalkan pejabat senior menyetujuinya. Anthropic khawatir jika modelnya digunakan oleh militer tanpa perlindungan yang memadai, konsekuensinya bisa menjadi bencana besar.
Secara khusus, perusahaan prihatin tentang:
- Keputusan Mematikan yang Tidak Dapat Diandalkan: Menggunakan AI yang kurang berkemampuan untuk mengendalikan senjata dapat menyebabkan kesalahan identifikasi target, eskalasi yang tidak diinginkan, atau kesalahan yang tidak dapat diperbaiki.
- Pengawasan Supercharged: AI dapat secara dramatis meningkatkan skala dan efektivitas pengawasan domestik, meningkatkan kekhawatiran privasi dan kebebasan sipil.
- Kurangnya Transparansi: Teknologi militer sering kali dirahasiakan, yang berarti pengembangan senjata otonom sepenuhnya mungkin tetap tersembunyi hingga teknologi tersebut dapat dioperasikan.
Pendirian Pentagon: Pragmatisme vs. Prinsip
Departemen Pertahanan menegaskan satu-satunya tujuan mereka adalah memanfaatkan AI untuk tujuan yang sah, dan pembatasan Anthropic tidak diperlukan. Para pejabat mengklaim mereka tidak berniat melakukan pengawasan massal di dalam negeri atau mengerahkan senjata otonom yang tidak terkendali. Namun, retorika Sekretaris Hegseth telah beralih ke wilayah budaya, mengkritik “AI yang terbangun” dan menekankan perlunya sistem “siap perang”, bukan “chatbots untuk ruang fakultas Ivy League.”
Pentagon mempunyai kewenangan untuk memaksakan kepatuhan melalui Undang-Undang Produksi Pertahanan (DPA), yang memungkinkan pemerintah memaksa perusahaan untuk memenuhi kebutuhannya. Mendeklarasikan Anthropic sebagai risiko rantai pasokan akan secara efektif memasukkan mereka ke dalam daftar hitam pekerjaan pemerintah di masa depan.
Intinya: Poin Keputusan yang Penting
Kebuntuan ini menghadirkan pilihan yang sulit bagi kedua belah pihak. Jika Anthropic menolak memberikan hasil, maka Anthropic berisiko kehilangan aliran pendapatan yang besar dan berpotensi menghambat kelangsungan jangka panjangnya. Jika Departemen Pertahanan bergerak maju tanpa Anthropic, mereka mungkin akan mengalami penundaan selama enam hingga 12 bulan sementara pengembang AI lainnya akan menyusul – sebuah kerentanan yang signifikan dalam lanskap geopolitik yang berkembang pesat. Hasilnya tidak hanya akan menentukan masa depan AI dalam peperangan namun juga keseimbangan kekuatan antara perusahaan teknologi dan pemerintah AS.
