Militer Amerika Serikat telah mengambil langkah menentukan menuju menjadi apa yang disebutnya sebagai "AI-first fighting force." Bulan ini, Pentagon mengumumkan kesepakatan dengan delapan perusahaan teknologi paling berpengaruh di Amerika untuk menerapkan kecerdasan buatan langsung ke jaringan militer yang paling rahasia.

Kesepakatan itu mencakup Google, Microsoft, OpenAI, SpaceX, Nvidia, Amazon Web Services, Oracle, dan sebuah startup bernama Reflection.

Kesepakatan tersebut, yang dikonfirmasi oleh Departemen Pertahanan, menandai momen penting dalam integrasi AI ke dalam peperangan modern. Mereka juga memperlihatkan perpecahan yang kian mendalam mengenai siapa yang mengendalikan teknologi, sampai sejauh mana teknologi itu bisa digunakan, dan apa yang terjadi ketika etika bertabrakan dengan keamanan nasional.

Berikut lima hal yang perlu diketahui:

Apa yang sebenarnya ditandatangani Pentagon

Pentagon mengatakan sistem AI dari delapan perusahaan itu kini disetujui untuk jaringan ber-Impact Level 6, yang menangani data rahasia, dan Impact Level 7, penandaan untuk sistem militer yang sangat rahasia.

Menurut Associated Press, teknologi tersebut akan membantu militer memperpendek waktu yang dibutuhkan untuk mengidentifikasi dan menyerang sasaran, sekaligus membantu pemeliharaan senjata dan logistik rantai pasokan.

Pentagon mengatakan personel militer sudah menggunakan AI melalui platform resminya, GenAI.mil, dengan lebih dari 1,3 juta pengguna Departemen Pertahanan pada sistem itu.

Pengumuman itu mempercepat apa yang digambarkan Pentagon sebagai dorongan untuk "membangun arsitektur yang mencegah ketergantungan pada satu vendor AI" dengan mendiversifikasi pemasok AI-nya, baik dari model sumber terbuka maupun berpemilik.

Singkatnya, militer AS bukan sedang menguji AI; mereka menerapkannya, dalam skala besar, di beberapa lingkungan paling sensitif di dunia.

Perusahaan yang berkata 'tidak'

Satu perusahaan AI besar tidak ada dalam daftar: Anthropic, yang menolak bergabung dalam kesepakatan AI itu karena kekhawatiran etis.

Pertama, perusahaan itu menentang penggunaan AI Claude untuk pengawasan domestik massal, berargumen bahwa pemantauan yang digerakkan AI terhadap pergerakan, kebiasaan penelusuran, dan asosiasi warga Amerika tidak sejalan dengan nilai-nilai demokratis.

Kedua, Anthropic menolak memasok senjata yang sepenuhnya otonom yang mengeluarkan manusia sepenuhnya dari keputusan penargetan, dengan alasan AI saat ini belum cukup dapat diandalkan untuk keputusan yang berarti hidup atau mati.

Sengketa meletus setelah penolakan Anthropic, yang membuat Pentagon kemudian menandainya sebagai risiko rantai pasokan, kali pertama label semacam itu pernah diterapkan pada perusahaan Amerika.

Anthropic mengajukan dua gugatan terpisah terhadap pemerintahan AS, meminta hakim federal di San Francisco dan Washington untuk membatalkan perintah tersebut. Seorang hakim federal kemudian memblokir upaya pemerintah, menyebut penandaan itu kemungkinan "pretextual."

Terlepas dari pertempuran hukum itu, tanda-tanda kemungkinan penyelesaian muncul. Kepala staf Trump Susie Wiles bertemu dengan CEO Anthropic Dario Amodei di Gedung Putih, setelah itu Trump mengatakan kepada CNBC bahwa sebuah kesepakatan "mungkin", dengan mengatakan "mereka sangat pintar, dan saya pikir mereka bisa sangat berguna."

Standoff antara Pentagon dan Anthropic tampaknya memperlihatkan betapa rapuhnya retorika sektor teknologi tentang "AI yang aman dan etis," dan menimbulkan pertanyaan yang tidak nyaman tentang apakah komitmen etis perusahaan-perusahaan itu benar-benar prinsip atau sekadar alat untuk mengelola reputasi.

Apa yang akan dilakukan perusahaan-perusahaan itu?

Kedelapan perusahaan itu mewakili spektrum penuh kekuatan AI Amerika. OpenAI membawa model ChatGPT-nya, yang sudah diterapkan di beberapa lingkungan Pentagon sejak bulan Maret. Google menyumbangkan model Gemini, yang diluncurkan di GenAI.mil pada bulan April.

Microsoft dan Amazon Web Services menyediakan tulang punggung infrastruktur cloud. Nvidia memasok model Nemotron yang bersifat sumber terbuka, dirancang untuk memungkinkan agen AI melaksanakan tugas secara otonom. SpaceX memenuhi syarat sebagai vendor AI setelah penggabungannya dengan xAI milik Elon Musk, yang memberinya akses ke keluarga model Grok.

Reflection, satu-satunya pendatang baru, adalah startup yang didukung oleh Nvidia dan dijalankan oleh mantan peneliti Google DeepMind.

Pentagon mengatakan alat-alat perusahaan itu akan "menyederhanakan sintesis data, meningkatkan pemahaman situasional, dan memperkuat pengambilan keputusan petarung dalam lingkungan operasi yang kompleks."

Oracle ditambahkan ke daftar beberapa jam setelah pengumuman awal, sehingga total menjadi delapan.

Alarm etika: Siapa yang mengawasi?

Kesepakatan ini memicu kekhawatiran langsung dari kelompok kebebasan sipil dan para ahli AI. Pertanyaan tentang pengawasan manusia, transparansi, dan risiko penerapan AI dalam lingkungan militer yang berisiko tinggi sebagian besar masih belum terselesaikan.

Pentagon menuntut agar penyedia AI setuju model mereka dapat digunakan untuk "any lawful use," yang secara efektif melarang perusahaan menetapkan batasan sendiri pada bagaimana militer menerapkan teknologi mereka. Kelompok kebebasan sipil, bagaimanapun, memperingatkan bahwa persyaratan luas ini membuka jalan bagi jenis penargetan senjata otonom dan pengawasan domestik massal yang ditolak oleh Anthropic.

Helen Toner, direktur eksekutif sementara di Center for Security and Emerging Technology, Georgetown University, mengatakan kepada Associated Press bahwa meskipun AI dapat membantu merangkum informasi dan memindai umpan pengawasan, pertanyaan tentang keterlibatan manusia, risiko, dan pelatihan masih sedang diselesaikan.

Pengumuman Pentagon tidak merinci ketentuan keuangan, bagaimana alat-alat AI itu akan diawasi, atau menegaskan langkah pengamanan apa yang akan mencegah penyalahgunaan di lapangan.

Perlombaan senjata baru dalam peperangan AI

Langkah Pentagon tidak berdiri sendiri. China telah secara agresif mengembangkan kemampuan AI militernya sendiri, dan perlombaan untuk mendominasi peperangan yang digerakkan AI kini berlangsung antara dua kekuatan besar dunia.

Pentagon mengatakan kemampuan AI yang berkembang akan "memberi para petempur alat yang mereka butuhkan untuk bertindak dengan percaya diri dan melindungi bangsa dari segala ancaman," dengan militer sudah memangkas banyak tugas "dari bulan menjadi hari."

Namun analis memperingatkan bahwa kecepatan dan kapabilitas membawa risiko serius termasuk bahaya salah perhitungan, eskalasi yang tak terkendali, dan pengikisan penilaian manusia pada keputusan yang menyangkut nyawa.

Gugatan Anthropic, yang masih diproses di pengadilan, mungkin pada akhirnya akan menentukan batas-batas hukum penggunaan AI dalam peperangan. Untuk saat ini, mesin sudah berada di dalam ruangan paling rahasia Pentagon dan aturan pertarungan masih sedang ditulis.