KESALAHAN fatal yang dipicu oleh kecerdasan buatan (AI) dilaporkan nyaris mendorong militer Amerika Serikat (AS) untuk mencegat kapal Tiongkok di Timur Tengah pada musim semi ini. Insiden tersebut terjadi di tengah ketegangan konflik yang sedang berlangsung dengan Iran.
Berdasarkan laporan CNN, unit pasukan khusus yang didukung oleh pesawat militer telah bersiap untuk menaiki kapal tersebut. Langkah ini diambil setelah laporan intelijen mengeklaim bahwa kapal itu membawa komponen untuk program senjata nuklir.
Halusinasi Chatbot dan Risiko Perang
Operasi pencegatan tersebut mengandalkan informasi manifes kapal yang berasal dari Komando Operasi Khusus AS Pasifik di Hawaii. Jika dieksekusi, tindakan tersebut berpotensi memicu konflik bersenjata langsung dengan Tiongkok.
Beruntung, operasi dibatalkan sesaat sebelum pelaksanaan setelah pejabat menemukan bahwa laporan tersebut didasarkan pada data tidak akurat yang dihasilkan oleh chatbot AI. Tinjauan mendalam mengungkapkan bahwa seorang analis memasukkan intelijen awal ke dalam chatbot, yang kemudian memicu halusinasi dengan salah mengidentifikasi kargo kapal.
“Informasi itu sepenuhnya palsu dan hampir memicu perang,” ujar salah satu sumber kepada CNN.
Peringatan Ahli: “AI memungkinkan Anda mencapai ide buruk dengan lebih cepat,” ungkap seorang sumber internal mengenai tekanan untuk memproduksi intelijen secara cepat.
Kritik terhadap Integrasi AI di Pentagon
Insiden mengerikan ini menyoroti risiko yang meningkat saat Pentagon mempercepat integrasi alat otomatis ke dalam operasi kritis, termasuk pemilihan target. Mantan pejabat senior AS yang akrab dengan alat AI militer menyebut bahwa banyak perangkat internal hanyalah salinan dari produk komersial yang dipoles (lipstick on a pig).
Alat-alat tersebut secara rutin menggabungkan informasi sumber terbuka (open-source) dengan intelijen sinyal rahasia, yang sering kali menciptakan rasa akurasi palsu. Dalam kasus ini, analis menggunakan AI untuk memformat temuan yang salah tersebut ke dalam laporan intelijen standar untuk disebarluaskan.
Kejadian nyaris celaka itu terungkap di tengah peluncuran Strategi Akselerasi AI oleh Menteri Pertahanan Pete Hegseth. Inisiatif yang dimandatkan oleh Presiden Donald Trump ini bertujuan menjadikan AS sebagai kekuatan tempur berbasis AI melalui program seperti GenAI.mil.
Rencana tersebut mencakup penyediaan model AI terkemuka dunia secara langsung ke tangan tiga juta personel sipil dan militer di semua tingkat klasifikasi. Hegseth menyatakan ambisinya untuk menjadikan militer AS sebagai pasukan AI-first di semua domain.
Namun, para sumber memperingatkan bahwa analis muda sangat rentan untuk mempercayai sistem ini secara tidak kritis. Selain itu, belum ada panduan nyata mengenai keterlibatan manusia (human in the loop) dapat mencegah jatuhnya korban sipil atau insiden salah tembak (fratricide) dalam penargetan berbasis AI. (The Independent/I-2)