Kanalindependen.id – Sebuah kesalahan analisis yang melibatkan kecerdasan buatan (AI) hampir memicu operasi militer Amerika Serikat terhadap sebuah kapal berbendera China di kawasan Timur Tengah.
Insiden tersebut terjadi pada musim semi 2026, ketika perang antara Amerika Serikat dan Iran berlangsung. Informasi intelijen yang beredar menyebut kapal China itu membawa komponen yang berkaitan dengan program senjata nuklir.
Militer AS kemudian bersiap melakukan intersepsi dan pemeriksaan terhadap kapal tersebut. Personel bersenjata disiapkan untuk menaiki kapal, sementara dukungan udara juga telah dikerahkan.
Namun, operasi itu dihentikan setelah pejabat AS menemukan masalah pada sumber informasi yang menjadi dasar tindakan tersebut. Laporan intelijen ternyata dibuat dengan bantuan chatbot AI yang keliru mengidentifikasi muatan kapal.
AI Gabungkan Data, Hasilnya Keliru
Menurut laporan CNN yang dikutip Ars Technica, analisis tersebut dibuat oleh seorang analis yang bekerja di lingkungan US Special Operations Command.
Analis itu menggunakan chatbot untuk memproses informasi mengenai manifest kapal. Sistem kemudian menggabungkan informasi sumber terbuka dengan data intelijen sinyal yang tersimpan dalam sistem pemerintah AS.
AI tersebut kemudian menghasilkan kesimpulan bahwa material yang dibawa kapal berkaitan dengan program senjata nuklir.
Masalahnya, kesimpulan tersebut tidak benar.
Informasi keliru itu kemudian dimasukkan ke dalam laporan intelijen yang beredar melalui jalur komando. Laporan tersebut akhirnya menjadi salah satu dasar persiapan operasi terhadap kapal China.
Salah satu sumber yang mengetahui kejadian tersebut menggambarkan laporan itu sebagai informasi yang sepenuhnya keliru. Sumber lainnya mengatakan kesalahan tersebut nyaris memicu konflik yang lebih besar.
Bukan Sekadar Salah Jawab
Kasus ini memperlihatkan persoalan yang lebih besar dalam penggunaan AI untuk pekerjaan berisiko tinggi.
AI generatif dapat menghasilkan jawaban yang terdengar meyakinkan meskipun informasi yang diberikan tidak benar. Kesalahan semacam ini dikenal sebagai AI hallucination atau halusinasi AI.
Dalam penggunaan sehari-hari, kesalahan tersebut mungkin hanya menghasilkan jawaban yang tidak akurat.
Namun, dalam analisis intelijen militer, dampaknya bisa jauh berbeda.
Informasi yang salah dapat masuk ke dalam laporan resmi, diteruskan melalui struktur komando, lalu memengaruhi keputusan operasional.
Dalam kasus ini, kesalahan identifikasi muatan kapal hampir berubah menjadi tindakan militer nyata.
Militer AS Terus Perluas Penggunaan AI
Insiden tersebut terjadi ketika militer AS justru sedang mempercepat penggunaan teknologi AI.
Departemen Pertahanan AS meluncurkan strategi percepatan AI dengan tujuan memperluas pemanfaatan data di berbagai sistem dan unit militer.
Pentagon juga telah menggunakan berbagai teknologi AI generatif. Ars Technica melaporkan bahwa Google Gemini digunakan sebagai dasar platform GenAI.mil. Pentagon kemudian menambahkan Grok for Government sebagai salah satu pilihan. Anthropic juga menyediakan versi khusus Claude untuk kebutuhan pemerintah AS.
Pada Juni 2026, seorang pejabat Pentagon mengatakan kepada Kongres bahwa teknologi generatif AI telah digunakan untuk membantu penyusunan sejumlah laporan. Sekitar 1,5 juta personel aktif Departemen Pertahanan AS disebut telah menggunakan perangkat AI generatif militer.
Penggunaan yang semakin luas itu membuat persoalan verifikasi menjadi semakin penting.
AI dapat membantu manusia memproses informasi dalam jumlah besar. Namun, keluaran AI tetap dapat mengandung kesalahan dan tidak otomatis menjadi fakta hanya karena disajikan dalam bentuk laporan yang terlihat resmi.
Manusia Tetap Jadi Pengaman Terakhir
Amerika Serikat sendiri sebelumnya telah menekankan pentingnya keterlibatan manusia dalam penggunaan AI untuk kepentingan militer.
Deklarasi tentang penggunaan AI dan otonomi militer yang diterbitkan Departemen Luar Negeri AS pada 2023 menekankan perlunya mempertimbangkan risiko dan manfaat teknologi tersebut.
Dokumen itu juga menekankan pentingnya manusia tetap berada dalam rantai kendali dan pengambilan keputusan.
Kasus kapal China menunjukkan tantangan ketika prinsip tersebut berhadapan dengan penggunaan AI dalam pekerjaan intelijen yang berlangsung cepat.
Manusia memang berada dalam proses tersebut. Namun, persoalannya adalah apakah hasil AI telah diverifikasi secara independen sebelum digunakan sebagai dasar tindakan.
Dalam insiden ini, jawabannya ternyata tidak cukup.
Peristiwa tersebut menjadi contoh konkret bahwa kesalahan AI tidak berhenti pada layar komputer. Ketika hasil AI masuk ke dalam sistem pengambilan keputusan militer, sebuah kesalahan informasi dapat berkembang menjadi risiko keamanan yang jauh lebih besar.(***)