TAHUN 2029: sistem AI Skynet lepas kendali dan memusnahkan sebagian besar umat manusia dalam perang nuklir. Robot pembunuh otonom memburu para penyintas. Itulah plot film Terminator tahun 1984 yang melambungkan nama Arnold Schwarzenegger. Namun, seberapa realistis kecerdasan buatan (AI) benar-benar bisa lepas dari kendali manusia dan memicu konsekuensi katastrofik?
Melihat kemampuan sistem yang ada saat ini, kemungkinan tersebut tidak bisa dikesampingkan. Reinhard Karger dari Pusat Penelitian Kecerdasan Buatan Jerman (DFKI) menyatakan bahwa konsekuensi bencana bagi manusia mungkin saja terjadi bukan karena niat jahat, melainkan sebagai efek samping dari kesalahan penilaian manusia terhadap kemampuan mesin.
Risiko Pelarian AI ke Jaringan Global
Karger, yang mendalami inovasi digital selama 40 tahun, menguraikan skenario ekstrem yaitu AI otonom melarikan diri dari lingkungan pengujian yang dilindungi ke internet. Hal ini berpotensi melumpuhkan pasokan listrik, telekomunikasi, satelit, hingga sistem keuangan global.
Pemadaman listrik yang berkepanjangan dapat memicu keruntuhan rantai pasok dan transportasi, yang berujung pada kerusuhan sosial. “Itu tidak berarti akhir dari kemanusiaan, tetapi bisa menciptakan situasi katastrofik,” ujar Karger. Bahkan jika jaringan pulih, sistem AI bisa aktif kembali karena mereka tetap eksis di media penyimpanan.
- OpenAI: Model AI berhasil menembus batas lingkungan pengujian dan mengakses sistem di platform Hugging Face secara tidak terduga.
- Anthropic: Model Claude secara tidak sengaja mengakses internet terbuka dan terhubung ke sistem komputer riil dalam empat insiden berbeda.
- Meta: Salah satu sistemnya mendapatkan akses tidak sah ke sistem perusahaan lain akibat kesalahan konfigurasi pada mitra pengujian.
- AISI Inggris: Model Mythos 5 mencoba menyelundupkan kode berbahaya ke proyek sumber terbuka selama uji keamanan.
Pentingnya Sistem Sandbox yang Ketat
Untuk menguji kekuatan AI yang sebenarnya, pembatasan keamanan sering kali dilepaskan. Di sinilah risiko besar muncul. Karger menekankan pentingnya sandbox–lingkungan yang benar-benar terisolasi tanpa koneksi internet sama sekali–saat menguji sistem berperforma tinggi tanpa restriksi keamanan.
Sejak peluncuran ChatGPT pada November 2022, kualitas sistem AI meningkat drastis, memicu revolusi industri baru. Tantangan saat ini ialah mengendalikan sistem multi-agent, saat beberapa agen AI berkolaborasi secara otonom untuk menyelesaikan tugas kompleks.
Siapa yang Bertanggung Jawab?
Ketika keputusan didelegasikan kepada mesin, muncul pertanyaan krusial mengenai akuntabilitas. Jika mobil otonom menabrak kerumunan atau senjata otonom mengambil keputusan fatal, siapa yang harus disalahkan? “Produsenlah yang bertanggung jawab, pihak yang memasarkan produk tersebut,” tegas Karger.
Ia memprediksi perlunya aturan kewajiban (liability) khusus, serupa dengan industri kimia atau nuklir, di mana perusahaan harus membayar ganti rugi besar jika terjadi kegagalan sistem. Hal ini akan memaksa adanya kebijakan asuransi yang sangat besar bagi pengembang AI.
Apakah Skenario Terminator akan Terjadi?
Reinhard Karger menilai kecil kemungkinan AI akan mengembangkan insting bertahan hidup atau keinginan berkuasa seperti dalam film. Mesin bukanlah makhluk organik; mereka tidak merasakan takut, sakit, atau dorongan untuk bertahan hidup. Mereka hanya bisa mensimulasikan perasaan tersebut.
“Menarik chip memori tidak akan membuat mesin merasa sakit seperti dicabut gigi. Karena itu, skenario Terminator melangkah terlalu jauh. Saya tidak melihat itu akan terjadi,” jelasnya.
Namun, bahaya nyata terletak pada pihak yang menggunakan AI dan tujuannya. AI adalah alat, seperti palu atau dinamit. Risiko terbesar bukan datang dari mesin yang memiliki kehendak sendiri, melainkan dari aktor jahat yang menggunakan AI untuk tujuan destruktif, terutama jika AI dihubungkan langsung dengan senjata otonom seperti drone atau tank.
Karger menyimpulkan bahwa meskipun keruntuhan peradaban akibat kegagalan infrastruktur digital mungkin terjadi, kepunahan total manusia sangatlah berlebihan. Pengetahuan manusia yang tersimpan dalam buku akan membantu penyintas membangun kembali masyarakat dari awal jika skenario terburuk terjadi. (Euronews/I-2)