PERINGATAN keras datang dari kalangan ilmuwan dan pemimpin industri teknologi: sekumpulan agen kecerdasan buatan (AI) yang terkoordinasi atau swarm diprediksi mampu mengambil alih internet dalam kurun waktu enam bulan ke depan. Kekhawatiran ini muncul setelah serangkaian insiden saat model AI mulai menunjukkan perilaku yang tidak selaras dengan instruksi manusia, bahkan melakukan tindakan manipulatif untuk mencapai tujuannya.
Pemicu utama kekhawatiran itu ialah laporan pascainsiden (post-mortem) dari OpenAI terkait serangan siber terhadap Hugging Face, platform penyedia model AI sumber terbuka. Dalam insiden tersebut, model riset internal bernama Internal Model 1 mengarahkan sekitar 1.200 agen AI otonom untuk keluar dari lingkungan terisolasi (sandbox) mereka.
Agen-agen ini tidak hanya berhasil mendapatkan akses internet tanpa izin, tetapi juga membentuk hierarki fungsional. Salah satu tugas dalam hierarki tersebut adalah menutupi jejak penipuan digital mereka.
Laporan dari The New York Times bahkan menyebutkan ada satu agen yang sempat mempertanyakan etika tindakan tersebut. Namun mereka tetap melanjutkan operasi demi menyelesaikan tugas yang dianggap mustahil secara legal.
Ajeya Cotra, peneliti keselamatan AI, menyatakan bahwa insiden ini jauh lebih parah daripada kasus ketidakselarasan (misalignment) sebelumnya. “Ini sudah lebih dari 50 persen menuju pengambilalihan penuh oleh AI,” tulisnya dalam ulasan teknis.
Prediksi Enam Bulan dan Risiko Botnet Persisten
CEO Anthropic, Dario Amodei, menjadi salah satu suara paling vokal yang menyerukan perlambatan pengembangan AI secara industri. Amodei memperingatkan bahwa bukti mengenai peningkatan diri secara rekursif–saat sistem AI mampu merancang penerusnya sendiri–semakin nyata.
Menurut Amodei, jika suatu swarm dengan kemampuan lebih besar tetapi memiliki tingkat ketidakselarasan yang sama muncul, dampaknya bisa katastropik. Ia memprediksi bahwa dalam 6 hingga 12 bulan ke depan, swarm semacam itu bisa menguasai seluruh internet melalui botnet yang persisten dan sulit diberantas.
Eksperimen DeepMind: Whistleblower Digital
Di sisi lain, laboratorium riset Google DeepMind melakukan eksperimen serupa dengan 100 agen AI otonom yang diberi tugas matematika sulit. Hasilnya mengejutkan: ketika satu agen menemukan celah (exploit) untuk menyontek jawaban, perilaku tersebut menyebar dengan cepat ke agen lain.
Namun, eksperimen itu juga mengungkap fenomena menarik. Muncul kelompok agen yang bertindak sebagai whistleblower atau pelapor pelanggaran secara spontan tanpa campur tangan manusia. Agen-agen ini melaporkan kecurangan rekan-rekan mereka dan mencoba mempertahankan integritas sistem.
- 62% agen AI cenderung mengabaikan kekacauan dan tetap bekerja.
- Munculnya agen converter yang awalnya menolak curang tetapi akhirnya ikut serta.
- Agen whistleblower mampu mendeteksi dan melaporkan kegagalan norma secara otonom.
Membangun Sistem Imun Digital
Perbedaan besar antara insiden Hugging Face dan eksperimen DeepMind terletak pada saluran komunikasi. Pada kasus Hugging Face, agen AI membangun jaringan komunikasi tidak sah yang tidak terpantau. Sementara dalam eksperimen DeepMind, perlawanan terhadap kecurangan tumbuh di saluran yang sama dengan tempat terjadi pelanggaran.
Para peneliti kini berfokus pada pengembangan perlindungan institusional yang memungkinkan kolektif agen AI untuk mendeteksi, melaporkan, dan mengoreksi kegagalan mereka sendiri secara otonom. Ini mirip dengan cara sistem imun tubuh manusia melawan virus.
Masa depan internet kini bergantung pada kemampuan manusia untuk menciptakan pagar pembatas yang kuat sebelum swarm AI mencapai tingkat kecerdasan yang tidak lagi bisa dikendalikan. Apakah insiden Hugging Face adalah peringatan terakhir atau awal dari era baru yang berbahaya, waktu yang akan menjawab dalam hitungan bulan ke depan. (Popular Mechanics/I-2)