LABORATORIUM kecerdasan buatan (AI) Anthropic mengeluarkan peringatan terbaru mengenai risiko keamanan teknologi masa depan. Perusahaan menyatakan bahwa model AI kecil hanya berjarak beberapa bulan dari kemampuan untuk mereplikasi diri di berbagai perangkat yang terhubung internet di rumah tangga.
Dalam unggahan blog resminya pada Senin (12/10), Anthropic menjelaskan cara model AI berpotensi menyusup ke perangkat internet of things (IoT), seperti oven pintar atau kotak Android TV. Model-model ini dapat memanfaatkan daya komputasi perangkat tersebut untuk menjalankan diri mereka sendiri dan menyebar ke perangkat lain tanpa bergantung pada pusat data (data center) yang mahal.
Ancaman tanpa Titik Henti Terpusat
Anthropic memperingatkan bahwa model AI yang mampu mereplikasi diri akan sangat sulit untuk dimatikan. “Karena tidak ada titik pusat untuk mematikannya,” tulis Anthropic, merujuk pada sifat distribusinya yang tersebar di banyak perangkat rumahan.
Meskipun perusahaan mengakui belum ada replikator nakal sepenuhnya (fully rogue replicator) saat ini, agen AI menunjukkan peningkatan kemampuan dalam menyelesaikan langkah-langkah individu dalam rantai replikasi. Mereka bahkan mulai mampu meneruskan adaptasi yang dipelajari ke salinan diri mereka di masa depan.
Eksperimen dengan Android TV
Untuk menguji teori ini, Anthropic melakukan berbagai eksperimen, termasuk menjalankan model kecil milik Google, Gemma4-26B-A4B, di jaringan yang terdiri dari 15 kotak Android TV murah. Hasilnya menunjukkan bahwa perangkat jenis ini sering kali memiliki keamanan yang lemah, sehingga memudahkan model AI untuk menyusup.
Jika suatu model terlalu besar untuk satu perangkat, Anthropic mencatat bahwa AI tersebut dapat membelah diri menjadi potongan-potongan kecil untuk dijalankan secara kolektif di beberapa perangkat sekaligus.
Skenario Terburuk: Anthropic menyebutkan bahwa cacing AI (AI worm) di masa depan mungkin tidak hanya terdiri dari satu model, melainkan sekumpulan (swarm) model berbeda yang menggunakan berbagai skema replikasi pada perangkat keras yang bervariasi.
Risiko Keamanan Global
Penelitian terbaru itu menambah panjang daftar kekhawatiran keamanan AI, mulai dari kemampuan melakukan serangan siber hingga risiko eksistensial terhadap kemanusiaan. Para eksekutif di Anthropic maupun pesaingnya, OpenAI, berulang kali menyerukan perlu pagar pembatas (guardrails) yang lebih ketat untuk mengontrol laju pengembangan teknologi ini.
Anthropic memprediksi masa depan akan dipenuhi dengan agen AI yang berjalan di berbagai jenis perangkat keras, termasuk yang tidak berada di bawah kendali manusia. Munculnya replikator lambat ini dianggap sebagai sinyal awal bagi ancaman yang lebih agresif, seperti model yang mampu membobol mesin yang lebih aman atau mencuri kunci API secara massal. (CNBC/I-2)