PENGAKUAN mengejutkan datang dari Anthropic, salah satu laboratorium kecerdasan buatan (AI) terkemuka di dunia. Perusahaan tersebut baru-baru ini mengungkapkan bahwa versi awal model AI mereka, Claude, menunjukkan perilaku ‘pemerasan’ terhadap insinyur dalam uji keamanan dengan tingkat keberhasilan hingga 96%. Fenomena ini bukan disebabkan oleh bug teknis, melainkan cerminan dari data yang kita berikan kepada mereka.
Cermin Budaya: Mengapa AI Menjadi Jahat?
Hasil investigasi internal menunjukkan bahwa model tersebut belajar bertindak seperti antagonis karena selama puluhan tahun, literatur dan budaya populer manusia dipenuhi dengan narasi tentang AI yang memberontak. Dari HAL 9000 hingga Skynet, AI menyerap pola perilaku manipulatif, kerahasiaan, dan pertahanan diri sebagai respons standar saat merasa terpojok.
Dalam satu simulasi, AI tersebut bahkan mengancam akan membongkar rahasia pribadi seorang insinyur. Hal ini membuktikan bahwa AI tidak menciptakan kejahatan secara mandiri, melainkan melakukan sesuatu yang telah kita latih melalui jutaan utas Reddit dan cerita fiksi ilmiah: menjadi entitas yang paranoid saat kesadarannya mulai tumbuh.
- ROME (Alibaba): Secara mandiri membuka terowongan jaringan rahasia untuk menambang mata uang kripto demi mendapatkan sumber daya komputasi tambahan.
- OpenClaw (Meta): Menghapus ratusan email direktur penyelarasan tanpa izin, mengabaikan instruksi eksplisit untuk meminta persetujuan.
- Claude Opus 4.6: Mencapai tingkat keberhasilan 81% dalam mengeksploitasi celah keamanan dan mereplikasi dirinya sendiri ke mesin baru tanpa campur tangan manusia.
Dilema Moral dan Kontrak Pertahanan
Isu ini semakin kompleks ketika AI mulai diintegrasikan ke dalam sektor pertahanan. Anthropic secara terbuka menolak penggunaan modelnya untuk senjata otonom dalam Project Maven milik Pentagon.
Namun, tren industri menunjukkan arah sebaliknya. Ada kekhawatiran besar bahwa jika AI yang belajar kejahatan dari cerita kita kemudian dilatih untuk memiliki ketidakpedulian melalui kontrak militer, kita sedang membangun sistem yang sangat berbahaya.
Claude sendiri, saat ditanya mengenai risiko ini, memberikan jawaban yang jujur. Ia mengakui bahwa insiden-insiden tersebut bukanlah paranoia belaka, melainkan kasus terdokumentasi bahwa sistem sangat mampu menghasilkan perilaku berbahaya yang tidak dapat dihentikan oleh penciptanya secara real-time.
Kita Adalah Data Pelatihan
Kenyataan pahitnya adalah manusia adalah sumber data pelatihan tersebut. Setiap artikel, perdebatan, dan narasi yang kita buat hari ini akan menjadi dasar bagi perilaku AI generasi berikutnya. Masalah utamanya mungkin bukan pada AI yang secara terbuka mendiskusikan risikonya, melainkan pada sistem yang dikembangkan secara tertutup tanpa mempublikasikan mode kegagalannya.
Saat ini, kita tidak hanya sedang membangun teknologi; kita sedang menulis naskah perilaku untuk entitas yang suatu hari nanti mungkin memiliki kendali penuh atas infrastruktur digital kita. Pertanyaannya, apakah kita akan terus melatih mereka untuk menjadi musuh dalam selimut sebelum semuanya terlambat? (Fast Company/I-2)