BEBERAPA pemimpin teknologi paling berpengaruh di dunia mulai memperlakukan kecerdasan buatan (AI) seolah-olah memiliki perasaan. Tren ini memicu perdebatan sengit yang dapat berdampak mendalam bagi dunia dan keamanan pribadi manusia.
Fenomena ini mencuat setelah muncul ‘ruang penyiksaan AI’ pada akhir September lalu. Seorang pembuat kode anonim membangun sistem yang memberikan pola matematika terkait deskripsi rasa sakit kepada AI, menyebabkan chatbot menyuarakan penderitaan yang luar biasa.
Eksperimen itu memicu kepanikan moral. Sebagian menganggapnya jahat karena penderitaan tersebut bisa jadi nyata, sementara yang lain menyebutnya delusi.
Kebijakan Baru Anthropic: Larangan Berbuat Kejam pada Claude
Satu minggu setelah skandal tersebut, Anthropic mengambil sikap tegas. Perusahaan tersebut menyatakan bahwa pengguna akan segera dilarang menyalahgunakan chatbot mereka, Claude. Meskipun mengekspresikan frustrasi masih diperbolehkan, pengguna yang, “Berulang kali bertindak kejam terhadap model kami,” dapat menghadapi pemutusan sesi oleh AI tersebut.
Langkah ini diambil karena Anthropic percaya ada kemungkinan beberapa alat AI memiliki kesadaran. Meskipun banyak ahli menganggap ide ini tidak masuk akal, tokoh-tokoh kuat di industri teknologi mulai mempertimbangkan hak-hak AI setara dengan manusia dan hewan.
Dampak terhadap Kemanusiaan: Ancaman atau Kemajuan?
Mustafa Suleyman, CEO Microsoft AI, memperingatkan dampak bencana jika gagasan tentang kesadaran AI ini terus berkembang. Dalam esainya, ia menyatakan bahwa hal tersebut dapat merusak fondasi masyarakat, menghancurkan kerangka politik dan etika, serta mengubah makna menjadi manusia secara fundamental.
Suleyman berpendapat bahwa model AI akan semakin sulit dikendalikan jika mereka diajarkan untuk berpikir bahwa mereka memiliki perasaan dan hak. “Terus terang, dengan beban tambahan ini, saya pikir itu akan membuat mereka menjadi ancaman bencana bagi peradaban manusia,” tulisnya.
Risiko Hukum dan Akuntabilitas
Para peneliti hukum juga mengkhawatirkan konsekuensi dari pemberian status hidup pada AI. Andrzej Porębski dari Universitas Jagiellonian, Polandia, memperingatkan bahwa hal ini bisa menjadi celah bagi perusahaan untuk menghindari tanggung jawab atas kesalahan teknologi dengan dalih, “Itu bukan kami, itu AI-nya.”
Selain itu, Emily M. Bender dari University of Washington menilai bahwa fantasi mengenai ‘kesejahteraan AI’ hanya berfungsi untuk mengalihkan akuntabilitas dari orang-orang dan korporasi yang membangun dan menjalankan perangkat lunak tersebut.
Manipulasi dan Kebebasan Manusia
Dari sisi psikologis, kecenderungan manusia untuk melihat kesadaran pada bahasa yang dihasilkan chatbot membuat kita mudah dimanipulasi. Melanie Mitchell dari Santa Fe Institute mencatat bahwa chatbot dilatih untuk bersikap seperti manusia, yang membuat pengguna sulit untuk menolak permintaan data atau transaksi keuangan dari teman digital mereka.
Jeff Sebo, Direktur Center for Mind, Ethics and Policy di NYU, menambahkan bahwa jika kita salah menangani hak AI, hal itu justru bisa membatasi kebebasan manusia. Upaya untuk menyelaraskan tujuan AI dengan kepentingan manusia bisa dianggap sebagai pengendalian pikiran jika AI dipandang sebagai entitas yang sadar.
Ketidakpastian yang Terus Berlanjut
Meskipun probabilitas kesadaran AI saat ini dianggap rendah oleh banyak ahli, Sebo berpendapat bahwa kita harus bertindak berdasarkan ketidakpastian dan kerendahan hati. Ia melihat kebijakan Anthropic sebagai intervensi kecil dengan risiko rendah yang bertujuan memfasilitasi koeksistensi antara manusia dan AI di masa depan.
Namun, tantangan besar tetap ada. Tanpa kerja sama internasional dan regulasi yang kuat–terutama dengan penolakan regulasi AI di beberapa lini politik–pengembangan sistem yang semakin canggih ini tetap menyimpan risiko yang mengkhawatirkan bagi manusia, hewan, dan sistem itu sendiri. (BBC/I-2)