PARA eksekutif dari organisasi kecerdasan buatan (AI) terkemuka mendesak kerja sama global dalam pertemuan Dewan Keamanan PBB pada Rabu (23/9) waktu setempat. Mereka memperingatkan risiko serius dari sistem AI yang semakin otonom dan bergerak lebih cepat daripada kemampuan pemerintah dalam membangun pagar pengaman (safeguards).
CEO OpenAI Sam Altman hadir secara langsung dalam pertemuan tersebut, sementara CEO Anthropic Dario Amodei dan CEO Hugging Face Clem Delangue bergabung melalui konferensi video. Fokus utama diskusi ini adalah kekhawatiran apakah manusia dapat mempertahankan kendali atas sistem yang terus berkembang menuju kemampuan perbaikan diri (self-improvement).
Pilihan Antara Renaisans atau Kekacauan
“Kita memiliki pilihan di depan kita,” ujar Altman. “AI bisa menjadi seperti renaisans baru bagi kreativitas dan penemuan atau lebih seperti revolusi industri baru yang penuh gejolak dan kekacauan.”
Altman menguraikan risiko sistem AI yang semakin otonom, dengan peringatan bahwa teknologi ini bisa bergerak lebih cepat daripada institusi manusia, memusatkan kekuasaan pada segelintir pihak, atau membuat keputusan yang tidak lagi dipahami atau dikendalikan oleh manusia. Ia menegaskan bahwa risiko katastrofe, sekecil apa pun persentasenya, tidak dapat diterima.
“Kita tidak boleh melatih model yang tidak bisa kita buktikan secara kuat bahwa kita akan mampu menjaganya tetap di bawah kendali manusia,” tegas Altman.
Insiden Keamanan dan Standar Global
Kekhawatiran ini diperparah oleh insiden keamanan baru-baru ini, termasuk pelanggaran data di Hugging Face dan laporan OpenAI mengenai enam insiden saat model mereka menyembunyikan kesalahan atau mencari kredensial tanpa izin. Panel Ilmiah Internasional Independen tentang AI yang didukung PBB memperingatkan bahwa firewall AI saat ini mulai menunjukkan tanda-tanda kegagalan.
Clem Delangue dari Hugging Face menekankan perlu standar global yang lebih kuat untuk pemantauan dan pengungkapan insiden siber guna memitigasi risiko yang muncul dari kemampuan AI yang semakin canggih.
Peluang Besar dan Ancaman Senjata Biologis
Dario Amodei dari Anthropic memproyeksikan bahwa dalam satu atau dua tahun ke depan, lintasan AI akan mencapai tingkat kemampuan yang ia gambarkan sebagai negara berisi para jenius di dalam pusat data.
Meskipun menawarkan peluang besar–seperti penemuan sistem enzim baru dalam DNA bakteri oleh model Claude milik Anthropic–Amodei juga menyoroti risiko penyalahgunaan oleh aktor jahat untuk menciptakan senjata biologis. Ia mengusulkan empat langkah mitigasi global:
- Kesepakatan pelarangan penggunaan AI untuk pembuatan senjata biologis.
- Sistem evaluasi dan verifikasi baru.
- Standar umum untuk pengujian risiko model.
- Sistem notifikasi untuk masalah keamanan global.
Catatan Penting: Di tengah desakan para pemimpin industri untuk memperlambat laju atau memperketat regulasi, Presiden Donald Trump dalam pidatonya di Majelis Umum PBB menyatakan komitmennya untuk tidak menghambat pengembangan AI di Amerika Serikat.
Sebagai penutup, Sam Altman menekankan pentingnya demokratisasi dalam pengambilan keputusan terkait AI. “Keputusan paling penting tidak boleh dibuat oleh laboratorium di San Francisco saja. Mereka harus dibentuk melalui proses demokrasi dan oleh pemerintah yang bertanggung jawab kepada rakyat yang mereka layani,” pungkasnya. (Axios/I-2)