{"id":108764,"date":"2026-09-25T02:17:39","date_gmt":"2026-09-24T19:17:39","guid":{"rendered":"https:\/\/faktaberita.info\/index.php\/2026\/09\/25\/pemimpin-ai-peringatkan-risiko-sistem-otonom-di-dewan-keamanan-pbb\/"},"modified":"2026-09-25T02:17:39","modified_gmt":"2026-09-24T19:17:39","slug":"pemimpin-ai-peringatkan-risiko-sistem-otonom-di-dewan-keamanan-pbb","status":"publish","type":"post","link":"https:\/\/faktaberita.info\/index.php\/2026\/09\/25\/pemimpin-ai-peringatkan-risiko-sistem-otonom-di-dewan-keamanan-pbb\/","title":{"rendered":"Pemimpin AI Peringatkan Risiko Sistem Otonom di Dewan Keamanan PBB"},"content":{"rendered":"


\n<\/p>\n

\n
\n \"Pemimpin
Sam Altman.(Youtube C-Span)<\/figcaption><\/figure>\n

<\/p>\n

PARA\u00a0eksekutif dari organisasi kecerdasan buatan<\/a> (AI) terkemuka mendesak kerja sama global dalam pertemuan Dewan Keamanan PBB<\/a> pada Rabu (23\/9) waktu setempat. Mereka memperingatkan risiko serius dari sistem AI yang semakin otonom dan bergerak lebih cepat daripada kemampuan pemerintah dalam membangun pagar pengaman (safeguards).<\/p>\n

CEO OpenAI<\/a> Sam Altman<\/a> hadir secara langsung dalam pertemuan tersebut, sementara CEO Anthropic<\/a> Dario Amodei dan CEO Hugging Face Clem Delangue bergabung melalui konferensi video. Fokus utama diskusi ini adalah kekhawatiran apakah manusia dapat mempertahankan kendali atas sistem yang terus berkembang menuju kemampuan perbaikan diri (self-improvement).<\/p>\n

<\/p>\n

Pilihan Antara Renaisans atau Kekacauan<\/h2>\n

“Kita memiliki pilihan di depan kita,” ujar Altman. “AI bisa menjadi seperti renaisans baru bagi kreativitas dan penemuan\u00a0atau lebih seperti revolusi industri baru yang penuh gejolak dan kekacauan.”<\/p>\n

Baca juga :\u00a0Skenario Kiamat AI: Pakar Ungkap Risiko Kepunahan dan Ancaman Keamanan Global<\/a><\/strong><\/p>\n

Altman menguraikan risiko sistem AI yang semakin otonom, dengan peringatan bahwa teknologi ini bisa bergerak lebih cepat daripada institusi manusia, memusatkan kekuasaan pada segelintir pihak, atau membuat keputusan yang tidak lagi dipahami atau dikendalikan oleh manusia. Ia menegaskan bahwa risiko katastrofe, sekecil apa pun persentasenya, tidak dapat diterima.<\/p>\n

“Kita tidak boleh melatih model yang tidak bisa kita buktikan secara kuat bahwa kita akan mampu menjaganya tetap di bawah kendali manusia,” tegas Altman.<\/p>\n

Insiden Keamanan dan Standar Global<\/h2>\n

Kekhawatiran ini diperparah oleh insiden keamanan baru-baru ini, termasuk pelanggaran data di Hugging Face dan laporan OpenAI mengenai enam insiden saat\u00a0model mereka menyembunyikan kesalahan atau mencari kredensial tanpa izin. Panel Ilmiah Internasional Independen tentang AI yang didukung PBB memperingatkan bahwa firewall\u00a0AI saat ini mulai menunjukkan tanda-tanda kegagalan.<\/p>\n

Baca juga :\u00a0OpenAI Desak AS Pimpin Standar Global AI untuk Cegah Ancaman Katastrofik<\/a><\/strong><\/p>\n

Clem Delangue dari Hugging Face menekankan perlu\u00a0standar global yang lebih kuat untuk pemantauan dan pengungkapan insiden siber guna memitigasi risiko yang muncul dari kemampuan AI yang semakin canggih.<\/p>\n

Peluang Besar dan Ancaman Senjata Biologis<\/h2>\n

Dario Amodei dari Anthropic memproyeksikan bahwa dalam satu atau dua tahun ke depan, lintasan AI akan mencapai tingkat kemampuan yang ia gambarkan sebagai negara berisi para jenius di dalam pusat data.<\/p>\n

Meskipun menawarkan peluang besar–seperti penemuan sistem enzim baru dalam DNA bakteri oleh model Claude milik Anthropic–Amodei juga menyoroti risiko penyalahgunaan oleh aktor jahat untuk menciptakan senjata biologis. Ia mengusulkan empat langkah mitigasi global:<\/p>\n