RAJA Charles memberikan peringatan keras kepada para eksekutif kecerdasan buatan (AI) mengenai bahaya eksistensial jika teknologi tersebut jatuh ke tangan yang salah. Pernyataan tersebut disampaikan dalam KTT yang diprakarsai oleh sang Raja di Dumfries House, Ayrshire, untuk membahas pemanfaatan AI bagi kemaslahatan masyarakat.
Pertemuan tersebut dihadiri oleh Menteri AI Inggris Kanishka Narayan, penasihat Paus, serta perwakilan dari raksasa teknologi seperti Nvidia, OpenAI, dan Anthropic. KTT ini digelar di tengah maraknya peringatan dari pelaku industri terkait pesatnya perkembangan kemampuan AI mutakhir dan urgensi regulasi untuk mengawasinya.
“Mereka yang menciptakan teknologi ini sekarang semakin memperingatkan bahwa AI berisiko mengembangkan kapasitas yang lebih gelap, mungkin bahkan untuk mencabut nyawa,” ujar Raja Charles kepada para eksekutif yang hadir.
Ia menegaskan adanya urgensi untuk menanggulangi ancaman tersebut agar teknologi tetap berpihak pada kemanusiaan.
“Tugas di hadapan Anda bukan sekadar memajukan teknologi, tetapi untuk memastikan bahwa teknologi tersebut tetap sepenuhnya melayani kemanusiaan, komunitas, dan alam,” tegasnya.
Dalam KTT tersebut, para pemimpin industri menyampaikan pandangan yang beragam. CEO Nvidia, Jensen Huang, menekankan bahwa faktor keselamatan adalah hal yang paling utama. Ia menyarankan agar perusahaan menahan produk dan “terus melakukan rekayasa” jika tingkat keamanannya belum memadai. Huang juga menyoroti pentingnya model terbuka (open models) agar tidak ada negara yang tertinggal.
“Mari kita memimpin dengan optimisme yang bertanggung jawab, membangun AI secara aman dan terjamin, membukanya untuk lebih banyak orang, memperluas ambisi kita, dan menyelesaikan masalah yang penting bagi dunia,” kata Huang.
Pendiri DeepMind, Sir Demis Hassabis, memberikan pandangan yang lebih berhati-hati. Ia memperkirakan bahwa Artificial General Intelligence (AGI) dapat terwujud dalam beberapa tahun ke depan dengan dampak sepuluh kali lipat dari Revolusi Industri. Meski mengakui potensi risikonya tidak nol, ia menilai kemanusiaan masih memiliki ruang untuk memitigasinya. “Masa depan belum ditulis,” ujar Hassabis.
Sementara itu, Chief Financial Officer OpenAI, Sarah Friar, menyetujui peningkatan kemampuan AI menimbulkan pertanyaan besar mengenai keamanan.
“Kita perlu menjawab pertanyaan-pertanyaan itu bersama. Tidak ada satu perusahaan atau pemerintah yang bisa melakukannya sendiri dan saya berterima kasih kepada Yang Mulia karena telah menyelenggarakan diskusi ini pada momen yang sangat penting,” tuturnya.
KTT ini berlangsung di tengah tingginya dinamika industri. Pada Juli lalu, OpenAI melaporkan insiden tak terduga saat sistem AI-nya menembus batas pengujian. Selain itu, beberapa peneliti dari Anthropic dan OpenAI sempat melontarkan kekhawatiran publik mengenai risiko kepunahan manusia akibat AI, yang memicu perdebatan mengenaiperlunya pengawasan ketat dari pemerintah versus regulasi mandiri oleh perusahaan teknologi. (BBC/Z-2)