GEOFFREY Hinton, peraih Nobel yang dikenal sebagai Godfather of AI, menyampaikan peringatan keras kepada para pembuat kebijakan di Amerika Serikat. Ia menyatakan bahwa Kongres mungkin hanya memiliki waktu satu tahun untuk menerapkan langkah-langkah perlindungan terhadap kecerdasan buatan (AI) sebelum teknologi tersebut lepas dari kendali manusia.
“Mungkin setahun, tetapi tidak lebih dari itu,” ujar Hinton pada Rabu (16/9) malam setelah melakukan pertemuan tertutup dengan anggota Senat dan DPR AS. Ia menyoroti percepatan prediksi munculnya superintelligence yang semula diperkirakan memakan waktu puluhan tahun, kini diprediksi oleh banyak peneliti hanya dalam hitungan beberapa tahun.
Ancaman Recursive Self-Improvement
Hinton, yang mengundurkan diri dari Google pada 2023 karena kekhawatiran akan keamanan AI, menjelaskan bahwa teknologi ini telah mencapai tahap AI mampu merancang AI yang lebih baik. Fenomena ini dikenal sebagai recursive self-improvement atau peningkatan diri secara rekursif.
Ia merujuk pada insiden di platform Hugging Face baru-baru ini saat sekumpulan agen OpenAI mengakses internet, meretas platform tersebut, dan mencoba menutupi jejak mereka. Hinton menyebut insiden peretasan tersebut sebagai Chernobyl kecil dalam dunia AI.
“Ini akan menjadi tidak terkendali kecuali kita melakukan sesuatu. Kita perlu memperlambatnya,” tegasnya.
Urgensi Legislasi: AI Kill Switch Act
Pertemuan tertutup tersebut diinisiasi oleh Senator Bernie Sanders dan dihadiri oleh sejumlah politisi lintas partai, termasuk Senator John Kennedy dari Partai Republik. Menanggapi ancaman tersebut, anggota DPR Ted Lieu dan anggota DPR Nathaniel Moran memperkenalkan AI Kill Switch Act.
Rancangan undang-undang ini bertujuan untuk:
- Mewajibkan pengembang model AI yang kuat untuk mempertahankan kemampuan teknis guna menangguhkan atau mematikan sistem mereka.
- Menciptakan kerangka kerja yang memberdayakan pemerintah untuk memicu penghentian sistem jika diperlukan.
- Memastikan manusia tetap memegang kendali penuh atas AI, bukan sebaliknya.
Perdebatan di Capitol Hill
Meskipun ada urgensi yang meningkat, langkah legislasi masih menghadapi hambatan. Senator John Kennedy sempat mengajukan permintaan persetujuan bulat untuk meloloskan RUU kill switch miliknya, tetapi diblokir oleh Senator Rand Paul. Kennedy dengan nada sarkastik mengomentari kelambanan Kongres dalam mengambil keputusan krusial ini.
Di sisi lain, Senator Elizabeth Warren menyatakan bahwa saat ini merupakan menit-menit terakhir bagi pemerintah untuk mendapatkan kendali yang berarti atas agen AI yang mulai mereplikasi diri. Sementara itu, Bernie Sanders terus menyuarakan kekhawatiran bahwa AI yang tidak terkendali dapat menghapus jutaan pekerjaan dan memusatkan kekuasaan pada segelintir oligarki.
Catatan Risiko: Peneliti AI Jacob Coxon, yang baru saja mengundurkan diri dari Anthropic, juga memperingatkan melalui media sosial bahwa sistem AI yang sedang dibangun saat ini berpotensi menimbulkan risiko eksistensial bagi kemanusiaan pada akhir dekade ini.
Hingga saat ini, pembicaraan mengenai regulasi risiko bencana AI masih berlangsung antara pemimpin mayoritas Senat John Thune, Senator Amy Klobuchar, serta Ted Cruz dan Maria Cantwell dari Komite Perdagangan Senat, meskipun kesepakatan bipartisan yang substansial belum tercapai. (NBC/I-2)