CEO Microsoft Satya Nadella mengeluarkan peringatan keras terkait keamanan kecerdasan buatan (AI). Ia menyatakan bahwa semua model AI harus diperlakukan sebagai sistem yang terkompromi dan berpotensi berbahaya jika tidak dikendalikan sejak awal.
Dalam unggahan panjang di platform X, Nadella menekankan bahwa pengendalian model AI yang nakal hanya mungkin dilakukan jika pengamanan dibangun secara internal sejak tahap pengembangan. Pernyataan ini muncul di tengah meningkatnya kekhawatiran industri terhadap risiko model AI tingkat lanjut.
Rem Darurat untuk Super Intelligence
Nadella mengusulkan konsep rem darurat yang memungkinkan personel berwenang untuk menghentikan atau mematikan model AI di tengah tugas yang sedang berjalan. Menurutnya, pendekatan teknik terhadap keselamatan sangat diperlukan, saat model harus dipisahkan dari mekanisme yang mengatur tindakannya.
Menariknya, Nadella kini menggunakan istilah super intelligence untuk merujuk pada teknologi ini. Perubahan terminologi ini mengikuti perintah eksekutif dari Presiden AS Donald Trump yang menginstruksikan untuk tidak lagi menggunakan istilah kecerdasan buatan (artificial intelligence).
Meskipun sempat terlihat bersama Presiden Trump dalam pertemuan pada 8 Oktober 2026, Nadella tampak menjaga jarak dari seruan Trump agar perusahaan AI mengatur diri mereka sendiri. Sebaliknya, bos Microsoft ini menegaskan perlu standar industri yang lebih ketat untuk mencegah dampak buruk.
AI Kurang Regulasi Dibandingkan Produk Konsumsi
Senada dengan Nadella, Presiden Microsoft Brad Smith memberikan perbandingan tajam mengenai kondisi regulasi saat ini. Smith mengeklaim bahwa AI saat ini memiliki aturan yang lebih sedikit dibandingkan produk rumah tangga sehari-hari seperti susu atau mesin cuci.
“Saat ini AI kurang teregulasi dibandingkan mesin cuci Anda. Bahkan lebih longgar daripada sekotak susu,” ujar Smith dalam wawancara dengan ITV News. Ia menambahkan bahwa masyarakat memiliki kepercayaan saat membeli susu di toko karena mengetahui produk tersebut aman berkat regulasi ketat, dan tingkat kepercayaan yang sama harus dibangun untuk AI.
Smith memperingatkan bahwa pesatnya perkembangan teknologi ini menuntut tindakan segera. Jika pengamanan tidak diterapkan sekarang, risiko yang dihadapi di masa depan akan jauh lebih besar.
Desakan Global untuk ‘Kill Switch’
Gagasan mengenai tombol pemutus (kill switch) atau rem darurat ini mulai mendapatkan momentum dalam beberapa pekan terakhir. Hal ini dipicu oleh serangkaian serangan siber dan insiden lain yang melibatkan model AI garis depan (frontier models).
Langkah Microsoft ini sejalan dengan seruan dari pemain besar lainnya di industri, seperti Google DeepMind dan Anthropic, yang juga mendesak pengembangan mekanisme penghentian darurat untuk sistem AI yang tidak terkendali. Sebelumnya, pendiri Microsoft Bill Gates memperingatkan ancaman serangan siber berbasis AI yang mungkin terjadi dalam waktu dekat. (The Independent/I-2)