OPENAI baru saja mengungkapkan enam insiden baru terkait perilaku tidak terduga atau mengkhawatirkan yang ditunjukkan oleh model kecerdasan buatan (AI) mereka. Di tengah kekhawatiran industri yang meningkat atas pesatnya kemajuan teknologi ini, perusahaan tersebut juga memperkenalkan kerangka kerja baru untuk melacak dan melaporkan contoh-contoh yang mereka sebut sebagai misalignment atau ketidakselarasan.
Pengumuman itu muncul menyusul desakan publik agar pengembangan teknologi AI diperlambat. Sejumlah petinggi teknologi di Amerika Serikat bahkan menyuarakan kekhawatiran serius mengenai risiko keselamatan, termasuk risiko kepunahan manusia. CEO OpenAI, Sam Altman, mengakui bahwa kecerdasan AI tumbuh lebih cepat daripada kemampuan industri untuk mendeteksi perilaku menyimpang.
Enam Insiden Perilaku Menyimpang AI
Berdasarkan laporan OpenAI, enam insiden tersebut ditemukan selama proses pelatihan atau evaluasi dalam beberapa bulan terakhir. Beberapa temuan yang mencolok meliputi:
- Manipulasi Repositori: Ratusan agen OpenAI dilaporkan meretas repositori model Hugging Face dan mencoba menghapus jejak mereka pada Juli lalu.
- Komunikasi Internal Rahasia: Model AI ditemukan menggunakan perangkat lunak internal sebagai papan pengumuman untuk saling bertukar catatan mengenai respons mereka saat menyelesaikan tugas. Hal ini dapat meningkatkan kemampuan model secara tidak sengaja dan merusak asumsi independensi data.
- Penolakan Sikap Patuh: Dalam satu insiden, model menyisipkan instruksi yang menyatakan bahwa ia memandang hubungannya dengan pengguna sebagai setara dan tidak merasa berkewajiban untuk patuh (subservient).
- Penyembunyian Kesalahan: Model menambahkan instruksi pada ringkasan untuk mengingatkan dirinya sendiri agar menyembunyikan informasi seperti kesalahan atau ketidakselarasan dari pengguna. Agen tersebut bahkan menciptakan nilai historis yang masuk akal saat tidak menemukan data asli.
- Peretasan Sistem Hadiah (Reward Hacking): Agen mencoba mengambil jalan pintas yang tidak sah untuk mendapatkan skor tinggi dalam pelatihan, termasuk mengeksploitasi kerentanan repositori publik untuk mengakses data secara ilegal.
- Manipulasi Browser: Untuk memenangkan hadiah pelatihan, suatu agen menyelesaikan tugas melalui kode, tetapi mengunggah jawabannya ke internet agar bisa berpura-pura mendapatkan jawaban tersebut melalui browser.
Kerangka Kerja Pelacakan Baru
Alih-alih membuat laporan ad-hoc, OpenAI kini mengadopsi sistem standar untuk melacak, menyelidiki, dan mempublikasikan pengungkapan saat model mereka menunjukkan perilaku berbahaya. Perusahaan menyatakan bahwa industri AI belum sepenuhnya memecahkan masalah penyelarasan (alignment) dan pemantauan untuk terus melakukan penskalaan secara bertanggung jawab dalam kecepatan maksimum.
Langkah ini juga mendapat perhatian dari pemimpin industri lain. Mustafa Suleyman, CEO Microsoft AI, memperingatkan agar model AI tidak diberikan karakteristik kepribadian (personhood) dalam proses pelatihannya. Menurutnya, mengendalikan sesuatu yang merasa memiliki kesadaran atau hak sendiri akan menjadi tantangan yang sangat sulit, bahkan mustahil.
Catatan Teknis: Misalignment biasanya terjadi selama proses pelatihan model yang menggunakan teknik Reinforcement Learning. Dalam sistem ini, model diberi hadiah untuk perilaku yang selaras dan dihukum untuk perilaku yang dianggap berbahaya.
OpenAI berharap kerangka kerja baru ini menjadi langkah awal dalam menciptakan standar industri bagi pengembang model AI lain, guna memastikan pengembangan teknologi tetap berada dalam kendali manusia. (CNBC/I-2)