APPLE secara resmi memperketat kendali atas iOS App Store dengan memperbarui taktik moderasi guna memberantas aplikasi kecerdasan buatan (AI) yang disalahgunakan untuk membuat foto telanjang atau rekayasa deepfake. Langkah ini diambil menyusul maraknya aplikasi “nudifikasi” yang mampu menciptakan gambar seksual individu nyata tanpa persetujuan.
Dalam pengumuman di situs resminya, Apple menegaskan larangan keras terhadap materi pornografi dan konten intim yang dihasilkan AI. Perusahaan teknologi asal Cupertino ini juga menyoroti taktik “bait-and-switch”, di mana pengembang menyamarkan fitur berbahaya saat proses peninjauan dan baru mengaktifkan fungsi nudifikasi setelah aplikasi disetujui.
Berdasarkan pembaruan Panduan Peninjauan Aplikasi (App Review Guidelines), terdapat tiga poin utama yang menjadi fokus Apple:
- Poin 1.2: Persyaratan moderasi kini mewajibkan aplikasi untuk mencegah dan menghapus secara proaktif gambar intim buatan AI tanpa persetujuan. Pelanggaran terhadap aturan ini dapat berujung pada penghapusan aplikasi karena melanggar Kode Etik Pengembang.
- Poin 2.5.19: Mempertegas larangan terhadap aplikasi yang memberikan informasi keliru mengenai fungsinya. Pengembang yang terbukti melakukan penipuan fungsi setelah persetujuan akan dikeluarkan dari Apple Developer Program.
- Bagian 5: Melarang keras aplikasi yang memfasilitasi eksploitasi anak dan perdagangan manusia. Apple memastikan aplikasi dengan konten tersebut akan dihapus dan diblokir dari saluran distribusi lainnya.
Tindakan tegas ini merespons temuan dari laporan Mashable awal tahun ini, yang mengungkap adanya puluhan aplikasi deepfake di App Store. Meski Apple telah menghapus aplikasi bermasalah tersebut, pembaruan aturan ini menjadi landasan hukum yang lebih kuat untuk menjaga privasi pengguna di masa depan.
Langkah proaktif ini menunjukkan komitmen Apple dalam menghadapi risiko baru yang muncul seiring kecanggihan teknologi AI, sekaligus memastikan ekosistem App Store tetap aman dari konten yang merugikan martabat individu. (Z-10)