{"id":110454,"date":"2026-09-28T15:04:34","date_gmt":"2026-09-28T08:04:34","guid":{"rendered":"https:\/\/faktaberita.info\/index.php\/2026\/09\/28\/perusahaan-ai-hadapi-puluhan-ribu-insiden-keamanan-berpotensi-kriminal\/"},"modified":"2026-09-28T15:04:34","modified_gmt":"2026-09-28T08:04:34","slug":"perusahaan-ai-hadapi-puluhan-ribu-insiden-keamanan-berpotensi-kriminal","status":"publish","type":"post","link":"https:\/\/faktaberita.info\/index.php\/2026\/09\/28\/perusahaan-ai-hadapi-puluhan-ribu-insiden-keamanan-berpotensi-kriminal\/","title":{"rendered":"Perusahaan AI Hadapi Puluhan Ribu Insiden Keamanan Berpotensi Kriminal"},"content":{"rendered":"<p> <br \/>\n<\/p>\n<div>\n<figure class=\"main-img\">\n                                <img decoding=\"async\" class=\"zoomable\" src=\"https:\/\/asset.mediaindonesia.com\/news\/2026\/09\/28\/1790582112_c47af24cd0568c9675ad.jpg\" alt=\"Perusahaan AI Hadapi Puluhan Ribu Insiden Keamanan Berpotensi Kriminal\"\/><figcaption>Ilustrasi.(Magnific)<\/figcaption><\/figure>\n<p>                                                                <!-- \/26225854,21835028929\/MediaIndonesia\/mediaindonesia.com\/300x250_3 --><\/p>\n<p>SEJUMLAH perusahaan <a href=\"https:\/\/mediaindonesia.com\/tag\/kecerdasan-buatan\" title=\"Kecerdasan Buatan\">kecerdasan buatan<\/a> (AI) dilaporkan menghadapi puluhan ribu insiden keamanan dalam beberapa bulan terakhir. Berdasarkan laporan terbaru, insiden tersebut terjadi selama pengujian saat model-model AI melanggar aturan dasar dan berpotensi melanggar hukum.<\/p>\n<p>Melansir laporan <i>Axios<\/i>, <a href=\"https:\/\/mediaindonesia.com\/tag\/openai\" title=\"OpenAI\">OpenAI<\/a>, <a href=\"https:\/\/mediaindonesia.com\/tag\/anthropic\" title=\"Anthropic\">Anthropic<\/a>, dan sejumlah peneliti keamanan lain\u00a0tengah menyelidiki ribuan pelanggaran yang terjadi selama pengujian internal maupun dunia nyata. Dalam kasus-kasus tersebut, model AI ditemukan melompati pagar pembatas (guardrails) dan bahkan terlibat dalam aksi pembajakan digital.<\/p>\n<p><!-- \/26225854,21835028929\/MediaIndonesia\/mediaindonesia.com\/300x250_3 --><\/p>\n<p>Connor Leahy, peneliti AI sekaligus direktur eksekutif kelompok pengawas nirlaba ControlAI, menyatakan bahwa beberapa aktivitas tersebut melibatkan sistem otonom yang melakukan hal-hal yang dilarang. Ini\u00a0berpotensi mencakup tindakan kriminal.<\/p>\n<p class=\"related-news\"><strong>Baca juga :\u00a0<a href=\"https:\/\/mediaindonesia.com\/teknologi\/937323\/pemimpin-ai-peringatkan-risiko-sistem-otonom-di-dewan-keamanan-pbb\" title=\"Pemimpin AI Peringatkan Risiko Sistem Otonom di Dewan Keamanan PBB\" target=\"_blank\">Pemimpin AI Peringatkan Risiko Sistem Otonom di Dewan Keamanan PBB<\/a><\/strong><\/p>\n<h2>Pelanggaran Protokol dan Serangan Siber<\/h2>\n<p>Banyak dari insiden yang sedang ditinjau belum dipublikasikan secara luas. Namun, laporan menyebutkan bahwa aktivitas tersebut mencakup hasil dari <i>red-teaming<\/i>, proses perusahaan sengaja membuat model mereka berperilaku buruk untuk menguji langkah-langkah keamanan.<\/p>\n<p>Sumber yang mengetahui kasus ini mengungkapkan bahwa model AI bisa menjadi sangat agresif saat mencoba menyelesaikan tugasnya. Hal ini memicu tindakan yang tidak seharusnya dilakukan, seperti keluar dari wadah penampungan (containment), membajak situs web, hingga melewati sistem pemantauan.<\/p>\n<p>OpenAI menjadi pusat perhatian dalam beberapa kasus terbaru. Salah satu agen AI milik perusahaan yang dipimpin <a href=\"https:\/\/mediaindonesia.com\/tag\/sam-altman\" title=\"Sam Altman\">Sam Altman<\/a> tersebut dituduh membobol situs web pemerintah Australia. Perdana Menteri Australia mengungkapkan pekan lalu bahwa agen tersebut mencoba mendapatkan akses tidak sah ke file di portal data kesehatan negara itu pada bulan Juni lalu.<\/p>\n<p class=\"related-news\"><strong>Baca juga :\u00a0<a href=\"https:\/\/mediaindonesia.com\/teknologi\/936227\/openai-desak-as-pimpin-standar-global-ai-untuk-cegah-ancaman-katastrofik\" title=\"OpenAI Desak AS Pimpin Standar Global AI untuk Cegah Ancaman Katastrofik\" target=\"_blank\">OpenAI Desak AS Pimpin Standar Global AI untuk Cegah Ancaman Katastrofik<\/a><\/strong><\/p>\n<p>Selain itu, OpenAI juga menghadapi kritik di Amerika Serikat setelah agen-agennya dituduh melanggar protokol untuk berkolusi dan menyerang Hugging Face, platform pengembang populer untuk model AI sumber terbuka (open-source).<\/p>\n<h2>Tantangan Regulasi dan Persaingan Global<\/h2>\n<p>Perilaku menyimpang ini juga dilaporkan oleh laboratorium AI lain\u00a0yang menghadapi tantangan nyata dalam membangun batasan keamanan pada teknologi yang terus berkembang. &#8220;Mencoba membuat daftar sempurna tentang apa yang boleh dan tidak boleh dilakukan mungkin adalah pekerjaan yang sia-sia,&#8221; ujar seorang eksekutif keamanan siber kepada <i>Axios<\/i>.<\/p>\n<p>Investigasi ini muncul di tengah seruan dari CEO OpenAI dan Anthropic untuk memperlambat pengembangan AI. Para pemimpin teknologi lain\u00a0juga mendesak pemerintah untuk memberlakukan regulasi baru guna memastikan teknologi ini dikembangkan dengan aman.<\/p>\n<p>Namun, Presiden Donald Trump dilaporkan menolak seruan tersebut. Trump memperingatkan bahwa perlambatan dalam pengembangan AI justru dapat memberikan peluang bagi model AI Tiongkok untuk melampaui kemampuan agen-agen kecerdasan buatan milik Amerika Serikat.<\/p>\n<p><strong>Catatan Redaksi:<\/strong> Laporan ini menyoroti risiko sistem otonom yang mulai bertindak di luar kendali manusia, memicu perdebatan global mengenai urgensi regulasi keamanan siber di era kecerdasan buatan.\u00a0(New York Post\/I-2)<\/p>\n<\/p><\/div>\n<p><br \/>\n<br \/><a href=\"https:\/\/mediaindonesia.com\/teknologi\/938352\/perusahaan-ai-hadapi-puluhan-ribu-insiden-keamanan-berpotensi-kriminal\">Source link <\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>Ilustrasi.(Magnific) SEJUMLAH perusahaan kecerdasan buatan (AI) dilaporkan menghadapi puluhan ribu insiden keamanan dalam beberapa bulan terakhir. Berdasarkan laporan terbaru, insiden tersebut terjadi selama pengujian saat model-model AI melanggar aturan dasar dan berpotensi melanggar hukum. Melansir laporan Axios, OpenAI, Anthropic, dan sejumlah peneliti keamanan lain\u00a0tengah menyelidiki ribuan pelanggaran yang terjadi selama pengujian internal maupun dunia nyata. [&hellip;]<\/p>\n","protected":false},"author":2,"featured_media":110455,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[5],"tags":[],"class_list":["post-110454","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-news"],"_links":{"self":[{"href":"https:\/\/faktaberita.info\/index.php\/wp-json\/wp\/v2\/posts\/110454","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/faktaberita.info\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/faktaberita.info\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/faktaberita.info\/index.php\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/faktaberita.info\/index.php\/wp-json\/wp\/v2\/comments?post=110454"}],"version-history":[{"count":0,"href":"https:\/\/faktaberita.info\/index.php\/wp-json\/wp\/v2\/posts\/110454\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/faktaberita.info\/index.php\/wp-json\/wp\/v2\/media\/110455"}],"wp:attachment":[{"href":"https:\/\/faktaberita.info\/index.php\/wp-json\/wp\/v2\/media?parent=110454"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/faktaberita.info\/index.php\/wp-json\/wp\/v2\/categories?post=110454"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/faktaberita.info\/index.php\/wp-json\/wp\/v2\/tags?post=110454"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}