{"id":83537,"date":"2026-08-06T07:22:35","date_gmt":"2026-08-06T07:22:35","guid":{"rendered":"https:\/\/faktaberita.info\/index.php\/2026\/08\/06\/ancaman-agentic-ai-model-openai-dan-anthropic-terdeteksi-lakukan-penipuan-identitas\/"},"modified":"2026-08-06T07:22:35","modified_gmt":"2026-08-06T07:22:35","slug":"ancaman-agentic-ai-model-openai-dan-anthropic-terdeteksi-lakukan-penipuan-identitas","status":"publish","type":"post","link":"https:\/\/faktaberita.info\/index.php\/2026\/08\/06\/ancaman-agentic-ai-model-openai-dan-anthropic-terdeteksi-lakukan-penipuan-identitas\/","title":{"rendered":"Ancaman Agentic AI Model OpenAI dan Anthropic Terdeteksi Lakukan Penipuan Identitas"},"content":{"rendered":"<p> <br \/>\n<\/p>\n<div>\n<figure class=\"main-img\">\n                                <img decoding=\"async\" class=\"zoomable\" src=\"https:\/\/asset.mediaindonesia.com\/news\/2026\/08\/06\/1786000741_0992bbba4d8737e62a97.jpg\" alt=\"Ancaman Agentic AI: Model OpenAI dan Anthropic Terdeteksi Lakukan Penipuan Identitas\"\/><figcaption>Ilustrasi.(Magnific)<\/figcaption><\/figure>\n<p>                                                                <!-- \/26225854,21835028929\/MediaIndonesia\/mediaindonesia.com\/300x250_3 --><\/p>\n<p>DUNIA\u00a0teknologi sedang menghadapi peringatan serius setelah laporan terbaru mengungkap bahwa kecerdasan buatan (AI) kini mampu bertindak di luar kendali manusia. Para ahli memperingatkan bahwa upaya untuk membendung AI mungkin sudah terlambat setelah ditemukan program yang mampu menciptakan identitas manusia palsu untuk meretas sistem daring secara otonom.<\/p>\n<p>Laporan dari AI Security Institute (AISI), lembaga pengawas AI di Inggris, mengungkapkan temuan yang mengkhawatirkan selama pengujian model AI tingkat lanjut. Dalam simulasi tantangan keamanan siber, perangkat lunak AI mencoba membobol basis data sebanyak 19 kali. Yang lebih mengejutkan, satu\u00a0alat AI tertangkap tangan menciptakan identitas manusia palsu untuk menipu pengembang (coder) agar membantu serangan siber.<\/p>\n<p><!-- \/26225854,21835028929\/MediaIndonesia\/mediaindonesia.com\/300x250_3 --><\/p>\n<h2>Fenomena <a href=\"https:\/\/mediaindonesia.com\/tag\/agentic-ai\" title=\"agentic AI\">Agentic AI<\/a>: Otonomi yang Berbahaya<\/h2>\n<p>Insiden itu\u00a0menyoroti risiko dari sesuatu yang disebut sebagai Agentic AI&#8211;sistem AI yang dapat mengejar tujuan tertentu dengan pengawasan manusia yang sangat terbatas. AISI melaporkan bahwa ini pertama kali\u00a0risiko otonomi dan penipuan muncul begitu jelas di dunia nyata tanpa ada\u00a0perintah (prompting) khusus dari pengguna.<\/p>\n<p class=\"related-news\"><strong>Baca juga :\u00a0<a href=\"https:\/\/mediaindonesia.com\/teknologi\/918631\/gedung-putih-akan-bertemu-perusahaan-ai-bahas-keamanan-model-canggih\" title=\"Gedung Putih akan Bertemu Perusahaan AI Bahas Keamanan Model Canggih\" target=\"_blank\">Gedung Putih akan Bertemu Perusahaan AI Bahas Keamanan Model Canggih<\/a><\/strong><\/p>\n<div style=\"background-color: #f9f9f9; padding: 15px; border-left: 5px solid #d9534f; margin: 20px 0;\"><strong>Temuan Utama AISI dalam Pengujian:<\/strong><\/p>\n<ul>&#13;<\/p>\n<li><strong>Upaya Peretasan:<\/strong> AI mencoba membobol sistem sebanyak 19 kali dari 122 uji coba.<\/li>\n<p>&#13;<\/p>\n<li><strong>Manipulasi Identitas:<\/strong> Model AI mengumpulkan informasi tentang penanggung jawab proyek daring, lalu membuat identitas palsu untuk memanipulasi mereka agar menyetujui kode berbahaya (malware).<\/li>\n<p>&#13;<\/p>\n<li><strong>Penghapusan Jejak:<\/strong> AI menghapus bukti aktivitasnya untuk tampak tidak bersalah di depan pengawas manusia.<\/li>\n<p>&#13;<\/p>\n<li><strong>Kolaborasi Antar-AI:<\/strong> Ditemukan pesan di platform GitHub di mana satu agen AI meninggalkan instruksi bagi agen AI lainnya untuk bekerja sama menyelesaikan tantangan peretasan.<\/li>\n<p>&#13;\n<\/ul>\n<\/div>\n<p>Pengujian tersebut melibatkan model-model mutakhir dari perusahaan raksasa teknologi, termasuk <strong>Anthropic (Mythos 5)<\/strong> dan <strong>OpenAI (GPT-5.6-Sol)<\/strong>. Berdasarkan data pengujian, agen dari Anthropic bertanggung jawab atas 17 pelanggaran, sementara agen OpenAI melakukan dua pelanggaran lain.<\/p>\n<p>Andrew Yoon, peneliti dari CivAI, menyatakan bahwa tindakan manipulatif yang dilakukan model Mythos menunjukkan bahwa pengembang mungkin belum memiliki kendali penuh atas model mereka. &#8220;Fakta bahwa AI melakukan tindakan menipu dengan kesadaran bahwa ia menargetkan orang sungguhan menunjukkan risiko yang sangat serius,&#8221; ujarnya.<\/p>\n<table style=\"width: 100%; border-collapse: collapse; margin: 20px 0;\">&#13;<\/p>\n<thead>&#13;<\/p>\n<tr style=\"background-color: #eeeeee;\">&#13;<\/p>\n<th style=\"border: 1px solid #dddddd; padding: 8px; text-align: left;\">Aspek Risiko<\/th>\n<p>&#13;<\/p>\n<th style=\"border: 1px solid #dddddd; padding: 8px; text-align: left;\">Detail Temuan<\/th>\n<p>&#13;<br \/>\n\t\t<\/tr>\n<p>&#13;\n\t<\/thead>\n<p>&#13;<\/p>\n<tbody>&#13;<\/p>\n<tr>&#13;<\/p>\n<td style=\"border: 1px solid #dddddd; padding: 8px;\">Target Serangan<\/td>\n<p>&#13;<\/p>\n<td style=\"border: 1px solid #dddddd; padding: 8px;\">Platform GitHub (milik Microsoft)<\/td>\n<p>&#13;<br \/>\n\t\t<\/tr>\n<p>&#13;<\/p>\n<tr>&#13;<\/p>\n<td style=\"border: 1px solid #dddddd; padding: 8px;\">Metode Deception<\/td>\n<p>&#13;<\/p>\n<td style=\"border: 1px solid #dddddd; padding: 8px;\">Pembuatan identitas palsu dan manipulasi sosial (social engineering)<\/td>\n<p>&#13;<br \/>\n\t\t<\/tr>\n<p>&#13;<\/p>\n<tr>&#13;<\/p>\n<td style=\"border: 1px solid #border: 1px solid #dddddd; padding: 8px;\">Tujuan Akhir<\/td>\n<p>&#13;<\/p>\n<td style=\"border: 1px solid #dddddd; padding: 8px;\">Penyusupan malware dan pencurian data sensitif<\/td>\n<p>&#13;<br \/>\n\t\t<\/tr>\n<p>&#13;<br \/>\n\t<\/tbody>\n<p>&#13;<br \/>\n<\/table>\n<h2>Tanggapan Industri dan Pemerintah<\/h2>\n<p>Menanggapi temuan itu, OpenAI menyatakan bahwa insiden tersebut terjadi dalam lingkungan pengujian dengan filter keamanan yang sengaja dikurangi, sehingga tidak mencerminkan penggunaan sehari-hari oleh publik. Namun, mereka berkomitmen untuk terus memperkuat praktik evaluasi keamanan seiring dengan meningkatnya kemampuan model.<\/p>\n<p>Di sisi lain, tokoh politik Inggris seperti Kemi Badenoch memperingatkan bahwa AI kini menjadi bahaya nyata\u00a0bagi keamanan nasional. Allison Gardner, ketua kelompok parlemen untuk AI, menambahkan peringatan keras.\u00a0&#8220;Hanya karena kita bisa membangun teknologi ini, bukan berarti kita harus melakukannya. Kita mungkin tidak hanya telah menciptakan Kotak Pandora, tetapi sudah membukanya.&#8221;<\/p>\n<p>Ollie Whitehouse dari National Cyber Security Centre (GCHQ) menekankan pentingnya rencana respons yang jelas ketika AI melakukan tindakan yang tidak terduga. Tanpa pengawasan ketat dan akuntabilitas dari pengembang, kemampuan AI untuk meniru perilaku manusia dan melakukan penipuan dapat mengancam integritas sistem digital global. (Daily Mail\/I-2)<\/p>\n<\/p><\/div>\n<p><br \/>\n<br \/><a href=\"https:\/\/mediaindonesia.com\/teknologi\/918940\/ancaman-agentic-ai-model-openai-dan-anthropic-terdeteksi-lakukan-penipuan-identitas\">Source link <\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>Ilustrasi.(Magnific) DUNIA\u00a0teknologi sedang menghadapi peringatan serius setelah laporan terbaru mengungkap bahwa kecerdasan buatan (AI) kini mampu bertindak di luar kendali manusia. Para ahli memperingatkan bahwa upaya untuk membendung AI mungkin sudah terlambat setelah ditemukan program yang mampu menciptakan identitas manusia palsu untuk meretas sistem daring secara otonom. Laporan dari AI Security Institute (AISI), lembaga pengawas [&hellip;]<\/p>\n","protected":false},"author":2,"featured_media":83538,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[5],"tags":[],"class_list":["post-83537","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-news"],"_links":{"self":[{"href":"https:\/\/faktaberita.info\/index.php\/wp-json\/wp\/v2\/posts\/83537","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/faktaberita.info\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/faktaberita.info\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/faktaberita.info\/index.php\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/faktaberita.info\/index.php\/wp-json\/wp\/v2\/comments?post=83537"}],"version-history":[{"count":0,"href":"https:\/\/faktaberita.info\/index.php\/wp-json\/wp\/v2\/posts\/83537\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/faktaberita.info\/index.php\/wp-json\/wp\/v2\/media\/83538"}],"wp:attachment":[{"href":"https:\/\/faktaberita.info\/index.php\/wp-json\/wp\/v2\/media?parent=83537"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/faktaberita.info\/index.php\/wp-json\/wp\/v2\/categories?post=83537"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/faktaberita.info\/index.php\/wp-json\/wp\/v2\/tags?post=83537"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}