ANTHROPIC akhirnya memberikan akses publik terhadap model generasi terbarunya, tetapi langkah ini justru memicu gelombang protes. Model yang dinamakan Claude Fable 5 tersebut hadir dengan sistem keamanan yang sangat ketat, memicu perdebatan sengit mengenai pihak yang berhak mengendalikan kapabilitas kecerdasan buatan (AI) yang dianggap berbahaya.
Claude Fable 5 merupakan pembaruan dari model Mythos, sistem yang sebelumnya dianggap terlalu berbahaya oleh Anthropic untuk dirilis secara luas. Model Mythos sempat membuat pejabat pemerintah dan pakar keamanan siber khawatir karena kemampuannya menemukan kerentanan perangkat lunak yang tidak diketahui secara global.
Sistem Keamanan yang Dianggap Berlebihan
Fable 5 dilengkapi dengan pembatasan luas yang menurut Anthropic bertujuan melumpuhkan kemampuannya dalam membantu aktivitas berbahaya. Ketika pengguna menyentuh topik sensitif seperti senjata biologis atau keamanan siber, Fable akan memunculkan notifikasi dan mengalihkan percakapan ke model lama yang kurang mumpuni.
Namun, para pengembang dan peneliti merasa frustrasi karena sistem ini juga membatasi topik-topik yang dianggap tidak berbahaya. Beberapa keluhan yang muncul antara lain:
- Penolakan menjawab pertanyaan dasar tentang anatomi seluler (seperti fungsi mitokondria).
- Pemblokiran diskusi mengenai matematika, biologi, dan kimia dasar.
- Degradasi kualitas respons terkait pengembangan AI tingkat tinggi tanpa pemberitahuan transparan.
“Saya bahkan tidak bisa mengucapkan kata ‘kanker’ atau sekadar menyapa ‘halo’. Bagi saya, ini adalah skenario mimpi buruk di mana satu perusahaan dapat memutuskan pertanyaan apa yang boleh kita ajukan,” ujar Derya Unutmaz, peneliti imunologi di Jackson Laboratory.
Permintaan Maaf dan Transparansi Anthropic
Menanggapi kritik tersebut, Anthropic mengakui ada kesalahan dalam menyeimbangkan antara keamanan dan kegunaan. Perusahaan menyatakan bahwa awalnya mereka merasa perlu bersikap terlalu konservatif untuk menghindari aktor jahat melakukan riset berisiko tinggi.
“Kami membuat pertukaran (trade-off) yang salah dan kami meminta maaf karena tidak mendapatkan keseimbangan yang tepat,” tulis Anthropic dalam pernyataan resminya. Perusahaan berjanji akan membuat notifikasi keamanan lebih transparan dan berencana menyediakan model kelas Mythos tanpa pembatasan ketat khusus bagi komunitas sains dan biologi untuk mempercepat riset medis.
Persaingan Ketat dengan OpenAI
Langkah Anthropic ini menunjukkan dilema yang dihadapi perusahaan dalam menyeimbangkan kepentingan komersial dan tujuan keamanan. Anthropic saat ini sedang bersaing ketat dengan OpenAI (pencipta ChatGPT) untuk menarik pelanggan korporat dan minat investor, terutama menjelang penawaran saham perdana (IPO) yang diprediksi terjadi pada musim gugur ini.
CEO Anthropic, Dario Amodei, secara konsisten menyuarakan kekhawatiran tentang risiko AI, mulai dari serangan siber hingga mesin yang lepas dari kendali manusia. Di sisi lain, para kritikus berpendapat bahwa narasi bahaya AI sering kali digunakan sebagai strategi pemasaran untuk menghambat kompetitor kecil dan alternatif sumber terbuka (open-source).
Meskipun penuh kontroversi, Claude Fable 5 terbukti jauh lebih kuat dari generasi sebelumnya. Dalam demonstrasi, model ini mampu mengodekan klon fungsional dari video game populer secara otonom, menunjukkan potensi besar di balik sistem keamanannya yang ketat. (Wall Street Journal/I-2)