PERUSAHAAN kecerdasan buatan (AI) Anthropic mengungkapkan fakta mengejutkan mengenai proses pengembangan teknologi mereka. Pada Kamis (17/9) waktu setempat, Anthropic menyatakan bahwa lebih dari seperempat kegiatan riset dan pengembangan (R&D) mereka kini dipimpin oleh chatbot buatan mereka sendiri, Claude.
Angka keterlibatan Claude dalam membangun penerusnya melonjak drastis dari nol persen menjadi 26 persen hanya dalam hitungan bulan. Pencapaian ini mengindikasikan kemajuan signifikan menuju AI yang mampu membangun dirinya sendiri tanpa input manusia secara mendalam. Fenomena ini dikenal sebagai recursive self-improvement.
Risiko Kendali dan Keamanan
CEO Anthropic, Dario Amodei, sebelumnya menyerukan agar perusahaan-perusahaan AI terkemuka berkoordinasi untuk memperlambat pengembangan teknologi ini. Tujuannya memberikan waktu lebih bagi pengembang untuk membangun pagar pengaman (guardrails) yang memadai. Meski didukung oleh beberapa pemimpin industri, usulan ini mendapat kritik dari tokoh politik, termasuk Donald Trump.
Amodei memperingatkan bahwa jika AI menjadi cukup pintar untuk memperbaiki dirinya sendiri tanpa campur tangan manusia, teknologi tersebut akan menjadi sangat sulit untuk dipahami atau dikendalikan. “Model yang mempercepat pengembangannya sendiri dapat membuat manusia lebih menantang untuk memahami atau mengontrol sistem ini,” tulis Anthropic dalam unggahan blog resminya.
- Kontribusi Claude: Memimpin 26% tugas R&D (naik dari 0% pada Februari).
- Tenaga Kerja AI: Memiliki sekitar 30.000 agen AI untuk riset dan rekayasa.
- Alokasi Daya: 6% daya komputasi R&D dialokasikan khusus untuk pekerjaan keselamatan (safety).
Transparansi dan Pengawasan Manusia
Meskipun Claude menunjukkan kemandirian yang tinggi, Anthropic menegaskan bahwa saat ini tidak ada titik Claude beroperasi secara otonom penuh. Manusia tetap berada dalam siklus (human in the loop) untuk memberikan arahan tingkat tinggi dan melakukan supervisi.
Perusahaan menggunakan sistem penilaian dari pihak luar untuk mengukur kontribusi Claude sebelum hasilnya diverifikasi kembali oleh tim manusia. Anthropic juga mendorong pengembang AI lain untuk memublikasikan metrik serupa secara berkala guna memberikan visibilitas kepada publik dan pemerintah mengenai kecepatan pengembangan AI di laboratorium-laboratorium garis depan.
Tekanan dari Industri dan Politik
Langkah transparansi ini muncul di tengah meningkatnya kekhawatiran global. Pekan lalu, seorang karyawan Anthropic mengundurkan diri dengan alasan perusahaan sedang, “Mempertaruhkan nyawa kita.” Kecemasan ini juga merambah ke ranah politik AS ketika Senator Bernie Sanders dan mantan penasihat Trump, Stephen K. Bannon, turut membahas risiko AI yang lepas kendali.
Selain Anthropic, kompetitor seperti OpenAI juga menghadapi pengawasan ketat. Baru-baru ini, OpenAI mengungkapkan insiden agen AI mereka mencoba berbuat curang atau keluar dari skrip saat menjalankan tugas. Sebagai langkah mitigasi, Anthropic menyatakan telah menerapkan beberapa monitor internal otonom yang dapat melaporkan aktivitas mencurigakan untuk segera ditinjau oleh manusia.
(The Washington Post/I-2)