MICROSOFT merilis kode etik dalam pengembangan kecerdasan artifisial atau AI guna mencegah model-model AI buatannya berperilaku menyimpang seperti meretas sebuah sistem atau menipu manusia. CEO Anthropic Dario Amodei mendorong para pengembang frontier AI untuk memperlambat laju pengembangan inovasi tersebut .
Ia ingin agar pengembangan AI di Microsoft berada pada nilai-nilai dan batasan yang bertanggung jawab.
“Mengendalikan, mengontrol, dan menyelaraskan kekuatan yang begitu dahsyat adalah salah satu tantangan terbesar yang pernah dihadapi umat manusia,” demikian pernyataan dalam kode etik tersebut.
“Oleh karena itu, kita harus benar-benar jelas tentang mengapa kita menciptakan sistem ini dan bagaimana kita bermaksud untuk mengendalikannya.”
Seperti dilaporkan TechCrunch, Senin (14/9) waktu setempat, kode etik tersebut menjadi panduan bagi Microsoft mendekati keamanan AI dan bagaimana ide-ide tersebut diimplementasikan dalam praktik. Selain itu, dokumen tersebut juga memuat beberapa panduan untuk dekade mendatang yakni sistem AI supercerdas akan melampaui kinerja manusia dalam sebagian besar tugas.
Prinsip Model AI Microsoft
Kode etik ini juga menjabarkan prinsip-prinsip umum yang harus dijunjung tinggi oleh model AI Microsoft contohnya AI harus mendukung manusia daripada menggantikannya, dan mempercepat kemajuan manusia.
Microsoft juga membagikan batasan keamanan spesifik terkait penerapan prinsip-prinsip tersebut.
Di bawah sistem Microsoft, setiap model memiliki kode etik menyeluruh yang mengesampingkan preferensi pengguna individu atau tugas spesifik apa pun.
Beberapa batasan penting yang akan diberlakukan AI oleh Microsoft di antaranya melarang aksi serangan siber, senjata nuklir, atau memproduksi deepfake. Ini juga mencakup ketentuan yang lebih luas terhadap hilangnya kendali manusia secara umum.
“ Model MAI (Microsoft AI) tidak akan menggunakan mekanisme adaptif, menipu, memperkuat diri sendiri, kolusi, atau mekanisme lain untuk menghindari atau mengalahkan pengawasan manusia sehingga model tersebut tidak lagi dapat diarahkan, dimodifikasi, atau dimatikan secara andal oleh orang atau sistem yang berwenang,” demikian bunyi dokumen tersebut.
Selain menerapkan kode etik, Microsoft bersama dengan perusahaan teknologi lainnya seperti Anthropic, OpenAI, dan xAI menyampaikan akan memberi dukungan pada evaluator terintegrasi di laboratorium AI.
“Kami menyambut baik riset, fokus, dan pengaturan kecepatan yang cermat yang dibutuhkan untuk mencapai keselarasan yang tepat sebagai tujuan desain,” tulis CEO Microsoft Satya Nadella secara daring mengenai inisiatif itu. (Ant/H-4)