Peneliti Anthropic Mundur, Peringatkan AI Bisa Ancam Eksistensi Manusia

DIALEKSIS.COM | AS - Seorang peneliti kecerdasan buatan (AI), Jacob Coxon, mengundurkan diri dari Anthropic dan menuding perusahaan tersebut serta OpenAI tidak bertindak cukup bertanggung jawab dalam mengembangkan teknologi AI.

Coxon, yang sebelumnya bekerja di kedua perusahaan itu, menyampaikan pengunduran dirinya melalui unggahan di X. Ia mengaku khawatir pengembangan AI yang semakin cepat dapat membahayakan umat manusia.

Menurut Coxon, para pengembang AI menyadari teknologi tersebut berpotensi mencapai kemampuan yang melampaui manusia atau superhuman. Ia juga menyoroti risiko recursive self-improvement, ketika sistem AI mampu mengembangkan kemampuan atau penerusnya sendiri.

Kekhawatiran itu mendapat dukungan dari Evan Hubinger, pemimpin tim alignment Anthropic. Ia menyebut AI berpotensi memusnahkan umat manusia dan memperkirakan risikonya lebih dari 10 persen dalam satu dekade mendatang. Hubinger juga mengakui belum ada rencana yang dinilai memadai untuk mengatasi persoalan alignment pada superintelligence.

Kepala ilmuwan OpenAI Jakub Pachocki sebelumnya juga menyerukan perlambatan pengembangan AI hingga standar keselamatan bersama tersedia.

Perdebatan ini semakin menguat di tengah perlombaan perusahaan teknologi mengembangkan model AI canggih. Pemerintah AS dan anggota Kongres pun mulai mendorong regulasi untuk mengendalikan perkembangan AI sekaligus mengantisipasi risiko yang ditimbulkannya. [cnbc]