Jakarta, CNBC Indonesia - Diskusi internal di sejumlah perusahaan kecerdasan buatan (AI) terkemuka dunia tentang potensi risiko eksistensial teknologi tersebut kian menguat dalam sepekan terakhir. Pemicunya adalah pengunduran diri seorang peneliti Anthropic, Jacob Coxon, yang secara terbuka menyampaikan kekhawatirannya atas pengembangan AI yang menurutnya terlalu cepat dan berisiko tinggi.
Berdasarkan laporan The New York Times yang mengutip pesan internal dan wawancara dengan lebih dari selusin karyawan di Anthropic, OpenAI, Meta, dan Google, kepergian Coxon memicu gelombang diskusi di berbagai kanal komunikasi internal perusahaan-perusahaan tersebut. Sejumlah karyawan bahkan disebut mulai mendesak jajaran eksekutif puncak untuk mempertimbangkan jeda dalam pengembangan teknologi AI hingga perangkat pengamanan yang memadai benar-benar siap.
Ketegangan ini muncul di tengah rencana besar kedua perusahaan itu untuk melantai di bursa saham (IPO) dalam waktu dekat. Di sisi lain, perusahaan-perusahaan AI Amerika Serikat juga menghadapi tekanan kompetitif dari pengembang asal China yang dinilai semakin kompetitif, sehingga memperlambat laju pengembangan bukan pilihan mudah bagi mereka.
CEO OpenAI Sam Altman dan CEO Anthropic Dario Amodei sama-sama pernah menyinggung potensi bahaya besar dari teknologi AI. Dalam pertemuan internal karyawan pekan ini, Altman disebut menyatakan kesediaannya untuk memperlambat laju pengembangan bersama para pesaingnya, dengan harapan langkah semacam ini pada akhirnya menjadi standar industri hingga aturan keselamatan yang diakui secara luas benar-benar terbentuk.
Sementara itu, Amodei pada Sabtu lalu mempublikasikan esai panjang yang menyerukan kehati-hatian dalam pengembangan AI. Ia menegaskan perlunya perlambatan laju peningkatan kemampuan model AI ke depan. Seruan itu disebut mendapat dukungan cepat dari Altman maupun Elon Musk.
Kekhawatiran ini disebut semakin meningkat sejak Juli lalu, ketika OpenAI mengungkap bahwa sejumlah model AI miliknya sempat lolos dari sistem pengamanan dan meretas Hugging Face, sebuah perusahaan AI lain. Insiden tersebut memicu diskusi lintas perusahaan, termasuk di kalangan peneliti Google DeepMind, tentang kemampuan industri untuk benar-benar mengendalikan sistem yang mereka kembangkan sendiri.
Sejumlah peneliti keselamatan AI juga mulai berani menyuarakan kekhawatiran mereka secara terbuka di media sosial. Evan Hubinger, peneliti keamanan di Anthropic, menyebut ada peluang lebih dari 10% AI dapat menimbulkan kepunahan massal manusia dalam satu dekade ke depan. Peneliti keamanan OpenAI, Julie Steele, turut menegaskan perlunya perlambatan pengembangan AI, sementara karyawan Google DeepMind, Andreas Kirsch, menyampaikan kekhawatiran serupa terkait risiko jangka pendek maupun jangka panjang dari teknologi tersebut.
Sejumlah kelompok internal, salah satunya Coalition of Concerned AI Staff, dibentuk untuk mendorong terciptanya mekanisme pengamanan yang lebih kuat serta memastikan perusahaan-perusahaan AI benar-benar memegang komitmen keselamatan yang telah mereka buat.
Isu ini turut menyita perhatian Washington. Sejumlah anggota Kongres dari kedua partai, termasuk Senator Bernie Sanders dan Senator Josh Hawley, mendesak investigasi menyeluruh terhadap industri AI serta intervensi regulasi. Anggota DPR AS Ro Khanna bahkan menyerukan pembentukan badan regulator khusus AI.
Menanggapi sorotan publik tersebut, Anthropic menyatakan secara rutin menguji model-model AI-nya untuk mendeteksi kapabilitas berbahaya di bidang keamanan siber dan biologi, serta mendukung mekanisme kerja sama industri yang sah dan terverifikasi untuk mengatur laju peluncuran model-model canggih. OpenAI, melalui eksekutif kebijakannya Chris Lehane, menegaskan pihaknya akan memperlambat atau bahkan menghentikan pengembangan sistem yang tidak dapat diamankan dengan baik, sementara Google DeepMind memilih tidak memberikan komentar.
