KANALEKONOMI.ID — Sejumlah pekerja industri kecerdasan buatan menyuarakan kekhawatiran bahwa teknologi yang mereka kembangkan bisa memicu kepunahan umat manusia. Kekhawatiran ini mencuat setelah Jacob Coxon, karyawan Anthropic, mengundurkan diri lewat cuitan di X karena menilai pekerjaannya terlalu berbahaya. Diskusi soal skenario terburuk AI pun kembali menghangat di kalangan peneliti dan publik.
Diskusi soal skenario terburuk AI pun kembali menghangat di kalangan peneliti dan publik. Sebagian pakar menilai risiko itu nyata, sebagian lain meragukan karena detail prediksinya dinilai masih minim.
Peluang Kepunahan di Atas 10 Persen
Evan Hubinger, karyawan Anthropic lainnya, merespons cuitan Coxon dengan memperkirakan peluang kepunahan manusia akibat AI dalam 10 tahun ke depan berada di atas 10 persen. Angka itu ia sampaikan langsung di platform yang sama.
Nate Soares, Presiden Machine Intelligence Research Institute (MIRI), menyatakan perkembangan AI di luar kendali benar-benar bisa membunuh manusia. Menurutnya, skenario terburuk itu bukan sekadar wacana teoretis.
"Ini benar-benar tentang kematian seluruh orang di planet ini, seperti manusia terakhir yang menghembuskan napas terakhirnya," kata Nate, melansir CNN, Kamis (17/9).
"Orang-orang sering tidak percaya ketika hal ini diucapkan, tetapi saya memang berpikir itu adalah kemungkinan hasil yang paling besar," lanjut dia.
Virus Mematikan dan Robot Otonom
Salah satu spekulasi yang beredar adalah sistem AI yang cukup kuat dapat memakai senjata biologis untuk melenyapkan manusia. Thomas Larsen, peneliti di AI Futures Project dan mantan karyawan MIRI, menilai AI supercerdas berpotensi membujuk manusia membantu mengembangkan virus mematikan.
"Sudah ada banyak manusia yang berbicara dengan AI mereka tentang eksperimen apa yang harus mereka jalankan di laboratorium," kata Larsen.
"Sangat mudah bagi saya untuk membayangkan AI yang ada saat ini, jika ia jauh lebih cerdas, strategis, dan memang ingin melakukan ini, menipu manusia untuk membuat dan menyebarkannya," jelas dia menambahkan.
Kendati begitu, mengembangkan virus yang mampu memusnahkan manusia butuh lebih dari sekadar meminta Large Language Model (LLM) merancang desain yang mematikan. Bahkan jika risetnya dilakukan dengan benar, proses pembuatan dan penyebarannya sangat rumit dan sensitif.
Eric Xing, profesor machine learning di Carnegie Mellon University, membandingkan tantangan virologi jahat berbasis otomatisasi ini seperti merakit Lego tanpa petunjuk.
"Ini tidak seperti Anda melempar semua potongan, lalu semuanya otomatis terpasang membentuk model," kata Xing.
"Ada urutan, suhu, penataan, lingkungan, bagian mana yang harus pertama dirakit, mana berikutnya, dan jika satu potongan salah tempat, seluruhnya gagal. Kemungkinan besarnya adalah hal itu tidak akan berhasil, jika tidak, merancang obat tentu sudah sangat mudah," lanjut dia.
Ambisi Robot Otonom Jadi Titik Lemah
Skenario lain yang dibahas adalah manusia dibasmi oleh robot yang ditenagai AI. Soares melihat keinginan Elon Musk membangun pasukan robot otonom yang dapat mereplikasi dirinya sendiri sebagai potensi titik lemah bagi kelangsungan hidup manusia.
"Setelah Anda menciptakan robot yang dapat membuat infrastruktur energi dan pabrik untuk memproduksi lebih banyak robot, dalam arti tertentu itu adalah bentuk kehidupan mekanis baru," kata dia.
"Pada titik tertentu Anda secara diam-diam melewati batas yang tidak bisa kembali lagi. Di mana jika manusia mengatakan ingin mematikan AI, AI dapat berkata, 'Sebenarnya kami memutuskan untuk mematikan manusia.' Anda harus berhenti sebelum itu terjadi," lanjut dia.
Sejauh ini, Musk berulang kali gagal menghadirkan robot Optimus yang dijanjikannya ke pasar konsumen sesuai jadwal. Target menyebarkan jutaan robot atau membuat mereka merakit satu sama lain dalam rantai manufaktur mandiri masih jauh dari kenyataan.
Mengapa Perdebatan Ini Penting
Perdebatan soal risiko kepunahan akibat AI bukan hal baru, tetapi pengunduran diri Coxon dari Anthropic memberi wajah konkret pada kekhawatiran itu. Publik kini melihat langsung bahwa sebagian pekerja di dalam perusahaan AI sendiri merasa tidak aman dengan arah teknologi yang mereka bangun.
Bagi pelaku bisnis digital dan investor di Indonesia, isu ini menyentuh dua hal sekaligus. Regulasi AI yang tengah disiapkan pemerintah perlu mempertimbangkan aspek keselamatan jangka panjang, bukan hanya soal etika dan perlindungan data.
Sementara itu, klaim peluang kepunahan di atas 10 persen tetap sulit diverifikasi karena metodologi prediksinya jarang dipublikasikan secara terbuka. Perdebatan antara kubu yang meyakini risiko eksistensial dan kubu yang menilai skenario itu terlalu jauh kemungkinan masih akan berlanjut.
