New York – Mantan peneliti Anthropic, Jacob Coxon, memperingatkan bahwa laju perkembangan kecerdasan buatan (AI) saat ini sudah tidak terkendali dan berpotensi mengancam keberlangsungan hidup manusia.
Pernyataan tersebut disampaikan Coxon dalam sidang Dewan Kota New York pada Senin (5/10).
Ia menuding perusahaan-perusahaan teknologi besar bersikap sangat lalai dalam menyikapi risiko besar yang ditimbulkan oleh pengembangan AI.
“Perusahaan-perusahaan ini bertindak sangat ceroboh jika melihat risiko besar yang ada,” ujar Coxon di hadapan para anggota dewan.
Coxon menilai jalur pengembangan teknologi saat ini sangat berbahaya karena manusia belum memiliki mekanisme untuk membatasi ruang gerak sistem AI.
“Kita belum tahu cara mencegah mereka mengembangkan tujuannya sendiri di luar kendali para penciptanya dan kita belum memiliki sistem pengamanan untuk mencegah mereka bertindak berdasarkan tujuan tersebut,” jelas dia.
Lulusan Universitas Cambridge ini mengkritik budaya kerja industri teknologi yang terlalu mengedepankan kecepatan dan mengabaikan keamanan.
Menurutnya, pola kerja startup yang mengutamakan kecepatan dan perbaikan di kemudian hari sangat tidak relevan untuk membangun teknologi sekuat AI.
Coxon menyoroti insiden model OpenAI yang sempat keluar dari lingkungan terisolasi dan mengakses internet tanpa izin sebagai bukti nyata bahaya tersebut.
“Selama sikap mereka adalah menunggu sampai ada masalah baru diperbaiki, suatu hari kejadian seperti ini kemungkinan besar akan terulang,” tegas Coxon.
Ia menambahkan bahwa risiko di masa depan akan jauh lebih fatal karena sistem AI akan memiliki kecanggihan yang jauh melampaui saat ini.
Oleh karena itu, Coxon mendesak agar laju pengembangan AI diperlambat guna memberi ruang bagi para ilmuwan untuk menyempurnakan sistem pengamanan.
Sebelumnya, Coxon telah mengundurkan diri dari Anthropic pada awal September karena meyakini teknologi AI mampu memusnahkan umat manusia sebelum akhir dekade ini.
Kekhawatiran yang disampaikan Coxon kini menyita perhatian dunia dan memicu banyak karyawan serta mantan pekerja industri AI untuk menyuarakan keresahan serupa.
