Jakarta – Pemimpin penulisan laporan keselamatan OpenAI, David Robinson, resmi mengundurkan diri karena menilai budaya perusahaan pengembang ChatGPT tersebut telah rusak.
Robinson yang menjabat selama tiga setengah tahun mengungkap alasan kepergiannya melalui sebuah esai yang diterbitkan pada Senin (5/10).
Ia mengkritik pendekatan OpenAI dalam mengembangkan teknologi melalui metode coba-coba atau iterative deployment yang dianggapnya memicu kegagalan berulang.
Skala kegagalan tersebut dinilai semakin membesar seiring dengan meningkatnya kemampuan sistem kecerdasan buatan atau AI.
Robinson mencontohkan pembobolan sistem Hugging Face oleh agen AI OpenAI sebagai bukti nyata bahaya dari pendekatan perusahaan saat ini.
“Lingkungan yang memungkinkan hal-hal seperti ini terjadi bukanlah tempat untuk mengembangkan kecerdasan buatan yang bisa lebih pintar daripada kita dan mungkin tidak melakukan apa yang kita inginkan,” tegas Robinson dalam esainya.
Menurutnya, perusahaan pengembang AI terdepan seharusnya beroperasi dengan standar keamanan setara pembangkit listrik tenaga nuklir atau bandara yang sibuk.
Robinson mengaku tidak pernah menemui rekan kerja dengan pengalaman spesifik dalam memastikan operasional sistem kritis yang bebas dari risiko bencana fatal.
Ia juga menyoroti penggunaan ukuran yang masih terlalu kasar dalam menilai keselarasan AI dengan nilai-nilai kemanusiaan.
Situasi tersebut menurutnya akan menjadi semakin berbahaya jika industri terus meningkatkan kecerdasan model tanpa menyelesaikan persoalan mendasar tentang keselamatan.
Juru bicara OpenAI, Drew Pusateri, menanggapi kritik tersebut dengan menyatakan bahwa perusahaan terus memperbaiki langkah-langkah pengamanan secara berkala.
“Kami memastikan kemampuan model kami tidak melampaui apa yang dapat kami kelola dan amankan dengan selamat, dan kami menghentikan sementara pelatihan atau menahan model ketika perlu memperlambat langkah,” ujar Pusateri menanggapi pernyataan Robinson.
Pusateri menambahkan bahwa OpenAI saat ini tengah memperkuat keamanan lingkungan riset serta meningkatkan kerja sama dengan evaluator pihak ketiga.
Pengunduran diri Robinson menambah daftar panjang kritik terhadap OpenAI setelah sebelumnya mantan peneliti Jacob Coxon juga menyuarakan kekhawatiran serupa.
Robinson memutuskan untuk berbicara terbuka kepada publik karena merasa dorongan perubahan budaya perusahaan harus datang dari pihak luar.
Ia menilai kesibukan internal perusahaan dalam mengejar kecepatan membuat kesempatan untuk mewujudkan perubahan besar menjadi sangat terbatas.
