Jakarta – OpenAI resmi mengumumkan penerapan teknologi tanda air atau watermark tak terlihat pada teks yang dihasilkan oleh chatbot ChatGPT dan model Codex.
Langkah ini dilakukan perusahaan untuk mematuhi regulasi Undang-Undang AI Uni Eropa yang mewajibkan transparansi konten buatan kecerdasan buatan.
Teknologi bernama textGrain tersebut bekerja dengan menyisipkan sinyal statistik pada pola pemilihan kata dan struktur kalimat yang dihasilkan AI.
“Teknologi penanda air teks kami, textGrain, menambahkan sinyal statistik tak terlihat pada pilihan kata model,” tulis OpenAI dalam keterangan resminya pada Senin (5/10).
Pihak perusahaan menyatakan bahwa detektor mereka akan mencari sinyal tersebut untuk memverifikasi apakah suatu teks berasal dari sistem OpenAI.
OpenAI mengeklaim performa deteksi textGrain mampu menyamai atau bahkan melampaui kemampuan detektor lain seperti SynthID milik Google DeepMind.
Meski demikian, perusahaan mengakui bahwa teknologi ini masih memiliki keterbatasan teknis dalam penggunaan sehari-hari.
Sistem sering kali gagal mendeteksi tanda air jika teks yang dihasilkan terlalu pendek atau telah mengalami penyuntingan oleh pengguna.
Kesalahan deteksi juga kerap terjadi dalam bentuk pelaporan positif palsu atau sebaliknya melewatkan teks yang sebenarnya mengandung tanda air.
Hasil pengujian menunjukkan bahwa penggantian sekitar 25 persen kata dalam sebuah teks dapat menurunkan akurasi deteksi secara signifikan hingga tersisa 17 persen.
Meskipun terdapat penambahan sinyal, OpenAI menegaskan bahwa teknologi ini tidak akan mengganggu kualitas, akurasi, maupun kinerja jawaban yang diberikan AI.
Adanya tanda air ini bertujuan membantu akademisi dan organisasi ahli dalam mengidentifikasi orisinalitas teks untuk keperluan penegakan hukum.
Penerapan fitur ini akan dimulai dalam beberapa minggu mendatang khusus untuk pengguna ChatGPT dan Codex di wilayah Uni Eropa.
Sementara itu, pelanggan Application Programming Interface (API) sudah bisa mendapatkan opsi penambahan tanda air tersebut secara global.
OpenAI memilih membatasi akses awal fitur ini karena masih mempertimbangkan kelemahan yang ditemukan selama tahap pengujian.
“Keterbatasan ini berkontribusi pada keputusan kami untuk hanya memberikan akses awal ke detektor kepada peneliti dan organisasi ahli yang disetujui, yang dapat membantu kami mengevaluasi keandalan dan penggunaan yang bertanggung jawab,” jelas perusahaan.
Ke depannya, OpenAI berkomitmen untuk terus meningkatkan fungsi tanda air serta kemampuan deteksi agar menjadi lebih akurat.
