RADARTUBAN - OpenAI baru-baru ini resmi memperluas keamanan ChatGPT untuk pengguna muda dengan meluncurkan sistem prediksi usia.
Langkah ini meniru pendekatan YouTube yang telah menindak akun tanpa verifikasi usia demi melindungi anak di bawah umur.
Sistem ini sebenarnya telah diumumkan OpenAI sejak September tahun lalu. Tetapi baru sekarang perusahaan merilisnya ke akun konsumen.
Cara kerja sistem ini cukup sederhana dimana alogaritma akan menebak usia pengguna dan mengelompokkannya ke dalam dua kategori yakni di atas 18 tahun dan di bawah 18 tahun.
OpenAI mengandalkan sejumlah "sinyal" untuk menentukan usia pengguna seperti usia akun, pola aktivitas harian, kebiasaan pengguna, hingga usia pengguna yang pernah disebutkan.
Jika akun terdeteksi milik pengguna di bawah usia 18 tahun, sistem akan otomatis mengaktifkan perlindungan tambahan.
Perlindungan tersebut akan mencakup pembatasan konten sensitif mulai dari materi seksual, kekerasan, tantangan viral yang berisiko, hingga pembahasan yang menyakiti diri sendiri.
Orang tua juga diberikan opsi untuk mengatur jam tenang agar anak tidak bebas mengakses ChatGPT kapan saja.
Hanya saja, OpenAI mengakui sistem buatannya tidak sepenuhnya selalu benar. Jika usia pengguna tidak dapat dipastikan, sistem akan secara default mengkategorikan pengguna sebagai di bawah umur.
Sedangkan bagi pengguna yang merasa sistem ini keliru saat menebak umur, mereka diharuskan untuk melakukan verifikasi manual dengan mengirimkan foto selfi ke layanan Persona sebagai mitra resmi OpenAI.
Peluncuran fitur ini tidak lepas dari meningkatnya sorotan terhadap dampak AI khususnya bagi anak-anak.
Meskipun belum sempurna, langkah ini dapat menjadi indikasi serius bahwa OpenAI terus menyeimbangkan inovasi dengan perlindungan ke pengguna mudanya. (*)
Editor : Hardiyati Budi Anggraeni