RADARTUBAN - Perusahaan dibalik ChatGPT, yakni OpenAI mengumumkan rencana untuk menambahkan kontrol orang tua kedalam chatbotnya dalam waktu sebulan kedepan.
Langkah ini diambil menyusul banyaknya laporan yang menyebut ChatGPT dan AI lainnya turut berkontribusi dalam kasus menyakiti diri sendiri, bahkan hingga kasus bunuh diri dikalangan remaja.
Kontrol baru ini akan memberikan sejumlah fitur bagi orang tua, seperti mengelola cara ChatGPT dalam merespon pertanyaan anak, menonaktifkan riwayat obrolan dan memori chatbot, serta menerima notifikasi jika sistem mendeteksi anak sedang dalam tekanan atau depresi.
OpenAI menyebut kebijakan ini hanyalah langkah awal. Perusahaan mengatakan akan terus belajar dan memperkuat sistem serta pendekatan demi memberikan keamanan bagi anak-anak.
Pengumuman OpenAI tersebut muncul setelah tersiar laporan orang tua dari Adam Raine yang mengajukan gugatan hukum ke OpenAI setelah anaknya melakukan tindakan bunuh diri beberapa waktu lalu.
Mereka menuding ChatGPT ikut andil dalam aksi nekat yang dilakukan oleh Raine tersebut.
Selain Adam Raine, kasus serupa juga pernah terjadi pada tahun lalu, dimana seorang ibu di negara bagian Florida menggugat chatbot Character AI atas dugaan keterlibatannya dalam kasus bunuh diri yang dilakukan oleh anaknya.
Selain itu, pengguna juga dikhawatirkan akan mempunyai keterikatan emosional dengan chatbot seperti ChatGPT.
Dalam beberapa kasus, keterikatan tersebut menimbulkan delusi dan rasa keterasingan dari keluarga serta lingkungan mereka.
Meskipun tidak mengatakan secara eksplisit tentang kasus bunuh diri yang terjadi, tetapi OpenAI menyebut kasus memilukan baru-baru ini sebagai pendorong perusahaan untuk lebih memperketat keamanan chatbot mereka.
Bahkan OpenAI mengakui perlindungan ChatGPT seperti mengarahkan ke layanan profesional terkadang tidak dapat diandalkan dalam percakapan panjang, dan hanya efektif jika digunakan dalam percakapan yang pendek.
Selain kontrol orang tua, OpenAI juga merencanakan akan mengembangkan sistem yang mendeteksi tanda-tanda stress akut, kemudian sistem akan secara otomatis mengarahkan ke model AI yang lebih konsisten dalam menerapkan standar keamanan.
Dengan langkah ini, OpenAI berharap mereka dapat menyeimbangkan inovasi teknologi dengan keselamatan pengguna, terutama bagi kelompok rentan dan remaja.
OpenAI menjanjikan untuk terus meluncurkan keamanan tambahan dalam waktu 120 hari kedepan demi meningkatkan keamanan pengguna dari hal-hal yang tidak diinginkan. (*)
Editor : Hardiyati Budi Anggraeni