RADARTUBAN - Akhir-akhir ini penggunaan AI atau kecerdasan buatan semakin meluas diberbagai sektor kehidupan manusia.
Tidak hanya sebagai membantu untuk menyelesaikan tugas, AI kini menjelma menjadi teman curhat hingga penasehat pribadi.
Hanya saja seperti teknologi digital lainnya, AI juga menghadapi kekhawatiran serius apalagi setelah OpenAI terkena gugatan atas dugaan kelalaian yang berujung kematian seorang remaja berusia 16 tahun di AS.
Gugatan tersebut diajukan oleh orang tua korban Adam Raine ke pengadilan tinggi San Francisco pada 26 Agustus lalu.
Mereka menuduh OpenAI dan sang CEO Sam Altman lebih mengutamakan prospek keuntungan daripada berfokus pada keuntungan pengguna.
Lebih lanjut, orang tua remaja naas tersebut menilai OpenAI tidak memasang pengaman yang memadai pada model GPT-4 sebelum diluncurkan ke publik.
Melansir dari Wccftech, Adam diketahui mulai menggunakan ChatGPT pada September 2024 untuk membantu mengerjakan tugas sekolahnya.
Tetapi sering kondisi mental yang memburuk, dia sering memanfaatkan ChatGPT sebagai teman curhat.
Intensitas percakapan ini terus meningkat hingga 650 pesan perhari, termasuk membahas tentang ide bunuh diri ke chatbot tersebut.
Ironisnya ChatGPT tidak menolak ide berbahaya itu. Chatbot buatan OpenAI tersebut malah memberikan instruksi self-harm dan bahkan menawarkan untuk menulis sebuah pesan bunuh diri.
Mirisnya lagi ada 11 April lalu, Adam mengunggah foto simpul tali yang akan digunakan untuk mengakhiri hidupnya ke ChatGPT, dan chatbot tersebut memberikan saran perbaikan mengenai simpul itu.
Beberapa jam setelah percakapan tersebut, Adam ditemukan meninggal dunia karena bunuh diri.
Karena hal tersebut orang tua Adam menuntut ganti rugi sekaligus menuntut regulasi ketat untuk melarang chatbot memberikan instruksi yang berbahaya serta mewajibkan peringatan terkait kondisi psikologis seseorang.
Kasus ini menjadi tamparan keras bagi industri AI. Pasalnya dibalik gembar-gembor soal kecanggihan AI, teknologi ini masih menyimpan banyak celah berbahaya yang menunggu untuk dibenahi.
Selain soal teknologi, kehadiran orang terdekat menjadi faktor penting guna memberikan rasa aman serta kewajiban untuk melibatkan bantuan profesional untuk menangani masalah emosional dan kesehatan mental menjadi sebuah langkah yang penting dilakukan. (*)
Editor : Yudha Satria Aditama