RADARTUBAN - Setelah Twitter diakusisi oleh Elon Musk dan berganti nama menjadi X pada November 2022 lalu, sentimen negatif terhadap platform tersebut terus meningkat.
Desember lalu, X mendapatkan banyak sorotan karena fitur edit foto berbasis AI dinilai merugikan illustrator yang mengakibatkan banyaknya pekerja kreatif hengkang ke platform lain.
Ternyata masalah tersebut tak berhenti sampai di sana.
Pasalnya, platform X kini mendapatkan lebih banyak sorotan internasional setelah Grok dilaporkan mampu menghasilkan dan memodifikasi foto perempuan serta anak-anak menjadi konten bernuansa seksual.
Dalam pantauan di lapangan, sejumlah pengguna X yang tidak bertanggung jawab meminta Grok untuk memanipulasi foto termasuk melucuti pakaian seseorang secara digital tanpa persetujuan.
Gambar hasil generate AI tersebut kemudian tersebar luas di platform X dan memicu kekhawatiran akan potensi pelanggaran hukum, terutama terkait pelecehan seksual terhadap anak.
Pada 28 Desember lalu, Grok sempat meminta maaf atas insiden yang terjadi. Chatbot AI itu mengakui bahwa dia telah menghasilkan gambar AI dari dua anak perempuan yang berusia 12 hingga 16 dengan nuansa seksual.
Lebih lanjut, Grok menyebut tindakan tersebut melanggar standar etika dan berpotensi juga terjerat hukum terkait materi pelecehan seksual anak.
Kendati begitu, pernyataan tersebut dinilai bukan sikap resmi perusahaan. Hingga kini, xAI sebagai pengembang Grok belum memberikan penjelasan terbuka terkait hal ini.
Selain itu, platform X juga dinilai tidak tegas dalam menindak praktik ini, mengingat masih banyaknya orang tak bertanggungjawab yang memanfaatkan lemahnya keamanan Grok AI.
Bahkan kasus ini telah menarik perhatian regulator Internasional. Pemerintah Prancis dan India menyatakan akan menyelidiki dugaan kegagalan X dalam mencegah penyalahgunaan teknologi AI.
Otoritas menilai konten seksual apalagi yang melibatkan anak-anak merupakan pelanggaran serius dan menuntut pertanggungjawaban dari platform yang bersangkutan. Maraknya penyalahgunaan ini menambah daftar panjang kekhawatiran global terkait adanya teknologi AI generatif. (*)
Editor : Yudha Satria Aditama