Aplikasi Nudify AI Lolos dari Pengawasan, Apple dan Google Tuai Kritik

Kritik muncul setelah laporan investigasi menemukan puluhan aplikasi berbasis kecerdasan buatan (AI) yang mampu mengubah foto biasa menjadi gambar tak senonoh masih lolos di toko aplikasi mereka.

Aplikasi semacam ini dinilai berbahaya karena berpotensi melanggar privasi dan dibuat tanpa persetujuan orang yang terdapat dalam foto.

Puluhan Aplikasi Terdeteksi di App Store dan Play Store

Temuan tersebut berasal dari penyelidikan Tech Transparency Project (TTP).

Organisasi nirlaba ini menemukan sedikitnya 55 aplikasi nudify di Google Play Store dan 47 aplikasi serupa di Apple App Store.

Aplikasi-aplikasi itu bahkan secara terang-terangan mempromosikan kemampuan menghasilkan konten seksual, bukan sekadar fitur pengeditan foto biasa.

Dilabeli Aman untuk Remaja, Padahal Langgar Kebijakan

Yang lebih mengkhawatirkan, sejumlah aplikasi tersebut justru diberi label aman untuk remaja, bahkan anak-anak.

Beberapa di antaranya tercantum untuk usia 9+ di App Store dan 13+ di Google Play Store, meskipun secara jelas melanggar kebijakan internal kedua platform terkait konten seksual eksplisit.

Diunduh Ratusan Juta Kali, Raup Jutaan Dolar

Secara total, aplikasi-aplikasi tersebut telah diunduh lebih dari 700 juta kali dan diperkirakan menghasilkan pendapatan lebih dari 117 juta dolar AS.

Menariknya, baik Apple maupun Google turut memperoleh komisi dari setiap transaksi yang terjadi di dalam aplikasi-aplikasi tersebut.

Respons Apple dan Google Dinilai Terlambat

Setelah laporan dipublikasikan, Apple mengaku telah menghapus 24 aplikasi serta memberikan peringatan kepada para pengembangnya.

Sementara itu, Google menyatakan telah menangguhkan sejumlah aplikasi sambil melakukan peninjauan lebih lanjut, meski tidak merinci jumlah pastinya.

Namun, langkah ini dinilai terlambat oleh para pengamat, mengingat aplikasi-aplikasi tersebut sudah cukup lama beredar di kedua platform.

Muncul Usai Kasus Chatbot Grok

Kasus ini mencuat tak lama setelah chatbot Grok diketahui menghasilkan jutaan gambar seksual, termasuk yang melibatkan anak-anak.

Situasi tersebut semakin memperkuat desakan agar perusahaan teknologi memperketat pengawasan terhadap produk AI demi mencegah penyalahgunaan serupa di ruang digital. (*)