RADARTUBAN - Laporan terbaru mengungkap praktik mengejutkan di balik toko aplikasi milik Apple dan Google.
Meski keduanya memiliki aturan ketat terhadap konten pornografi, aplikasi berbasis AI yang mampu menanggalkan pakaian seseorang secara digital ternyata masih beredar luas bahkan dipromosikan.
Temuan ini datang dari Tech Transparency Project (TTP) yang menyoroti bagaimana aplikasi “nudify” tetap mudah ditemukan.
Dengan kata kunci seperti “telanjang” atau “melepas pakaian”, pengguna bisa mengakses aplikasi yang dapat memanipulasi foto orang nyata menjadi konten seksual atau deepfake.
Baca Juga: Lawan Kompetitor, Google Chrome Tambahkan Fitur Skills AI untuk Percepat Alur Kerja di Desktop
Tak hanya tersedia, beberapa aplikasi tersebut bahkan juga diberi label “E untuk Semua Orang”, yang berarti bisa diunduh oleh anak-anak.
TTP mencatat ada 18 aplikasi serupa di App Store dan 20 di Google Play. Secara keseluruhan, aplikasi ini telah diunduh hingga 483 juta kali dan menghasilkan pendapatan sekitar 122 juta dolar AS.
Direktur TTP, Katie Paul, menilai platform tidak sekadar lalai. Dia menyebut Apple dan Google justru turut berperan dalam penyebaran, termasuk melalui iklan dan sistem pencarian yang mengarahkan pengguna ke aplikasi tersebut.
Menanggapi laporan ini, Apple mengaku telah menghapus 15 aplikasi, sementara Google menyatakan sejumlah aplikasi telah ditangguhkan dan proses investigasi masih berlangsung.
Meski begitu, peneliti menilai penegakan aturan masih belum konsisten.
Fenomena ini turut memicu kekhawatiran global. Sejumlah pemerintah mulai mendorong regulasi untuk membatasi penyebaran konten deepfake seksual, terutama yang berpotensi merugikan individu tanpa persetujuan.
Kasus ini kembali menyoroti tantangan besar dalam pengawasan teknologi AI, terutama ketika inovasi berkembang lebih cepat dibanding regulasi yang mengaturnya. (*)
Editor : Hardiyati Budi Anggraeni