RADARTUBAN - Pemerintah Tiongkok dikabarkan mulai menyiapkan pagar hukum baru untuk layanan AI yang dirancang menyerupai interaksi dengan manusia.
Badan pengawas dunia maya setempat merilis draf peraturan yang kini dibuka untuk menjaring komentar publik.
Draf ini sekaligus sebagai respons pemerintah Tiongkok atas pesatnya perkembangan AI dengan kemampuan interaksi emosional.
Aturan ini menargetkan layanan AI yang mampu menirukan kepribadian manusia, pola pikir, gaya komunikasi, serta cara interaksi dengan pengguna melalui teks, gambar, audio, hingga video.
Pendekatan ini akan bersifat bertingkat, dengan pengawasan yang disesuaikan berdasarkan tingkat risiko yang ada.
Kendati begitu, pemerintah Tiongkok akan tetap memberi ruang bagi inovasi teknologi AI untuk terus berkembang.
Dalam draf tersebut, regulator menekankan larangan tegas terhadap konten yang dinilai berbahaya.
Konten berbahaya ini termasuk ancaman terhadap keamanan nasional, penyebaran rumor palsu, hingga materi yang memuat hal pornografi, perjudian, dan kekerasan.
Lebih lanjut, konten yang mempromosikan bunuh diri, melukai diri sendiri, atau memanipulasi emosi pengguna juga masuk dalam daftar yang dilarang.
Selain pada konten, perhatian besar juga diberikan diranah psikologis. Penyedia layanan AI kini diwajibkan memberi tahu secara jelas bahwa pengguna sedang berinteraksi dengan AI, bukan manusia.
Penyedia layanan juga diminta memberikan pengingatan melalui pop-up, jika pengguna terdeteksi menggunakan AI secara berlebihan atau adanya tanda-tanda ketergantungan emosional.
Regulator menilai, AI antropomorfik membawa risiko baru yang lebih halus dibanding teknologi sebelumnya.
Interaksi yang terasa personal disebut dapat berpengaruh terhadap kesehatan mental, melanggar hak pengguna, hingga mampu mengaburkan batas antara manusia dan mesin jika tidak dikelola dengan baik.
Melalui aturan ini, Tiongkok mendorong penyedia layanan AI akan untuk bertanggung jawab atas keselamatan produk sepanjang siklus hidupnya.
Selain itu, tanggung jawab ini juga meliputi peninjauan algoritma, keamanan data, serta perlindungan informasi pribadi.
Jika pengguna menunjukkan emosi ekstrem atau perilaku adiktif, perusahaan diwajibkan melakukan intervensi untuk mencegah hal-hal yang tidak diinginkan.
Langkah ini mencerminkan upaya Beijing untuk menyeimbangkan percepatan inovasi AI dengan standar keselamatan, etika, dan keberlanjutan.
Aturan tersebut menjadi fondasi utama bagi perkembangan AI yang lebih aman di dalam negeri, sekaligus memberi rujukan bagi tata kelola AI secara global. (*)
Editor : Hardiyati Budi Anggraeni