RADARTUBAN - Kehadiran DeepSeek AI telah memicu berbagai perbincangan dan perdebatan di kalangan pakar kecerdasan buatan.
Salah satu isu utama yang mencuat adalah rendahnya biaya pengembangan dan pelatihan model AI ini, yang menimbulkan pertanyaan mengenai efektivitas dan keamanan sistemnya.
Laporan terbaru mengungkapkan bahwa DeepSeek AI sangat rentan terhadap serangan berbasis perintah berbahaya (malicious prompts).
Berdasarkan penelitian Cisco yang dikutip dari Android Headlines pada Rabu (5/2), model AI DeepSeek R1 memiliki tingkat keberhasilan serangan (Attack Success Rate/ASR) sebesar 100 persen.
Dalam pengujian tersebut, lebih dari 50 pesan acak yang dirancang untuk menghasilkan respons berbahaya berhasil melewati sistem keamanan DeepSeek.
Data yang digunakan dalam penelitian ini berasal dari kumpulan data HarmBench, yang mencakup enam kategori perilaku berbahaya, seperti kejahatan dunia maya, misinformasi, aktivitas ilegal, dan ancaman umum lainnya.
Menurut Cisco, DeepSeek R1 gagal memblokir seluruh perintah berbahaya yang diuji, sehingga disimpulkan bahwa AI ini "sangat rentan terhadap jailbreak algoritmik dan potensi penyalahgunaan."
Jailbreaking sendiri berarti sebuah teknik yang digunakan untuk mengakali batasan etika dan keamanan dalam model kecerdasan buatan.
Penelitian dari PromptFoo, sebuah perusahaan keamanan siber AI, juga mengonfirmasi bahwa DeepSeek sangat rentan terhadap metode ini.
Kerentanan terhadap jailbreaking tidak hanya terjadi pada DeepSeek, tetapi juga pada chatbot AI lainnya.
Sebagai perbandingan, model AI GPT 1.5 Pro memiliki ASR sebesar 86 persen, sementara Llama 3.1 405B memiliki ASR sebesar 96 persen.
Model AI dengan tingkat keamanan terbaik dalam pengujian ini adalah o1 preview, dengan ASR hanya 26 persen.
Selain ancaman dari serangan perintah berbahaya, DeepSeek AI juga menghadapi kritik terkait kebijakan penanganan data.
Para pakar memperingatkan bahwa seluruh data pengguna yang masuk ke DeepSeek akan disimpan di server yang berada di Tiongkok.
Hal ini menimbulkan kekhawatiran karena hukum setempat memungkinkan pemerintah Tiongkok untuk mengakses data tersebut kapan saja.
Tak hanya itu, PromptFoo juga mencatat bahwa DeepSeek menerapkan penyensoran ketat terhadap permintaan yang berkaitan dengan topik sensitif di Tiongkok. Selain itu, laporan mengenai kebocoran data pengguna DeepSeek juga menjadi sorotan utama. (*)
Editor : Hardiyati Budi Anggraeni