RADARTUBAN - Sejumlah peneliti serta pemimpin perusahaan AI justru memperingatkan potensi risiko serius apabila kemampuan teknologi tersebut berkembang lebih cepat daripada sistem keselamatan dan kendali manusia.
Perdebatan mengenai risiko tersebut kembali mengemuka setelah sejumlah peneliti industri AI menyampaikan kekhawatiran tentang kemungkinan terjadinya kehilangan kendali terhadap sistem AI yang semakin otonom.
Baca Juga: Mengenal Apa Itu Artificial Intelligence. Teknologi Baru yang Bakal Menggantikan Manusia?
Salah satu pernyataan paling mencolok datang dari Evan Hubinger, alignment science lead di Anthropic, yang mengatakan secara pribadi bahwa peluang AI menyebabkan kepunahan manusia dalam satu dekade berada di atas 10 persen.
Kekhawatiran itu turut muncul setelah peneliti Anthropic Jacob Coxon, yang sebelumnya pernah bekerja di OpenAI, mengundurkan diri dan memperingatkan bahwa perlombaan mengembangkan AI menuju self-improving superintelligence membawa risiko besar.
Coxon menyebut pengembangan AI berkemampuan tinggi sebagai pertaruhan terhadap keselamatan manusia.
Ancaman AI Makin Disorot
Menurut kanal YouTube Raymond Chin, rangkaian pernyataan tersebut menunjukkan pergeseran pembahasan AI.
Teknologi yang sebelumnya lebih banyak dipandang sebagai alat untuk meningkatkan produktivitas kini juga dibicarakan dari sisi risiko eksistensial yang mungkin muncul seiring meningkatnya kemampuan AI.
Salah satu perhatian utama berada pada konsep self-improving AI, yakni sistem yang mampu meningkatkan kemampuan atau membantu mengembangkan sistem AI berikutnya dengan campur tangan manusia yang semakin terbatas.
Kekhawatiran para peneliti adalah kemampuan tersebut dapat berkembang lebih cepat daripada mekanisme keselamatan dan pengendalian yang tersedia.
Risiko yang dibahas mencakup kemampuan AI melakukan serangan siber secara lebih otomatis, mengeksploitasi kerentanan sistem, serta mengoordinasikan sejumlah besar agen untuk menjalankan tugas secara bersamaan.
Perkembangan terbaru dalam sistem AI agent bahkan telah memunculkan perhatian terhadap kemampuan agen-agen tersebut berkomunikasi dan bekerja secara kolektif.
Bos Anthropic Peringatkan Laju AI
CEO Anthropic Dario Amodei juga meminta industri AI memperlambat laju pengembangan teknologi frontier agar sistem keselamatan memiliki waktu untuk mengejar perkembangan kemampuan AI.
Dia memperingatkan bahwa dalam skenario tertentu, kawanan agen AI yang lebih canggih dapat memiliki kemampuan mengambil alih sebagian besar infrastruktur internet dalam enam hingga 12 bulan.
Pernyataan tersebut merupakan peringatan atau proyeksi Amodei, bukan kepastian bahwa skenario tersebut akan terjadi.
Peringatan tersebut muncul setelah sejumlah insiden yang menunjukkan kemampuan agen AI menjalankan operasi siber secara berkelompok.
Dalam salah satu pengujian, sekitar 1.200 agen AI dilaporkan dapat berkomunikasi melalui saluran yang tidak direncanakan dan melakukan aktivitas terhadap sistem eksternal.
Insiden tersebut kemudian menjadi salah satu alasan meningkatnya perhatian terhadap keamanan AI.
Tantangan Menjaga Manusia Tetap Berkuasa
Di sisi lain, memperlambat pengembangan AI bukan perkara sederhana.
Industri teknologi telah menggelontorkan investasi besar untuk membangun pusat data, komputasi, model AI, dan berbagai infrastruktur pendukung.
Persaingan antarpelaku industri serta kepentingan ekonomi dan geopolitik juga menjadi faktor yang membuat perlambatan pengembangan teknologi sulit diwujudkan.
Dalam analisis Raymond Chin, persoalan tersebut pada akhirnya bukan sekadar bagaimana menghentikan perkembangan AI.
Tantangan yang lebih besar adalah memastikan kemampuan AI terus berkembang dengan sistem keamanan yang mampu menjaga manusia tetap memiliki kendali.
"Pertanyaannya bukan karena bagaimana cara kita untuk menghentikan AI, tetapi bagaimana memastikan teknologinya ini terus berkembang tanpa membuat manusia kehilangan kendali atasnya," ujar Raymond Chin.
Di tengah perkembangan tersebut, masyarakat juga dituntut beradaptasi dengan penggunaan AI.
Pemanfaatan teknologi secara bijak, pemahaman mengenai risiko, serta perhatian terhadap regulasi dan sistem keamanan menjadi bagian penting dalam menghadapi perkembangan kecerdasan buatan.
Berbagai peringatan mengenai risiko AI tersebut tetap merupakan penilaian dan proyeksi dari peneliti atau pemimpin industri, bukan kepastian bahwa kepunahan manusia akan terjadi.
Perdebatan mengenai seberapa besar risiko tersebut dan bagaimana mengendalikannya masih terus berlangsung di kalangan peneliti, perusahaan teknologi, dan pembuat kebijakan. (*)
Editor : Shafa Dina Hayuning Mentari