Palo Alto Networks merilis hasil penelitian yang mengungkap platform chatbot AI DeepSeek sangat rentan terhadap ancaman jailbreaking dan dapat menghasilkan konten jahat dengan mudah.

Peneliti di Unit 42, divisi khusus penelitian di Palo Alto Networks, menemukan dua teknik jailbreaking terbaru: Deceptive Delight dan Bad Likert Judge.

"Penting bagi perusahaan untuk mempertimbangkan hal ini saat mengembangkan LLM open source ke dalam proses bisnis. Kita harus berasumsi bahwa pagar pengaman LLM dapat ditembus sehingga pengamanan pada tingkat organisasi diperlukan,” ucap Philippa Cogswell, Vice President & Managing Partner, Unit 42-Asia Pacific & Japan, dalam siaran pers pada Kamis (6/2/2025).

Metode jailbreak dapat memunculkan panduan gamblang pada aktivitas siber jahat dan turut mempercepat operasinya secara signifikan.

Bahkan aktivitas siber jahat ini meliputi pembuatan keylogger — perangkat lunak atau perangkat keras yang dirancang untuk merekam penekanan tombol pada komputer atau device — serta pencurian dan penggelapan data, yang memaparkan risiko keamanan bagi bisnis. (*)