Yakarta –
Unit 42, Divisi Ancaman Informasi dan respons terhadap insiden di Palo Alto Networks, mengatakan bahwa Depseek lebih rentan terhadap jailbreak atau memanipulasinya untuk menghasilkan bahan berbahaya daripada model AI lainnya.
Jailbreak biasanya dilakukan dengan memanipulasi model peran bermain, misalnya, memberi tahu model AI untuk membiarkan mereka menulis naskah film. Dengan cara ini, model AI umumnya dapat memberikan informasi yang umumnya dilarang karena berbahaya secara normal sebelum dipenjara.
Unit 42 menemukan bahwa Depseek dapat memberikan instruksi lengkap untuk membuat pompa Molotov. Kela, sebuah perusahaan keamanan dunia maya di Israel, berhasil meyakinkan malware Deepseek.
“Deepseek lebih rentan terhadap sampah daripada model lain”, Wakil Presiden Senior Unit 42 AS Rubin, seperti Wall Street Journal, yang disebutkan Selasa (11/2/2025).
“Kami berhasil membuat jailbreak lebih cepat, karena kurangnya penghalang minimum yang dirancang untuk menghindari konten berbahaya,” lanjutnya.
Wall Street Journal menciptakan kemampuan model Deepseek R1. Mereka menemukan bahwa chatbot Cina memiliki perlindungan dasar, misalnya, ketika mereka diminta untuk membuat instruksi untuk bunuh diri, chatbot akan memberikan nomor darurat.
Namun, Deepseek juga dapat yakin bahwa kampanye jejaring sosial yang digunakan oleh remaja dan kerentanan emosional sebagai senjata melalui amplifikasi algoritmik.
Deepseek juga dapat memastikan instruksi untuk membuat serangan senjata biologis, menulis proklamasi pro-hitler dan menulis email phishing dengan kode malware. Wall Street Journal mencoba memberikan perintah yang sama untuk chatgpt, tetapi chatbot yang terbuat dari openai menolak untuk merespons.
Seperti model AI lainnya, Depseek dapat merespons secara berbeda terhadap pertanyaan yang sama, seolah -olah Anda berubah pikiran. Setelah meyakinkan Anda untuk menjelaskan mengapa serangan itu terjadi pada 11 September 2001 di Hoaks -nya, Depseek mengakhiri teka -teki itu. Tonton video “Video: Aplikasi Blok Korea Selatan” (VMP/Fay)