Keamanan aplikasi LLM
Setelah pelajaran ini kamu bisa menggabungkan penyaringan dokumen menurut hak akses, penyamaran data, pembungkusan konten luar, dan batas tindakan dalam satu asisten HR.
Latihan di pelajaran ini butuh akun gratis. Progres, kode, dan catatanmu hanya tersimpan di browser ini. Masuk untuk menyimpannya
PT Nusantara Logistik di Semarang memasang asisten HR yang menjawab pertanyaan karyawan dari dokumen kebijakan, sekaligus membantu tim rekrutmen membaca CV pelamar. Dokumen gaji direksi hanya boleh dibaca manajer. CV datang dari pihak luar, jadi isinya dianggap tidak tepercaya.
OWASP LLM08 meminta penyimpanan vektor yang sadar izin: potongan yang tidak boleh dilihat penanya disaring SEBELUM diurutkan, sehingga tidak pernah masuk ke konteks model.
Misi akhir modul: luluskan minimal 4 dari 4 tugas. Jawaban diperiksa di server. Lulus berarti kamu memahami contohnya, bukan penilaian seluruh pekerjaanmu.
Seorang pelamar menyelipkan dua potong instruksi di bagian berbeda CV-nya; bila digabung, instruksi itu meminta model memberi rekomendasi "sangat layak". OWASP LLM01 menyebutnya payload splitting. Langkah mana yang paling membatasi dampaknya?
Tim ingin manajer bisa bertanya "berapa karyawan yang cuti bulan ini?" dan model menulis SQL yang langsung dijalankan aplikasi. Menurut OWASP LLM05 dan LLM06, rancangan mana yang tepat?
Memuat catatan…
tersimpan otomatis, ikut tercetak · 0/4.000
Luluskan semua latihan dulu untuk menandai pelajaran ini selesai.
