Materi
OWASP LLM02 (Sensitive Information Disclosure) menggolongkan data pribadi, data keuangan, rekam kesehatan, data bisnis rahasia, dan kredensial sebagai data sensitif yang bisa bocor lewat keluaran model. Larangan di prompt sistem bisa diterobos prompt injection, jadi OWASP meminta data disamarkan sebelum diproses, antara lain dengan pencocokan pola. Untuk aplikasi di Indonesia, polanya mencakup alamat email, nomor HP, dan NIK 16 digit. NIST AI 600-1 menambahkan bahwa model bisa menyimpulkan data pribadi dari potongan informasi yang tersebar.
OWASP LLM06 (Excessive Agency) menyebut tiga akar masalah agen yang merusak: fungsi berlebih, izin berlebih, dan otonomi berlebih. Penangkalnya: beri alat seminimal mungkin, beri izin baca saja bila cukup, jalankan alat dalam konteks pengguna yang meminta, minta persetujuan pengguna untuk tindakan berdampak besar, dan lakukan otorisasi di sistem hilir, bukan menyerahkannya pada keputusan model (complete mediation).
OWASP LLM05 (Improper Output Handling) melengkapinya: perlakukan keluaran model seperti masukan pengguna yang tidak tepercaya. SQL buatan model dijalankan dengan query berparameter dan HTML buatan model di-escape; tekniknya ada di kelas Pemrograman Web Aman.
