Materi
NIST AI 600-1 memakai istilah konfabulasi untuk yang sehari-hari disebut halusinasi: sistem AI generatif menghasilkan dan menyajikan dengan yakin isi yang keliru atau salah. Definisinya juga mencakup keluaran yang menyimpang dari prompt atau masukan, dan keluaran yang bertentangan dengan pernyataan model sebelumnya dalam konteks yang sama. NIST mencatat model bisa mengarang logika atau sitasi yang tampak membenarkan jawabannya, termasuk langkah penalaran untuk jawaban yang salah.
Halaman Reduce hallucinations dari Anthropic memberi teknik dasar. Pertama, izinkan model menjawab "tidak tahu". Kedua, untuk dokumen panjang, minta kutipan kata demi kata lebih dulu, lalu kerjakan tugas hanya dari kutipan itu. Ketiga, minta sitasi untuk tiap klaim, lalu minta model mencari kutipan pendukung dan mencabut klaim yang tidak punya kutipan. Teknik lanjutannya: minta langkah penalaran sebelum jawaban akhir supaya asumsi yang keliru terlihat, jalankan prompt yang sama beberapa kali dan bandingkan hasilnya (jawaban yang tidak konsisten bisa menandakan halusinasi), dan batasi model hanya pada dokumen yang diberikan. Halaman itu menutup dengan peringatan: teknik ini mengurangi, tidak menghapus halusinasi, jadi informasi penting tetap diperiksa.
Jawab hanya dari <laporan> di atas. Untuk tiap angka yang kamu sebut, kutip kalimat laporannya. Kalau laporan tidak memuat jawabannya, tulis: "Tidak ada di laporan."
