Model bahasa memprediksi token berikutnya

Glosarium Anthropic mendefinisikan model bahasa besar (LLM) sebagai model bahasa dengan sangat banyak parameter yang dilatih pada teks dalam jumlah besar. Tahap pertamanya disebut pralatih (pretraining): model dilatih memprediksi kata berikutnya dari teks sebelumnya. Model hasil pralatih belum pandai menjawab pertanyaan atau mengikuti perintah, jadi dilatih lagi lewat fine-tuning dan RLHF, yaitu pelatihan dengan umpan balik manusia yang memeringkat beberapa contoh jawaban. Hasilnya asisten yang mengikuti instruksi, tetapi mesinnya tetap memilih token demi token.

NIST AI 600-1 Bagian 2.2 menarik akibatnya: model generatif menghasilkan keluaran yang mendekati sebaran statistik data latihnya. Prediksi semacam itu bisa menghasilkan jawaban yang tepat, tetapi juga jawaban yang salah dengan nada yakin. Nada yakin bukan tanda benar.

Suhu (temperature) adalah parameter yang mengatur keacakan pemilihan token. Glosarium Anthropic menyebut suhu tinggi menghasilkan keluaran lebih beragam, suhu rendah menghasilkan keluaran yang lebih konservatif dan menempel pada jawaban paling mungkin. Panduan Google menyebut suhu rendah cocok untuk tugas yang butuh respons lebih pasti, suhu tinggi untuk hasil kreatif.