Materi
Bagian 2.6 panduan UNESCO menyatakan model AI teks tidak memahami teks yang dihasilkannya, sering membuat pernyataan keliru, dan karena itu semua keluarannya disikapi kritis. Bagian 4.6 menyebut AI generatif sumber informasi yang cepat tetapi sering tidak andal, dan tidak pernah bisa menjadi sumber pengetahuan yang otoritatif. Tabel 4 menuliskan tugas manusianya: perancang pelajaran memverifikasi pengetahuan faktual dan memeriksa kelayakan bahan yang diusulkan AI.
Risikonya lebih besar di kelas. Bagian 1.3 mencatat murid muda, karena belum seahli guru, bisa menerima keluaran yang dangkal, keliru, atau merugikan tanpa sadar. Jadi pemeriksaan terjadi sebelum bahan sampai ke murid: cocokkan tiap angka, tanggal, nama, rumus, dan istilah dengan buku teks atau sumber resmi. Teknik di halaman Reduce hallucinations menjadi alat bantunya: minta model menyebut kutipan pendukung dari bacaan untuk tiap klaim, lalu cabut klaim yang tidak punya kutipan. Definisi halusinasi dan teknik verifikasi umum ada di agk-l9.
| Klaim di draf bacaan IPA (karangan) | Hasil cek ke buku teks | Keputusan |
|---|---|---|
| Air murni mendidih pada 100 °C di tekanan 1 atmosfer | Ada kutipan pendukung | Tetap |
| Bulan memancarkan cahayanya sendiri | Bertentangan: Bulan memantulkan cahaya Matahari | Diperbaiki |
| Ilmuwan bernama Dr. Hartono menemukan siklus air pada 1820 | Tidak ditemukan di buku mana pun | Dicabut |
