Materi
NIST AI RMF 1.0 (AI 100-1) menyebut bias lebih luas daripada keseimbangan demografi, dan membaginya ke tiga kategori besar. Bias sistemik ada di data, di norma dan proses organisasi sepanjang siklus hidup AI, dan di masyarakat yang memakainya. Bias komputasional dan statistik ada di data dan proses algoritma, sering berasal dari galat sistematis karena sampel yang tidak mewakili. Bias kognitif manusia menyangkut cara orang memahami informasi dari sistem AI untuk mengambil keputusan atau mengisi informasi yang hilang. Ketiganya bisa terjadi tanpa niat diskriminasi.
NIST AI 600-1 menambahkan dua hal khusus AI generatif. Risiko Harmful Bias and Homogenization mencakup kinerja yang berbeda antar-kelompok atau antarbahasa; contohnya, model bahasa bisa bekerja lebih buruk untuk bahasa selain Inggris atau untuk dialek tertentu. Risiko Human-AI Configuration mencakup bias otomatisasi: orang terlalu mengandalkan sistem otomatis dan menganggap keluarannya lebih bermutu daripada sumber lain tanpa alasan. NIST mencatat bias otomatisasi memperparah risiko konfabulasi dan bias.
| Kejadian di bagian rekrutmen | Kategori NIST |
|---|---|
| Data lamaran lama hanya berasal dari satu kampus, lalu dipakai menilai pelamar dari mana saja | Komputasional dan statistik: sampel tidak mewakili |
| Kebiasaan lama kantor hanya mewawancarai lulusan kota besar ikut tercermin di data | Sistemik: norma organisasi |
