Lompat ke konten utama
Kelas
Jaringan Saraf Tiruan Dasar dengan PythonPelajaran 7 dari 22 · Modul 2, Forward pass dan fungsi loss

Modul 2 · Forward pass dan fungsi loss

Fungsi loss: MSE dan cross-entropy

Setelah pelajaran ini kamu bisa menghitung MSE untuk regresi dan cross-entropy untuk klasifikasi dengan numpy, dan mencocokkannya dengan scikit-learn.

  • ±13 menit
  • 3 latihan
  • Diperiksa 28 Sep 2026

Latihan di pelajaran ini butuh akun gratis. Progres, kode, dan catatanmu hanya tersimpan di browser ini. Masuk untuk menyimpannya

Materi

Fungsi loss mengubah selisih antara keluaran jaringan dan jawaban benar menjadi satu angka yang ingin diperkecil. User Guide scikit-learn menyebut dua loss yang dipakai MLP: kuadrat galat untuk regresi (MLPRegressor) dan cross-entropy rata-rata untuk klasifikasi (MLPClassifier).

Mean squared error (MSE) adalah rata-rata kuadrat selisih: mean((tebakan − aktual)²). Kuadrat membuat selisih besar dihukum jauh lebih berat daripada selisih kecil. sklearn.metrics.mean_squared_error menghitung persis rata-rata ini; rumus loss di dalam MLPRegressor memakai faktor 1/2n, bukan 1/n, supaya turunannya lebih ringkas, dan faktor tetap itu tidak mengubah letak titik minimumnya.

Cross-entropy untuk satu sampel adalah −ln(peluang yang diberikan model kepada kelas yang benar). Bila model yakin dan benar (peluang 0,99), loss-nya 0,01. Bila model yakin dan salah (peluang kelas benar 0,01), loss-nya 4,6. Dive into Deep Learning §4.1 menurunkan loss ini dari log-likelihood. Rata-rata untuk banyak sampel dihitung sklearn.metrics.log_loss. Di numpy, peluang kelas benar setiap baris diambil dengan pengindeksan P[np.arange(n), label].

import numpy as np

peluang_benar = np.array([0.9, 0.6, 0.3])
print(-np.log(peluang_benar).round(3))    # [0.105 0.511 1.204]
print(-np.mean(np.log(peluang_benar)))    # 0.607...

Latihan

Jawaban diperiksa di server. Lulus berarti kamu memahami contohnya, bukan penilaian seluruh pekerjaanmu.

Latihan 2 dari 3

Model memberi peluang 0,25 pada kelas yang benar untuk satu sampel. Berapa cross-entropy sampel itu (logaritma natural)? Tulis dengan dua desimal.

Latihan 3 dari 3

Loss apa yang diminimalkan MLPRegressor ketika dilatih?

Pilih satu jawaban

Catatanmu

Memuat catatan…

tersimpan otomatis, ikut tercetak · 0/4.000

Lanjutkan ke

Tampilkan 1 lagi