Bagaimana MLP Belajar? Backpropagation dan Update Bobot

Multilayer Perceptron atau MLP tidak langsung mengetahui bobot yang tepat. Pada awal training, nilainya masih acak. Model belajar dengan membuat prediksi, mengukur kesalahan, lalu memakai kesalahan itu untuk memperbaiki dirinya.

Prosesnya memang melibatkan matriks, turunan parsial, dan chain rule. Namun alurnya tidak serumit kelihatannya. Kita dapat membacanya sebagai rangkaian sebab-akibat: input menghasilkan prediksi, prediksi menghasilkan error, dan error memberi tahu parameter ke arah mana harus bergerak.

Apa yang Sebenarnya Dipelajari MLP?

MLP terdiri dari input layer, satu atau beberapa hidden layer, dan output layer. Neuron pada satu layer terhubung ke neuron pada layer berikutnya melalui bobot. Setiap layer juga memiliki bias.

Bobot menentukan seberapa kuat sebuah input memengaruhi neuron berikutnya. Bias membantu menggeser hasil perhitungan sebelum activation function diterapkan. Jadi, ketika kita berkata model sedang belajar, yang berubah sebenarnya adalah kumpulan bobot dan bias tersebut.

Satu Siklus Training MLP

Setiap iterasi training mengikuti pola yang sama.

1. Inisialisasi bobot dan bias dengan nilai kecil yang acak.
2. Jalankan forward propagation untuk menghasilkan prediksi.
3. Bandingkan prediksi dengan label sebenarnya melalui loss function.
4. Jalankan backpropagation untuk menghitung gradient.
5. Perbarui bobot dan bias menggunakan optimizer seperti gradient descent.
6. Ulangi proses sampai loss cukup kecil atau jumlah epoch tercapai.

Forward pass menjawab pertanyaan, “Apa prediksi model saat ini?” Backward pass menjawab pertanyaan berikutnya, “Parameter mana yang bertanggung jawab atas error, dan seberapa besar pengaruhnya?”

Contoh Sederhana dengan Iris Dataset

Kita memakai satu sampel bunga Iris Setosa. Empat fitur masuk ke input layer: sepal length 5,1 cm, sepal width 3,5 cm, petal length 1,4 cm, dan petal width 0,2 cm.

Karena ada tiga kelas bunga, label sebenarnya ditulis sebagai one-hot vector. Iris Setosa adalah kelas pertama, sehingga nilainya menjadi seperti berikut.

Angka 1 menandai kelas yang benar. Dua angka 0 menunjukkan kelas yang bukan target. Bentuk ini membuat hasil output model dapat dibandingkan langsung dengan label.

Pada awal training, weight matrix dan bias masih acak. Nilai berikut bukan jawaban akhir. Inilah posisi awal yang akan terus diperbaiki oleh model.

Forward Pass: Menghasilkan Prediksi

Empat fitur Iris dikalikan dengan weight matrix pada hidden layer. Bias ditambahkan, lalu activation function mengubah hasilnya menjadi activation baru. Nilai tersebut bergerak ke output layer dan melalui proses yang sama sekali lagi.

Misalkan model menghasilkan output vector berikut.

Output tersebut belum tentu sama dengan label sebenarnya. Selisihnya diukur oleh loss function. Semakin besar selisih, semakin besar sinyal koreksi yang perlu dikirimkan kembali.

Backpropagation: Mengalirkan Error ke Belakang

Kita mulai dari output layer karena di sana model dapat langsung membandingkan prediksi dengan target. Error term pada output sering ditulis sebagai delta. Nilai ini menunjukkan seberapa jauh output meleset sekaligus seberapa sensitif loss terhadap perubahan pre-activation.

Setelah error output diketahui, chain rule dipakai untuk menelusuri kontribusi setiap parameter. Sederhananya, kita memecah satu pertanyaan besar menjadi beberapa pertanyaan kecil: bagaimana loss berubah ketika output berubah, bagaimana output berubah ketika activation berubah, dan bagaimana activation berubah ketika bobot berubah?

Error dari output layer kemudian diteruskan ke hidden layer. Neuron yang memberi kontribusi lebih besar terhadap prediksi keliru akan menerima koreksi lebih besar. Dengan cara ini, satu nilai loss dapat diterjemahkan menjadi gradient untuk banyak bobot dan bias sekaligus.

Update Bobot dan Bias

Setelah gradient tersedia, gradient descent memperbarui setiap parameter dengan aturan sederhana:

Learning rate mengatur ukuran langkah. Jika terlalu kecil, model belajar sangat lambat. Jika terlalu besar, parameter dapat melompati daerah minimum dan membuat loss tidak stabil. Karena itu, training bukan hanya soal menemukan arah, tetapi juga memilih ukuran langkah yang masuk akal.

Satu update belum cukup. Model menjalankan forward pass lagi dengan parameter baru, menghitung loss baru, lalu mengulangi backpropagation. Setelah banyak iterasi, prediksi perlahan mendekati target karena bobot yang berguna diperkuat dan bobot yang menyesatkan dikurangi.

Cara Membaca Proses Belajar

Saat mengamati training MLP, jangan hanya melihat accuracy akhir. Perhatikan juga kurva loss, kestabilan perubahan bobot, dan bentuk decision surface. Loss yang turun menunjukkan optimizer bergerak ke arah yang benar. Decision surface yang makin jelas menunjukkan hidden layer mulai membentuk representasi yang berguna.

Jika loss tidak turun, masalahnya bisa berasal dari learning rate, skala fitur, activation function, arsitektur, atau data. Backpropagation hanya menghitung arah berdasarkan kondisi yang diberikan. Kualitas proses belajar tetap bergantung pada rancangan eksperimennya.