Pada permulaan pelatihan, seluruh unit aktivasi di-nol-kan. Sinyal input s = (s1, … , si, …, sn) dikirim ke jaringan.
Siklus komputasi di dalam lapis F1 dapat dimulai dengan komputasi unit aktivasi Ui (normalisasi dari unit Vi). Kemudian sinyal Ui dikirim ke unit terhubung Wi dan Pi. Aktivasi unit Wi dan Pi lalu dilakukan. Unit Wi menjumlahkan sinyal yang diterima dari Ui dengan input sinyal si. Pi menjumlahkan sinyal dari Ui dengan sinyal atas-bawah yang diterima ketika ada unit F2 aktif. Aktivasi Xi dan Qi merupakan hasil normalisasi sinyal Wi dan Pi. Fungsi aktivasi dilakukan pada tiap-tiap unit sebelum sinyal dikirim ke Vi. Kemudian, Vi menjumlahkan sinyal yang diterima dari Xi dan Qi; Satu siklus lapis F1 telah berhasil dilakukan.
Fungsi aktivasi f(x) menekan sinyal di bawah threshold theta dengan cara me-nol-kan sinyal tersebut sementara nilai sinyal di atas threshold theta dibiarkan. Nilai theta ditentukan oleh user. Penekan derau membantu jaringan untuk mencapai keseimbangan. Jaringan dikatakan stabil ketika unit cluster pertama yang dipilih untuk setiap pola masukan diterima dan tidak terjadi reset. Pada pembelajaran lambat, vektor bobot untuk unit cluster akan digunakan untuk menstabilkan nilai. Fungsi ini berguna agar aktivasi unit U dan P mencapai equilibrium setelah dilakukan dua kali update lapis F1.
Setelah aktivasi unit-unit F1 mencapai equilibrium, unit-unit P mengirimkan sinyal ke lapis F2 untuk menentukan kandidat unit cluster dalam mempelajari pola masukan pada kompetisi winner take all. (Ini tidak penting seberapa cepat kompetisi mengambil peran pada iterasi dalam lapis F1, semenjak aktivasi pada unit U dan P tidak akan berubah hingga sinyal atas-bawah dari pemenang unit F2 diterima unit F2).
Unit U dan P di dalam lapis F1 juga mengirim sinyal ke unit yang berhubungan reset R. Mekanisme reset dapat memeriksa kondisi reset setiap kali menerima sinyal dari P, semenjak kompetisi penting ditentukan oleh sinyal tersebut dengan sinyal unit Ri sebelumnya ketika diterima dari Ui. Namun, hal ini hanya bisa dilakukan ketika Pi menerima sinyal atas-bawah terlebih dahulu, mengingat nilai parameter dipilih sehingga tidak terjadi reset jika tidak ada F2 yang aktif atau setelah proses belajar dimulai.
Setelah kondise reset diperiksa, kandidat unit cluster akan ditolak karena tidak cukup sama dengan pola masukan atau dapat diterima. Jika unit cluster ditolak, hal ini akan menjadi larangan, dan unit cluster dengan nilai masukan jaringan terbesar akan dipilih sebagai kandidat. Proses ini berlanjut hingga unit cluster dipilih. Ketika kandidat cluster dipilih yang melewati kondisi reset, pembelajaran akan terjadi.
Pada pembelajaran lambat, hanya satu kali iterasi dari persamaan update bobot terjadi dalam setiap pelatihan. Jumlah pola masukan yang besar dibutuhkan, tetapi komputasi kecil dilakukan tiap pelatihan. Untuk lebih mudahnya, hal yang berulang ini diperlakukan sebagai epoch pada algoritma. Namun, tak ada syarat pola diperlakukan dalam urutan yang sama atau pola yang tepat sama setiap satu siklus yang terjadi.
Pada pembelajaran cepat, perubahan bobot berlanjut hingga bobot mencapai equilibrium pada setiap pelatihan. Hanya dibutuhkan epoch yang kecil, tetapi jumlah iterasi yang besar melalui bagian update-bobot-F1 tiap kali pelatihan pembelajaran dilakukan. Pada pembelajaran ini, penggantian cluster akan stabil (tidak terjadi reset), tetapi bobot akan berubah tiap kali pola dimasukkan.
sumber: Fundamental of Neural Networks: Architectures, Algorithms, and Applications - Laurene Fausett
Setelah aktivasi unit-unit F1 mencapai equilibrium, unit-unit P mengirimkan sinyal ke lapis F2 untuk menentukan kandidat unit cluster dalam mempelajari pola masukan pada kompetisi winner take all. (Ini tidak penting seberapa cepat kompetisi mengambil peran pada iterasi dalam lapis F1, semenjak aktivasi pada unit U dan P tidak akan berubah hingga sinyal atas-bawah dari pemenang unit F2 diterima unit F2).
Unit U dan P di dalam lapis F1 juga mengirim sinyal ke unit yang berhubungan reset R. Mekanisme reset dapat memeriksa kondisi reset setiap kali menerima sinyal dari P, semenjak kompetisi penting ditentukan oleh sinyal tersebut dengan sinyal unit Ri sebelumnya ketika diterima dari Ui. Namun, hal ini hanya bisa dilakukan ketika Pi menerima sinyal atas-bawah terlebih dahulu, mengingat nilai parameter dipilih sehingga tidak terjadi reset jika tidak ada F2 yang aktif atau setelah proses belajar dimulai.
Setelah kondise reset diperiksa, kandidat unit cluster akan ditolak karena tidak cukup sama dengan pola masukan atau dapat diterima. Jika unit cluster ditolak, hal ini akan menjadi larangan, dan unit cluster dengan nilai masukan jaringan terbesar akan dipilih sebagai kandidat. Proses ini berlanjut hingga unit cluster dipilih. Ketika kandidat cluster dipilih yang melewati kondisi reset, pembelajaran akan terjadi.
Pada pembelajaran lambat, hanya satu kali iterasi dari persamaan update bobot terjadi dalam setiap pelatihan. Jumlah pola masukan yang besar dibutuhkan, tetapi komputasi kecil dilakukan tiap pelatihan. Untuk lebih mudahnya, hal yang berulang ini diperlakukan sebagai epoch pada algoritma. Namun, tak ada syarat pola diperlakukan dalam urutan yang sama atau pola yang tepat sama setiap satu siklus yang terjadi.
Pada pembelajaran cepat, perubahan bobot berlanjut hingga bobot mencapai equilibrium pada setiap pelatihan. Hanya dibutuhkan epoch yang kecil, tetapi jumlah iterasi yang besar melalui bagian update-bobot-F1 tiap kali pelatihan pembelajaran dilakukan. Pada pembelajaran ini, penggantian cluster akan stabil (tidak terjadi reset), tetapi bobot akan berubah tiap kali pola dimasukkan.
sumber: Fundamental of Neural Networks: Architectures, Algorithms, and Applications - Laurene Fausett
Tidak ada komentar:
Posting Komentar