Perceptron

Sebelum membahas soal Perceptron, terlebih dahulu kita lihat asal usul ditemukan nya perceptron itu,
Dimana pada tahun (1962) Rosenblatt menemukan model jaringan perceptron, dan pada (1969) di sempurnakan oleh Minsky-Papert.

Arsitektur Jaringan
Arsitektur Jaringan perceptron mirip denganarsitektur jaringan Hebb.

 

Jaringan terdiri dari beberapa unit masukan (ditambah sebuah bias), dan memiliki unit keluaran. Sedangkan untuk fungsi aktivasi bukan merupakan fungsi biner (bipolar), kemungkinan memiliki nilai -1, 0 atau 1.

Algoritma pelatihan perceptron :

1. Inisialisasi semua bobot dan bias (umunya wi = b = 0). Tentukan laju pemahaman (= alpha), untuk penyederhanaan alpha diberi nilai 1.Hitung
2. Selama ada elemen vektor,masukan unit keluaran nya tidak sama dengan target, lakukan : 

• Set aktivasi unit masukan xi = si  (i = 1,...,n) 
• respon unit keluaran : net = sigma xi wi +b

3. Perbaiki bobot polayang mengandung kesalahan (y tidak sama t)

Algoritma perceptron lebih baik dibanding model Hebb karena :

1. Setiap sebuah pola dimasukkan, hasil keluaran jaringan dibandingkan dengan target yang sesungguhnya. Jika berbeda, maka akan dimodifikasi.
2. Modifikasi tidak hanya ditentukan oleh perkalian antara target dengan masukan, tapi juga melibatkan suatu laju pemahaman, (yang besarnya bisa diatur)
3. Pelatihan dilakukan berulang ulang untuk semua kemungkinan pola yang ada (di tandai dengan samanya semua keluaran jaringan yang di ingin kan). 

Satu siklus pelatihan melibatkan semua pola disebut epoch. Dalam jaringan Hebb, pelatihan hanya dilakukan dalam satu epoch saja.  Teorema konvergensi perceptron menyatakan bahwa apabila ada bobot yang tepat, maka proses pelatihan akan konvergen ke bobot yang tepat.

Pengenalan Pola Karakter
Perceptron dapat juga dipakia untuk mengenali pola karakter. Dengan berbagai pola masukan yang mnyerupai huruf-huruf alphabeth.

Pengenalan Beberapa Pola Karakter
Dalam Pengenalan Pola karakter dapat dimisalkan "A" atau bukan "A", "B" atau bukan "B", dan seterusnya.
Cara tersebut dapat dilakukan dengan cara menggabungkan beberapa model perceptron.

Setiap unit masukan dihubungkan dengan setiap unit target. unit penghubung dari unit xi ke yi adalah wji.

Model Hebb

Postingan kali ini saya akan menjelaskan tentang model Hebb.
Namun sebelum itu perlu diketahui model neuron pertama kali diperkenalkan oleh McCulloch dan Pitts, yang disebut dengan model McCulloch - Pitts. Pada model McCulloch - Pitts mengharuskan kita untuk menentukan bobot garis dan bias secara analitik, untuk masalah yang kompleks hal ini sangat sulit dilakukan.

Pada tahun 1949 D.O. Hebb memperkenalkan cara menghitung bobot dan bias secara iteratif. Model Hebb adalah model tertua yang menggunakan aturan supervisi.
Dasar dari algoritma Hebb adalah kenyataan bahwa apabila 2 neuron yang dihubungkan dengan sinapsis secara serentak menjadi aktif (sama-sama bernilai positif atau negatif), maka kekuatan sinapsisnya meningkat. Sebaliknya, apabila kedua neuron aktif secara tidak sinkron, maka kekuatan sinapsisnya akan melemah.i\
Karena itulah, dalam setiap iterasi, bobot sinapsis dan bias diubah berdasarkan perkalian neuron-neuron dikedua sisinya.

Algoritma pelatihan Hebb dengan vektor input s dan unit target t adalah sebagai berikut:

1. Inisialisasi semua bobot = wi = 0 (i = 1, ..., n)
2. Untuk semua vektor input s dan unit target t, lakukan:
• Set aktivasi unit masukan  xi = si (i = 1, ..., n)
• Set aktivasi unit keluaran  : y = t
• Perbaiki bobot menurut persamaan : wi (baru) = wi (lama) + xiy  (i = 1, ..., n)
• Perbaiki bias menurut persamaan  b (baru) = b (lama) + y

Arsitektur jaringan Hebb sama seperti jaringan McCulloch-Pitts. Masalah yang sering timbul dalam jaringan Hebb adalah menentukan representasi data masukan/keluaran untuk fungsi aktivasi yang berupa threshold.

Arsitektur Jaringan Hebb

Model Neuron

Pada Jaringan Syaraf Tiruan (JST) terdapat unit neuron. Apa itu neuron?
Neuron adalah unit pemroses informasi yang menjadi dasar dalam pengoperasian jaringan syaraf tiruan. Neuron terdiri dari 3 elemen pembentuk :

1. Himpunan unit-unit yang dihubungkan dengan jalur koneksi. Jalur-jalur tersebut memiliki bobot yang berbeda-beda. Bobot yang positif akan memperkuat sinyal dan yang negatif akan memperlemah sinyal.
2. Suatu unit penjumlah yang akan menjumlahkan input-input sinyal yang sudah dikalikan dengan bobotnya.
3. Fungsi aktivasi yang akan menentukan apakah sinyal dari input neuron akan diteruskan ke neuron lain ataukah tidak.

Selanjutnya beberepa arsitektur jaringan yang sering dipakai dalam jaringan syaraf tiruan, yaitu:

• Jaringan Layar Tunggal (single layer network), dalam jaringan ini sekumpulan input neuron dihubungkan langsung dengan sekumpulan outputnya. contohnya :

Bentuk Jaringan Layar Tunggal 

• Jaringan Layar Jamak (multi layer network), merupakan perluasan dari layar tunggal. Dalam jaringan ini, selain unit input dan output, ada unit-unit lain (sering disebut hidden layer). contohnya:

Bentuk Jaringan Layar Jamak

• Jaringan Reccurent, model ini mirip dengan jaringan layar tunggal ataupun ganda. Namun, ada neuron output yang memberikan sinyal pada unit input (sering disebut feedback loop)

Kemudian Fungsi Aktivasi, dalam jaringan syaraf tiruan fungsi aktivasi dipakai untuk menentukan keluaran suatu neuron. Beberapa fungsi aktivasi yang sering dipakai antara lain: Fungsi threshold (batas ambang), fungsi sigmoid, dan fungsi Identitas.

Dalam jaringan biasanya ada unit input tambahan yang nilainya selalu = 1, unit ini disebut Bias.

Jaringan Syaraf Tiruan

Pada laman ini saya akan menjelaskan mengenai Jaringan Syaraf Tiruan (JST)

Sumber :

Buku ini ditulis oleh : Drs. Jong Jek Siang, M.Sc

1. Apa itu Jaringan Syaraf Tiruan?
Jaringan syaraf tiruan adalah sistem pemproses informasi yang memiliki karakteristik mirip dengan jaringan syaraf biologi. Untuk penjelasan jaringan syaraf biologi silihkan klik link ini.

JST dibentuk sebagai generalisasi model matematika dari jaringan syaraf biologi, dengan asumsi bahwa:

• Pemprosesan informasi tejadi pada banyak elemen sederhana (neuron)
• Sinyal dikirimkan diantara neuron-neuron melalui penghubung-penghubung
• Penghubung antar neuron memiliki bobot yang akan memperkuat atau memperlemah sinyal
• Untuk menentukan output, setiap neuron menggunakan fungsi aktivasi (biasanya bukan fungsi linier) yang dikenakan pada jumlahan input yang diterima. Besarnya output ini selanjutnya dibandingkan dengan suatu batas ambang.

JST ditentukan oleh 3 hal :

• Pola hubungan antar neuron (disebut arsitektur jaringan)
• Metode untuk menentukan bobot penghubung (disebut metode training/learning/algoritma
• Fungsi aktivasi

Beberapa aplikasi jaringan syaraf tiruan sebagai berikut:

1. Pengenalan Pola
2. Signal Processing
3. Peramalan