Časť A – Implementácia logických funkcií AND a OR pre dvojrozmerný vstup pomocou binárneho perceptrónu

Simuláciou sme ukázali, že pomocou binárneho perceptrónu je možné realizovať logické funkcie AND a OR pre dvojrozmerný vstup.

a. Vplyv rýchlosti učenia na dobu konvergencie

Dobu konvergencie sme testovali na oboch funkciách pre  z množiny {0,001; 0.005; 0.01; 0.05; 0.1; 0.5; 1}. Pre každú hodnotu  sme učenie spustili 15 krát (vždy s inak inicializovanými váhami na začiatku) a sledovali dobu konvergencie. Nakoľko sa vo výsledkoch vyskytovali anomálie (napr. vyskytla sa situácia, kedy sa váhy na začiatku inicializovali tak, že perceptrón nerobil žiadne chyby a doba konvergencie bola 1), do priemeru sme nebrali 3 najkratšie a 3 najdlhšie doby konvergencie.

Zistili sme, že pokiaľ je rýchlosť učenia malá (< 0,01), doba konvergencie klesá s rastúcou rýchlosťou učenia. Pri väčšej rýchlosti (blízkej 1) učenia však už na rýchlosť konvergencie nemá pozorovateľný vplyv - dobu konvergencie viac ovplývňuje náhoda (ako sa inicializujú počiatočné váhy).

b. Možný rozsah rýchlosti učenia 

Aby učiace pravidlo vôbec fungovalo, musí platiť  > 0. Pokiaľ by sa  = 0 – váhy by sa vôbec nemenili, pokiaľ by  < 0, k cieľovým váham by sme sa nepribližovali ale sa od nich vzďaľovali. Simuláciami sme zistili, že rýchlosť učenia  môže byť nastavená aj nezmyselne vysoká (testované pre „extrémne“  = 10^9) a binárny perceptrón je stále schopný sa úlohu naučiť.

c. Priebeh učenia logického AND



d. Použitie spojitého perceptrónu na túto úlohu

Na riešenie tejto úlohy by bolo možné použiť aj spojitý perceptrón. Hlavné rozdiely by spočívali v tom, že výstup by sme nedostávali z množiny {0; 1} ale z intervalu <0; 1>. Takisto perceptrón by sme nemohli učiť do okamihu, kým chyba dosiahne 0, ale do okamihu, kedy chyba klesne pod nejakú nami stanovenú toleranciu. Zaujímavý je tiež fakt, že spojitý perceptrón nie je „odolný“ voči nezmyselne vysokým rýchlostiam učenia ako binárny perceptrón – a pre rýchlosti učenia >> 1 nie je schopný sa túto úlohu naučiť.

Časť B – spojitý perceptrón ako separátor dvoch tried obrazcov

Simuláciou sme overili, že spojitý perceptrón je možné použiť ako separátor dvoch tried kompaktných obrazcov.

Perceptrón sme testovali s rýchlosťou učenia  = 0,8 a zastavovacou podmienkou chyba < 0,1. Simuláciu sme spustili 5 krát – priemerná doba konvergencie bola 38 epoch. Graf 3 znázorňuje vývoj chyby v jednotlivých simuláciách (pre prehľadnosť je zobrazených len prvých 15 epoch). Je vidieť, že chyby sa výrazne líšia len v niekoľkých prvých epochách, čo je zjavne spôsobené náhodným inicializovaním váh. Od cca 7 epochy bola chyba v jednotlivých simuláciách prakticky rovnaká.

Zistili sme, že perceptrón nebol 100% úspešný. V troch simuláciách nedokázal zaradiť správne jeden (vždy ten istý) obrazec z testovacej množiny. Za úspešné zaradenie sme považovali, ak pre obrazec s požadovaným výstupom 0 vrátil číslo v intervale <0; 0,1> a pre obrazec s požadovaným výstupom 1 vrátil číslo v intervale <0,9; 1>: