Χρήση εξελικτικών αλγορίθμων για την εκπαίδευση Τεχνητών Νευρωνικών Δικτύων

Abstract

Η παρούσα διπλωματική εργασία εξετάζει εξελικτικές τεχνικές για την εκπαίδευση Τεχνητών Νευρωνικών Δικτύων (ΤΝΔ). Με τον όρο εξελικτική τεχνική αναφερόμαστε σε μια υποκατηγορία των μετα - ευριστικών τεχνικών. Οι εξελικτικοί αλγόριθμοι περιλαμβάνουν τεχνικές οι οποίες προσπαθούν να προσομοιώσουν συμπεριφορές πληθυσμών που απαντώνται στην φύση, όπως για παράδειγμα την διαδικασία της εξέλιξης των ειδών, την κίνηση των πουλιών από ένα σημείο σε ένα άλλο, την εύρεση τροφής από ένα κοπάδι ψαριών, κα. Ο συμβατικός τρόπος εκπαίδευσης ενός ΤΝΔ γίνεται με την χρήση του αλγορίθμου Οπισθοδιάδοσης του Σφάλματος ( BP – Back Propagation Error) . Στην παρούσα εργασία ο αλγόριθμος BP συγκρίνεται με 3 εξελικτικές τεχνικές: τον Γενετικό Αλγόριθμο ( ΓΑ ), τον αλγόριθμο PSO και μία υβριδική τους προσέγγιση η οποία ονομάζεται HGAPSO. Για την αποδοτική σύγκριση των 4 αλγορίθμων υλοποιήθηκε λογισμικό, το οποίο εφαρμόζει και τις 4 τεχνικές πάνω σε σύνολα δεδομένων. Τα σύνολα δεδομένων τα οποία χρησιμοποιήθηκαν ανακτήθηκαν από το UCI Machine Learning Repository (https://archive.ics.uci.edu/ml/datasets.html). Τα δεδομένα εκπαίδευσης μετασχηματίστηκαν κατάλληλα, σε ισοδύναμη μορφή, έτσι ώστε να είναι δυνατός ο χειρισμός τους από το λογισμικό