Βαθιά νευρωνικά δίκτυα με μηχανές διανυσμάτων υποστήριξης στο επίπεδο εξόδου

Abstract

Η παρούσα εργασία ασχολείται με την μελέτη της επίδοσης των νευρωνικών δικτύων με τη χρήση μηχανών διανυσμάτων υποστήριξης στο επίπεδο εξόδου. Η χρήση των μηχανών διανυσμάτων υποστήριξης στο επίπεδο εξόδου, επιτυγχάνονται καλύτερα ποσοστά ακρίβειας αφού γίνεται προσπάθεια εύρεσης ενός βέλτιστου ορίου απόφασης μεταξύ των δεδομένων. Η υλοποίηση των πειραμάτων πραγματοποιήθηκε σε νευρωνικά δίκτυα Multilayer Perceptron και σε συνελικτικά νευρωνικά δίκτυα. Χρησιμοποιήθηκαν τρία σύνολα δεδομένων όπως: MNIST, CIFAR-10 και CIFAR-100 και αποτελούνταν από πέντε ενδιάμεσα επίπεδα με διαφορετικό αριθμό κόμβων. Τα καλύτερα ποσοστά ακρίβειας που επιτυγχάνονται για το σύνολο δεδομένων MNIST με τη χρήση δύο επιπέδων, είναι για το MLP 0.9838 και με την χρήση του SVM ταξινομητή 0.9848. Για το σύνολο δεδομένων CIFAR-10 το καλύτερο ποσοστό ακρίβειας με τη χρήση τριών επιπέδων για το νευρωνικό δίκτυο MLP 0.454 και με την χρήση του SVM ταξινομητή 0.49.

Ακόμα, για το σύνολο δεδομένων CIFAR-100 το καλύτερο ποσοστό ακρίβειας που επιτυγχάνεται είναι με τη χρήση δύο ενδιάμεσων επιπέδων για το MLP 0.1857 και με την χρήση του SVM ταξινομητή 0.2201. Τέλος, εκτελέστηκαν πειράματα και σε αρχιτεκτονικές συνελικτικών δικτύων επιτυγχάνοντας ποσοστά σφάλματος για τον SVM ταξινομητή 2.39% και για το συνελικτικό δίκτυο 2.46%.