Few shot learning : an overview of methods, applications and benchmarks

Abstract

Η Μάθηση με Λίγα Παραδείγματα (Few-Shot Learning, FSL) αποτελεί μια αναδυόμενη ερευνητική τάση στον χώρο των νευρωνικών δικτύων, καθώς επιτρέπει σε αλγορίθμους και μοντέλα να προσαρμόζονται γρήγορα σε άγνωστα δεδομένα χρησιμοποιώντας μόνο έναν περιορισμένο αριθμό δειγμάτων. Η αποδοτικότητα αυτή είναι κρίσιμη και λειτουργεί ως βασικός παράγοντας για την ανάπτυξη “Πράσινης Τεχνητής Νοημοσύνης” (Green AI) και για υπολογιστικά συστήματα σε συσκευές αιχμής στο Διαδίκτυο των Πραγμάτων (IoT), όπου οι αλγόριθμοι πρέπει να λειτουργούν με περιορισμένους υπολογιστικούς πόρους και δεδομένα. Η παρούσα διπλωματική εργασία εξετάζει τα θεμελιώδη στοιχεία του FSL και τις πρώιμες πειραματικές εφαρμογές του, οι οποίες πραγματοποιήθηκαν κυρίως σε προβλήματα υπολογιστικής όρασης, προτού επεκταθούν στα πεδία του ήχου και της επεξεργασίας φυσικής γλώσσας (NLP) και στις πιο πρόσφατες εξελίξεις τους. Οι αρχιτεκτονικές, οι μέθοδοι και τα σύνολα δεδομένων που σχετίζονται με αυτά τα πεδία αναλύονται διεξοδικά.Επιπλέον, παρουσιάζονται οι εφαρμογές των μεθόδων που εξετάζονται σε κάθε τομέα, δείχνοντας τη χρήση τους σε συγκεκριμένα προβλήματα, όπως η ανίχνευση αντικειμένων. Μια έκθεση υλοποίησης - που αναπαράγει τα προαναφερθέντα πειράματα - παρουσιάζει πειράματα σε σύνολα δεδομένων ήχου και εικόνας χρησιμοποιώντας τις πιο σημαντικές αρχιτεκτονικές Few-Shot Learning. Τέλος, παρατίθενται πειραματικά αποτελέσματα από διάφορες εργασίες και benchmarks, μαζί με μια ανάλυση των βασικών προκλήσεων και των πιθανών μελλοντικών κατευθύνσεων έρευνας στον τομέα.