A unified taxonomy of adversarial attacks and defenses in few-shot learning
| dc.contributor.advisor | Xenakis, Christos | |
| dc.contributor.advisor | Ξενάκης, Χρήστος | |
| dc.contributor.author | Leontaridis, Alexios | |
| dc.contributor.author | Λεονταρίδης, Αλέξης | |
| dc.date.accessioned | 2026-09-24T07:11:52Z | |
| dc.date.available | 2026-09-24T07:11:52Z | |
| dc.date.issued | 2026-06 | |
| dc.identifier.uri | https://dione.lib.unipi.gr/xmlui/handle/unipi/19778 | |
| dc.description.abstract | Η Μάθηση με Λίγα Δείγματα (Few-Shot Learning, FSL) επιτρέπει σε ένα μοντέλο να αναγνωρίζει νέες κλάσεις από ελάχιστα μόνο επισημασμένα παραδείγματα ανά κλάση, αντί για τα μεγάλα σύνολα δεδομένων που χρειάζονται τα παραδοσιακά μοντέλα βαθιάς μάθησης (deep learning). Χρησιμοποιείται ήδη σε τομείς όπως η ιατρική απεικόνιση, η αναγνώριση προσώπου, η ταξινόμηση σπάνιων ειδών και η κυβερνοασφάλεια, όπου η συλλογή πολλών δειγμάτων είναι δύσκολη ή και αδύνατη. Το πρόβλημα είναι ότι τα ίδια στοιχεία που καθιστούν χρήσιμη την FSL, δηλαδή το μικρό σύνολο υποστήριξης (support set), η επεισοδιακή εκπαίδευση (episodic training) και η ταχεία προσαρμογή σε νέες εργασίες, δημιουργούν παράλληλα αδύναμα σημεία που δεν υπάρχουν στα συμβατικά μοντέλα βαθιάς μάθησης. Η ανταγωνιστική μηχανική μάθηση (adversarial machine learning) έχει μελετηθεί εκτενώς, και η ευρωστία των μοντέλων FSL αρχίζει επίσης να προσελκύει περισσότερο ενδιαφέρον· ωστόσο, η υπάρχουσα βιβλιογραφία είναι διάσπαρτη και ανοργάνωτη και δεν υπάρχει ακόμη μια ενιαία ταξινομία αφιερωμένη ειδικά στις επιθέσεις και τις άμυνες στο πλαίσιο της μάθησης με λίγα δείγματα. Η παρούσα διπλωματική εργασία επιχειρεί να καλύψει αυτό το κενό προτείνοντας μια ενοποιημένη ταξινομία ανταγωνιστικών επιθέσεων και αμυνών για μοντέλα FSL στην όραση υπολογιστών (computer vision). Η ανάλυση βασίζεται σε ένα μοντέλο απειλής τεσσάρων διαστάσεων: την επιφάνεια επίθεσης, τη γνώση που διαθέτει ο αντίπαλος, τον στόχο που επιδιώκει και τη χρονική στιγμή της επίθεσης. Με βάση αυτές τις τέσσερις διαστάσεις, οι επιθέσεις κατηγοριοποιούνται σε έξι οικογένειες (επιθέσεις διαφυγής στο σύνολο ερωτημάτων, δηλητηρίαση του συνόλου υποστήριξης, δηλητηρίαση καθαρής ετικέτας, επιθέσεις κερκόπορτας/backdoor, καθολικές ανταγωνιστικές διαταραχές και επιθέσεις στον χώρο ενσωμάτωσης), ενώ οι άμυνες ομαδοποιούνται σε τέσσερις κατηγορίες (ανταγωνιστική εκπαίδευση, πιστοποιημένες άμυνες, μέθοδοι βασισμένες στην ανίχνευση και άμυνες ειδικά για επιθέσεις backdoor). Η ταξινομία αναδεικνύει ορισμένα μοτίβα. Σχεδόν κάθε επίθεση προϋποθέτει πρόσβαση τύπου white-box, στοχεύει στην ακεραιότητα του μοντέλου και πραγματοποιείται κατά τον χρόνο εξαγωγής συμπερασμάτων (inference time), ενώ οι επιθέσεις τύπου gray-box και αυστηρού black-box, καθώς και η δηλητηρίαση κατά τη μετα-εκπαίδευση (metatraining), σχεδόν δεν καλύπτονται στη βιβλιογραφία. Οι άμυνες είναι επίσης ανομοιόμορφες: ελάχιστες προστατεύουν το σύνολο υποστήριξης, σχεδόν καμία δεν αντιμετωπίζει τις χειραγωγήσεις στον χώρο ενσωμάτωσης, και δεν υπάρχει ουσιαστική άμυνα έναντι των backdoor επιθέσεων που είναι ειδικές για την FSL. Για να συνδεθεί η ανάλυση με την πράξη, υλοποιείται μια απόδειξη ιδέας (proof-of-concept) στο CIFAR-FS και miniImageNet με Prototypical Networks με δύο backbone, Conv4 και ResNet-12, αξιολογώντας το μοντέλο απέναντι στις επιθέσεις FGSM, Adversarial Support Poisoning (ASP) και FAMF, με και χωρίς Adversarial Querying. Τα αποτελέσματα επιβεβαιώνουν ότι η αδυναμία στα FSL εξαρτάται σε μεγάλο βαθμό τόσο από την οικογένεια της επίθεσης όσο και από το backbone, και ότι μια άμυνα σχεδιασμένη για την κλασική βαθιά μάθηση δεν μεταφέρεται καθαρά στο πλαίσιο της μάθησης με λίγα δείγματα. | el |
| dc.format.extent | 82 | el |
| dc.language.iso | en | el |
| dc.publisher | Πανεπιστήμιο Πειραιώς | el |
| dc.rights | Αναφορά Δημιουργού-Μη Εμπορική Χρήση-Όχι Παράγωγα Έργα 3.0 Ελλάδα | * |
| dc.rights | Αναφορά Δημιουργού-Μη Εμπορική Χρήση-Όχι Παράγωγα Έργα 3.0 Ελλάδα | * |
| dc.rights.uri | http://creativecommons.org/licenses/by-nc-nd/3.0/gr/ | * |
| dc.title | A unified taxonomy of adversarial attacks and defenses in few-shot learning | el |
| dc.type | Master Thesis | el |
| dc.contributor.department | Σχολή Τεχνολογιών Πληροφορικής και Επικοινωνιών. Τμήμα Ψηφιακών Συστημάτων | el |
| dc.description.abstractEN | Few-Shot Learning (FSL) allows a model to recognize new classes from only a few labeled examples per class, instead of the large datasets that traditional deep learning models need. It is already used in sensitive areas like medical imaging, face recognition, rare species classification and cybersecurity, where collecting many samples is difficult or even impossible. The problem is that the same things that make FSL useful, the small support set, the episodic training and the fast adaptation to new tasks, also create weak points that conventional deep learning models do not have to deal with. Adversarial machine learning has been studied a lot, and FSL robustness is also starting to get more attention, but the existing work is spread out and there is still no single taxonomy built specifically for attacks and defenses in the few-shot case. This thesis tries to cover that missing part by building a unified taxonomy of adversarial attacks and defenses for FSL models in computer vision. Everything is mapped onto a four-dimensional threat model: the attack surface, what the adversary knows, what the adversary wants to achieve, and when the attack takes place. Using these four dimensions, we sort the attacks into six families (query-set evasion, support-set poisoning, clean-label poisoning, backdoor attacks, universal adversarial perturbations and embedding-space attacks) and the defenses into four categories (adversarial training, certified defenses, detection-based methods and backdoor-specific defenses). The taxonomy makes a few patterns clear. Almost every attack assumes white-box access, targets the model's integrity and happens at inference time, while gray-box and strict black-box attacks, together with poisoning during meta-training, are barely covered in the literature. The defenses are uneven as well: there is little that protects the support set, almost nothing for embedding-space manipulations, and no real defense against FSL-specific backdoors. To connect the analysis to practice, we run a proof-of-concept on CIFAR-FS and miniImageNet with Prototypical Networks under a Conv4 and a ResNet 12 backbone, testing the model against FGSM, Adversarial Support Poisoning (ASP) and FAMF, with and without Adversarial Querying. The results confirm that robustness in FSL depends a lot on both the attack family and the backbone, and that a defense built for standard deep learning does not transfer cleanly to the few-shot setting. | el |
| dc.contributor.master | Κυβερνοασφάλεια και Τεχνολογίες Τεχνητής Νοημοσύνης / MSc Cybersecurity & AI Technologies | el |
| dc.subject.keyword | Few-shot learning | el |
| dc.subject.keyword | Adversarial machine learning | el |
| dc.subject.keyword | Adversarial attacks and defenses | el |
| dc.subject.keyword | Threat model and taxonomy | el |
| dc.subject.keyword | Prototypical networks | el |
| dc.subject.keyword | Adversarial robustness | el |
| dc.subject.keyword | Computer vision | el |
| dc.date.defense | 2026-09-21 |
Αρχεία σε αυτό το τεκμήριο
Αυτό το τεκμήριο εμφανίζεται στις ακόλουθες συλλογές
-
Τμήμα Ψηφιακών Συστημάτων
Department of Digital Systems
Εκτός από όπου διευκρινίζεται διαφορετικά, το τεκμήριο διανέμεται με την ακόλουθη άδεια:
Αναφορά Δημιουργού-Μη Εμπορική Χρήση-Όχι Παράγωγα Έργα 3.0 Ελλάδα
Αναφορά Δημιουργού-Μη Εμπορική Χρήση-Όχι Παράγωγα Έργα 3.0 Ελλάδα