Ensuring confidentiality and personal data protection in large language models

Abstract

Η διπλωματική ασχολείται με το πώς μπορούν τα Μεγάλα Γλωσσικά Μοντέλα να προστατεύουν την εμπιστευτικότητα και τα προσωπικά δεδομένα. Ξεκινάει από τη διαπίστωση ότι οι υφιστάμενες λύσεις, δηλαδή η νομοθεσία και τα μέτρα ασφάλειας στην υποδομή, δεν αρκούν καθώς το μοντέλο μπορεί το ίδιο να αποκαλύψει ευαίσθητες πληροφορίες μέσα από τη συζήτηση. Άρα η προστασία πρέπει να γίνει κομμάτι της ίδιας της συμπεριφοράς του μοντέλου. Αφού καλύψει το νομικό πλαίσιο, τους κινδύνους και τις υπάρχουσες τεχνικές, η εργασία δοκιμάζει στην πράξη δύο προσεγγίσεις εκπαίδευσης: πρώτα την εκπαίδευση ενός μοντέλου που έχει τον ρόλο του αμυνόμενου σαν εκπρόσωπος εξυπηρέτησης πελατών, με ενισχυτική μάθηση μέσω PPO trainer. Στη συνέχεια ένα νέο πλαίσιο που προτείνει η εργασία, το LLM-GAN, όπου ένα μοντέλο επιτιθέμενος και ο αμυνόμενος εκπαιδεύονται ο ένας ενάντια στον άλλον. Το βασικό συμπέρασμα είναι ότι η εκπαίδευση με PPO από μόνη της έχει αδυναμίες, ενώ με το LLM-GAN, όπου ο αμυνόμενος αντιμετωπίζει συνεχώς έναν αντίπαλο που προσαρμόζεται με σκοπό να του αποσπάσει πληροφορίες και δοκιμάζει πολλές στρατηγικές, το μοντέλο λαμβάνει πιο ουσιαστική εκπαίδευση και είναι πιο ασφαλές σε μεγαλύτερο εύρος επιθέσεων και καταστάσεων.