| dc.contributor.advisor | Σωτηρόπουλος, Διονύσιος | |
| dc.contributor.author | Κοντοσώρος, Μιχαήλ | |
| dc.date.accessioned | 2023-05-18T10:26:48Z | |
| dc.date.available | 2023-05-18T10:26:48Z | |
| dc.date.issued | 2023-05 | |
| dc.identifier.uri | https://dione.lib.unipi.gr/xmlui/handle/unipi/15412 | |
| dc.identifier.uri | http://dx.doi.org/10.26267/unipi_dione/2834 | |
| dc.description.abstract | Η παρούσα πτυχιακή αναφέρεται στην αρχιτεκτονική των μοντέλων βαθιάς μάθησης (transformers). Γίνεται ανάλυση της αρχιτεκτονικής καθώς επίσης έχει πραγματοποιηθεί η υλοποίηση του συγκεκριμένου μοντέλου σε στοίχους τραγουδιών ώστε να ταξινομήσουν το κάθε στοίχο με τον αντίστοιχο καλλιτέχνη που το έχει δημιουργήσει.
Αρχικά αναλύονται συναφείς προσεγγίσεις προβλημάτων που σχετίζονται με δεδομένα κειμένων που χρησιμοποιούν ως μοντέλο την αρχιτεκτονική των transformers. Επίσης γίνεται περιγραφή των διαδικασιών που χρειάζονται τα δεδομένα πριν από την εκπαίδευση του μοντέλου καθώς και η ανάλυση των δεδομένων έτσι ώστε η διαδικασία της εκπαίδευσης να πραγματοποιηθεί με τον σωστό τρόπο.
Ακολούθως αναπτύσσεται αναλυτικά η αρχιτεκτονική των transformers έτσι ώστε να γίνει κατανοητή η λειτουργεία τους με την οποία αυτά τα μοντέλα μπορούν να επιτυγχάνουν αποτελέσματα που μοιάζουν με εκείνα του ανθρώπου. Σε αρκετά σημεία γίνεται αναλυτική επεξήγηση μέσω εικόνων έτσι ώστε να είναι πιο εύκολη η κατανόηση της αρχιτεκτονικής.
Στην συνέχεια γίνεται αναλυτική περιγραφή των δεδομένων με τα οποία πραγματοποιήθηκε η εκπαίδευση του μοντέλου καθώς επίσης αναφέρεται και όλη η προεργασία των δεδομένων που ήταν απαραίτητη να γίνει πριν την εκπαίδευση.
Στο τέλος παρουσιάζονται τα τελικά συμπεράσματα και οι περιοχές για περαιτέρω έρευνα. | el |
| dc.format.extent | 44 | el |
| dc.language.iso | el | el |
| dc.publisher | Πανεπιστήμιο Πειραιώς | el |
| dc.title | Μοντέλα transformer για την ταξινόμηση στιχουργών | el |
| dc.title.alternative | Transformer models for song lyrics writers classification | el |
| dc.type | Master Thesis | el |
| dc.contributor.department | Σχολή Τεχνολογιών Πληροφορικής και Επικοινωνιών. Τμήμα Πληροφορικής | el |
| dc.description.abstractEN | This thesis focuses on the architecture of deep learning models (transformers). It analyzes the architecture and presents the implementation of this specific model on song lyrics to classify each line with its corresponding artist who created it.
Initially, related approaches to text data problems that utilize the transformer architecture as a model are examined. Furthermore, the necessary data preprocessing steps before model training are described, along with an analysis of the data to ensure proper training process.
Next, the transformer architecture is elaborated in detail to provide an understanding of how these models can achieve results similar to human-like performance. Visual illustrations are used at several points to facilitate comprehension of the architecture.
Then, a detailed description of the training data used for the model is provided, along with the preprocessing steps required prior to training.
Finally, the thesis concludes with the final findings and areas for further research. | el |
| dc.contributor.master | Προηγμένα Συστήματα Πληροφορικής - Ανάπτυξη Λογισμικού και Τεχνητής Νοημοσύνης | el |
| dc.subject.keyword | Artificial intelligence | el |
| dc.subject.keyword | AI | el |
| dc.subject.keyword | NLP | el |
| dc.subject.keyword | Classification problem | el |
| dc.date.defense | 2023-05-10 | |
