Comparative evaluation of penalized techniques and machine learning techniques for the study of linear model

Raisis, Dimitrios; Ραΐσης, Δημήτριος

dc.contributor.advisor	Karagrigoriou, Alexandros
dc.contributor.advisor	Καραγρηγορίου, Αλέξανδρος
dc.contributor.author	Raisis, Dimitrios
dc.contributor.author	Ραΐσης, Δημήτριος
dc.date.accessioned	2026-07-15T06:59:50Z
dc.date.available	2026-07-15T06:59:50Z
dc.date.issued	2026-06
dc.identifier.uri	https://dione.lib.unipi.gr/xmlui/handle/unipi/19556
dc.description.abstract	Η πρόβλεψη συνεχών μεταβλητών αποτελεί σημαντικό αντικείμενο της σύγχρονης στατιστικής ανάλυσης και της μηχανικής μάθησης. Πέρα από τα κλασικά γραμμικά μοντέλα, έχουν αναπτυχθεί μέθοδοι ποινικοποιημένης παλινδρόμησης, όπως οι Ridge, Lasso και Elastic Net, οι οποίες επιτρέπουν την αντιμετώπιση προβλημάτων όπως η πολυσυγγραμμικότητας και η μείωση διάστασης . Παράλληλα, οι μέθοδοι δέντρων παλινδρόμησης αποτελούν μια ευέλικτη μη παραμετρική προσέγγιση που μπορεί να μοντελοποιήσει μη γραμμικές σχέσεις μεταξύ των μεταβλητών, ενώ σύγχρονες τεχνικές όπως τα Random Forests συνδυάζουν πολλαπλά δέντρα με σκοπό τη βελτίωση της προβλεπτικής ακρίβειας. Στην παρούσα εργασία μελετάται και συγκρίνεται η προβλεπτική ικανότητα των παραπάνω μεθόδων, καθώς και υβριδικών προσεγγίσεων που συνδυάζουν τον αριθμό των μεταβλητών μέσω elastic net με Regression trees. Επιπλέον, εξετάζονται γενικές συναρτήσεις ποινικοποίησης που χρησιμοποιείται στη διαδικασία κλαδέματος (pruning) δέντρων, με στόχο να διερευνηθεί κατά πόσο οι γενικεύσεις αυτές μπορούν να βελτιώσουν την προβλεπτική ικανότητα του μοντέλου. Η αξιολόγηση των μεθόδων πραγματοποιείται μέσω εφαρμογών σε πραγματικά σύνολα δεδομένων και σύγκρισης κατάλληλων μέτρων αξιολόγησης, με σκοπό την ανάδειξη των πλεονεκτημάτων και των περιορισμών κάθε μεθόδου. Στην εισαγωγική ενότητα συζητούνται τα δύο πραγματικά σύνολα δεδομένων από της R. Η πρόβλεψη συνεχών μεταβλητών αποτελεί σημαντικό αντικείμενο της σύγχρονης στατιστικής ανάλυσης και της μηχανικής μάθησης. Πέρα από τα κλασικά γραμμικά μοντέλα, έχουν αναπτυχθεί μέθοδοι ποινικοποιημένης παλινδρόμησης, όπως οι Ridge, Lasso και Elastic Net, οι οποίες επιτρέπουν την αντιμετώπιση προβλημάτων όπως η πολυσυγγραμμικότητας και η μείωση διάστασης . Παράλληλα, οι μέθοδοι δέντρων παλινδρόμησης αποτελούν μια ευέλικτη μη παραμετρική προσέγγιση που μπορεί να μοντελοποιήσει μη γραμμικές σχέσεις μεταξύ των μεταβλητών, ενώ σύγχρονες τεχνικές όπως τα Random Forests συνδυάζουν πολλαπλά δέντρα με σκοπό τη βελτίωση της προβλεπτικής ακρίβειας. Στην παρούσα εργασία μελετάται και συγκρίνεται η προβλεπτική ικανότητα των παραπάνω μεθόδων, καθώς και υβριδικών προσεγγίσεων που συνδυάζουν τον αριθμό των μεταβλητών μέσω elastic net με Regression trees. Επιπλέον, εξετάζονται γενικές συναρτήσεις ποινικοποίησης που χρησιμοποιείται στη διαδικασία κλαδέματος (pruning) δέντρων, με στόχο να διερευνηθεί κατά πόσο οι γενικεύσεις αυτές μπορούν να βελτιώσουν την προβλεπτική ικανότητα του μοντέλου. Η αξιολόγηση των μεθόδων πραγματοποιείται μέσω εφαρμογών σε πραγματικά σύνολα δεδομένων και σύγκρισης κατάλληλων μέτρων αξιολόγησης, με σκοπό την ανάδειξη των πλεονεκτημάτων και των περιορισμών κάθε μεθόδου. Στην εισαγωγική ενότητα συζητούνται τα δύο πραγματικά σύνολα δεδομένων από της R.	el
dc.format.extent	82	el
dc.language.iso	en	el
dc.publisher	Πανεπιστήμιο Πειραιώς	el
dc.rights	Αναφορά Δημιουργού-Μη Εμπορική Χρήση-Όχι Παράγωγα Έργα 3.0 Ελλάδα	*
dc.rights.uri	http://creativecommons.org/licenses/by-nc-nd/3.0/gr/	*
dc.title	Comparative evaluation of penalized techniques and machine learning techniques for the study of linear model	el
dc.title.alternative	Συγκριτική αξιολόγηση ποινικοποιημένων τεχνικών και τεχνικών μηχανικής μάθησης	el
dc.type	Master Thesis	el
dc.contributor.department	Σχολή Χρηματοοικονομικής και Στατιστικής. Τμήμα Στατιστικής και Ασφαλιστικής Επιστήμης	el
dc.description.abstractEN	The prediction of continuous response variables is an important topic in modern statistical analysis and machine learning. In addition to classical linear models, penalized regression methods such as Ridge, Lasso, and Elastic Net have been developed to address problems including multicollinearity and dimensionality reduction. At the same time, regression tree methods provide a flexible non-parametric approach capable of modeling nonlinear relationships among variables, while modern techniques such as Random Forests combine multiple trees in order to improve predictive accuracy. This thesis studies and compares the predictive performance of the aforementioned methods, as well as hybrid approaches that combine variable selection through Elastic Net with regression trees. Furthermore, generalized penalty functions for the tree pruning process are investigated in order to examine whether these generalizations can improve the predictive performance of the resulting models. The methods are evaluated using real-world datasets and appropriate performance measures, with the aim of highlighting the advantages and limitations of each approach. The introductory chapter presents the two real-world datasets available in the R statistical environment.	el
dc.contributor.master	Εφαρμοσμένη Στατιστική	el
dc.subject.keyword	Regression	el
dc.subject.keyword	Tree models	el
dc.subject.keyword	Regression trees	el
dc.subject.keyword	Machine learning	el
dc.subject.keyword	Penalized regression	el
dc.subject.keyword	Random forests	el
dc.date.defense	2026-06-30

Αρχεία σε αυτό το τεκμήριο

Name:
Μέγεθος:: 1.956Mb
Τύπος:: PDF
Description:: Master thesis

Προβολή/Άνοιγμα

Αυτό το τεκμήριο εμφανίζεται στις ακόλουθες συλλογές

Τμήμα Στατιστικής και Ασφαλιστικής Επιστήμης
Department of Statistics & Insurance Science

Εμφάνιση απλής εγγραφής

Αναφορά Δημιουργού-Μη Εμπορική Χρήση-Όχι Παράγωγα Έργα 3.0 Ελλάδα

Εκτός από όπου διευκρινίζεται διαφορετικά, το τεκμήριο διανέμεται με την ακόλουθη άδεια:
Αναφορά Δημιουργού-Μη Εμπορική Χρήση-Όχι Παράγωγα Έργα 3.0 Ελλάδα