Πρόβλεψη χρονοσειρών κλιματικών μεταβλητών βασισμένη σε Transformers

Abstract

Η παρούσα εργασία εστιάζει στην ανάλυση και την πρόβλεψη περιβαλλοντικών μεταβλητών, αξιοποιώντας προηγμένες τεχνικές Τεχνητής Νοημοσύνης και Βαθιάς Μάθησης. Ο κύριος στόχος της εργασίας είναι η κατασκευή ενός σύγχρονου και αξιόπιστου μοντέλου πρόγνωσης, βασισμένο στην αρχιτεκτονική Transformers, με την ικανότητα να προβλέπει την εξέλιξη των κλιματικών δεικτών, όπως στατιστικές τιμές θερμοκρασίας και βροχόπτωσης, σε βάθος χρόνου. Η μελέτη βασίζεται σε ιστορικά δεδομένα χρονοσειρών που υπερβαίνουν τον έναν αιώνα, και αποτελούν το υπόβαθρο για την κατανόηση των περιβαλλοντικών τάσεων και την κλιματική μεταβολή.

Ιδιαίτερη έμφαση δίνεται στην συγκέντρωση και την προεπεξεργασία των δεδομένων, καθώς η ποιότητα και η πληρότητά τους έχει καθοριστική σημασία για την εκπαίδευση και την αξιολόγηση ενός αποτελεσματικού μοντέλου πρόγνωσης που στοχεύει στην ακρίβεια. Στην εργασία περιλαμβάνεται αναλυτική οπτικοποίηση στατιστικών δεικτών που αντλήθηκαν από τις χρονοσειρές, στην οποία παρατηρείται ιδιαίτερο ενδιαφέρον για την εξέλιξη του κλίματος. Εξετάζοντας αυτά τα δεδομένα, επιδιώκεται αρχικά να παρουσιαστεί μια απτή εικόνα της πορείας των περιβαλλοντικών συνθηκών της Αθήνας, εντός ενός μεγάλου χρονικού ορίζοντα. Παράλληλα δημιουργείται το κατάλληλο πλαίσιο ώστε ο αναγνώστης να κατανοήσει σε βάθος το αντικείμενο της μελέτης, και εν τέλει να διαπιστώσει την μεγάλη δύναμη που προσφέρει η ικανότητας της πρόβλεψης των μεταβλητών στο μέλλον.

Η καινοτομία της εργασίας εντοπίζεται στη χρήση της αρχιτεκτονικής Transformers, μιας επαναστατικής μεθόδου στην επεξεργασία ακολουθιών δεδομένων η οποία, μέχρι σήμερα, έχει εφαρμοστεί περιορισμένα σε προβλήματα που σχετίζονται με κλιματικές χρονοσειρές. Το μοντέλο αναπτύσσεται, χρησιμοποιώντας έναν μηχανισμό προσοχής (attention) για την εξέταση ολόκληρης της σειράς εισόδου ταυτόχρονα, και μας επιτρέπει να επιτυγχάνουμε πιο αποδοτική εκμάθηση μακροπρόθεσμων εξαρτήσεων, κάτι πολύ απαραίτητο για επίτευξη ακριβούς πρόβλεψης σε βάθος χρόνου.

Κατά τον πειραματισμό με το μοντέλο πρόγνωσης, εφαρμόζονται εναλλακτικές προσεγγίσεις της αρχιτεκτονικής Transformers, καθώς και εναλλαγές στην παραμετροποίηση κατά την εκπαίδευση του μοντέλου. Η κάθε προσέγγιση θα δοκιμαστεί στην πρόβλεψη με συγκεκριμένο χρονικό ορίζοντα, διαφοροποιώντας κάθε φορά τα δεδομένα εισόδου. Στη συνέχεια με τη χρήση κατάλληλων μετρικών ακρίβειας, θα αναδείξουμε τα πλεονεκτήματα και τους περιορισμούς κάθε προσέγγισης, και εν τέλει θα παρουσιάσουμε τις βέλτιστες επιδόσεις του αλγορίθμου.

Τέλος, μελετώντας συνολικά τα αποτελέσματα, θα εξάγουμε συμπεράσματα σχετικά με τη δυνατότητα της αρχιτεκτονικής Transformers στην πρόβλεψη της εξέλιξης περιβαλλοντικών μεταβλητών σε βάθος χρόνου, και θα διατυπώσουμε σκέψεις για βελτιώσεις και προτάσεις για μελλοντικές εφαρμογές.