Διαχείριση κινδύνων ασφαλείας και ιδιωτικότητας σε συστήματα τεχνητής νοημοσύνης

Abstract

Η ανάπτυξη των συστημάτων Τεχνητής Νοημοσύνης (ΤΝ) σε κρίσιμους τομείς της κοινωνίας και της οικονομίας έχει αναδείξει νέες προκλήσεις που σχετίζονται με την ασφάλεια των πληροφοριών και την προστασία της ιδιωτικότητας. Τα συστήματα, λόγω της εξάρτησής τους από μεγάλο όγκο δεδομένων, της πολυπλοκότητας και της δυναμικής τους συμπεριφοράς, εισάγουν κινδύνους που δεν καλύπτονται επαρκώς από τις παραδοσιακές προσεγγίσεις διαχείρισης κινδύνων. Στο πλαίσιο αυτό, η παρούσα διπλωματική εργασία εξετάζει συστηματικά τη διαχείριση κινδύνων ασφάλειας και ιδιωτικότητας σε συστήματα Τεχνητής Νοημοσύνης. Αρχικά, παρουσιάζονται οι βασικές έννοιες της Τεχνητής Νοημοσύνης και οι τεχνολογίες που την απαρτίζουν, καθώς και η επίδρασή της στην κοινωνία και στο κανονιστικό περιβάλλον. Στη συνέχεια, αναλύονται οι κύριοι κίνδυνοι ασφάλειας και ιδιωτικότητας που προκύπτουν κατά τον κύκλο ζωής των συστημάτων AI. Παράλληλα, παρουσιάζεται η διαδικασία διαχείρισης και αξιολόγησης κινδύνων, βασισμένη σε διεθνή πρότυπα και πλαίσια, όπως του ISO και του NIST, αλλά και ο ρόλος του Ρυθμιστικού πλαισίου για την Τεχνητή Νοημοσύνη, όπως ο ευρωπαϊκός κανονισμός AI Act. Τέλος, η εργασία εξετάζει σύγχρονα πλαίσια χαρτογράφησης και ταξινόμησης κινδύνων, όπως το Plot4AI, το MITRE ATLAS, το και το AI Risk Taxonomy, τα οποία συμβάλλουν στην κατανόηση και αποτύπωση των ρίσκων που διέπουν την τεχνολογία αυτή, και καταλήγει σε συμπεράσματα και μελλοντικούς προβληματισμούς.