Τεχνητή νοημοσύνη και δικαιοσύνη / Δικαστικό σύστημα

Abstract

H χρήση της ΤΝ εξαπλώνεται με ταχύτατους ρυθμούς σε όλους τους τομείς των ανθρώπινων δραστηριοτήτων. Ειδικότερα, η ΤΝ αξιοποιείται πλέον για την έγκαιρη διάγνωση ασθενειών, για τη ρύθμιση της κυκλοφορίας, για την αξιολόγηση των υποψήφιων εργαζομένων και των δανειοληπτών κ.ά. Η ΤΝ χρησιμοποιείται, επίσης, τόσο στην αστική/ διοικητική δικαιοσύνη για τη δημιουργία κλιμάκων αποζημίωσης και την εξωδικαστική επίλυση των διαφορών, όσο και στην ποινική δικαιοσύνη από τις αστυνομικές αρχές για τον εντοπισμό του τόπου και του χρόνου όπου είναι πιθανότερο να διαπραχθεί ένα έγκλημα και των πιθανών δραστών (προβλεπτική αστυνόμευση), όσο και ως βοηθητικό εργαλείο των δικαστών κατά την επιβολή ποινής, την απόλυση κατηγορουμένων υφ’ όρων, τον προσδιορισμού του ύψους της εγγύησης που πρέπει να επιβληθεί ως περιοριστικός όρος κ.ά. Η χρήση αλγοριθμικών εργαλείων στη Δικαιοσύνη μπορεί να συνδράμει ώστε οι αποφάσεις να λαμβάνονται γρηγορότερα με την αυτοματοποίηση πολλών διαδικασιών και να είναι πιο διαφανείς και ουσιαστικά δίκαιες με την εξάλειψη των στερεοτύπων και των διακρίσεων που αναπαράγονται από τις αστυνομικές και δικαστές αρχές. Ωστόσο, η ενσωμάτωση εργαλείων ΤΝ, ιδίως στην ποινική δικαιοσύνη, ενδέχεται να θέσει σε κίνδυνο θεμελιώδη δικαιώματα, όπως το δικαίωμα στην ελευθερία (άρθρο 5 ΕΣΔΑ), το δικαίωμα σε δίκαιη δίκη (άρθρο 6 ΕΣΔΑ), το δικαίωμα στην ιδιωτικότητα (άρθρο 8 ΕΣΔΑ και ΓΚΠΔ) και την απαγόρευση των διακρίσεων (άρθρο 14 ΕΣΔΑ). Τα αλγοριθμικά συστήματα, αν και παρουσιάζονται ως «ουδέτερα», μπορεί να αναπαράγουν τις διακρίσεις που εντοπίζονται στο δικαστικό σύστημα, αν εκπαιδευτούν με δεδομένα προηγούμενων υποθέσεων που ενσωματώνουν αυτές τις προκαταλήψεις. Για να αποφευχθούν αυτοί οι κίνδυνοι για τα θεμελιώδη δικαιώματα είναι αναγκαίο να θεσπιστεί ένα σαφές νομικό πλαίσιο που να διέπει τη χρήση των αλγοριθμικών εργαλείων στη Δικαιοσύνη. Το νομικό αυτό πλαίσιο θα πρέπει να βασίζεται στις εξής αρχές: συμμόρφωση των εργαλείων ΤΝ με τα θεμελιώδη δικαιώματα, διαφάνεια (δυνατότητα πρόσβασης στον αλγόριθμο τόσο για τους χρήστες των συστημάτων όσο και για τα άτομα που αφορά η απόφαση και δυνατότητα εξήγησης του τρόπου λειτουργίας του), μη αναπαραγωγή μεροληπτικών πρακτικών (είτε με την εκ των προτέρων διόρθωση των δεδομένων που λαμβάνει υπόψη ο αλγόριθμος είτε με την εκ των υστέρων διόρθωση του αποτελέσματος αν διαπιστωθεί ότι διαιωνίζει στερεότυπα), ανθρώπινη συμμετοχή (η τελική απόφαση θα πρέπει να λαμβάνεται από άνθρωπο ενώ θα πρέπει να υπάρχει δυνατότητα αμφισβήτησης της απόφασης του συστήματος ΤΝ).