Μία από τις βασικότερες διαπιστώσεις που αφορούν στην Τεχνητή Νοημοσύνη είναι ότι όσο αυτή αποκτά μεγαλύτερη δυνατότητα να επηρεάζει ανθρώπινες ζωές, τόσο λιγότερο μπορεί να αντιμετωπίζεται ως ένα ουδέτερο τεχνικό εργαλείο. Αν όμως η ΤΝ αποτελεί πλέον μορφή ισχύος, τότε ανακύπτει ένα βαθύτερο ζήτημα. Τι συμβαίνει όταν ο αλγόριθμος κάνει λάθος;
Φανταστείτε έναν πολίτη του οποίου απορρίπτεται αυτοματοποιημένα μια αίτηση. Έναν υποψήφιο που αποκλείεται από διαδικασία πρόσληψης. Έναν ασθενή που αξιολογείται ως χαμηλότερης προτεραιότητας. Έναν φοιτητή του οποίου η επίδοση κατηγοριοποιείται από ένα αυτοματοποιημένο σύστημα. Η πρώτη ανάγκη είναι ασφαλώς να γνωρίζει τι συνέβη. Αλλά αυτό δεν αρκεί. Η δυνατότητα να εξηγηθεί μια αλγοριθμική απόφαση δεν σημαίνει αυτομάτως ότι υπάρχει και λογοδοσία. Μπορεί να γνωρίζουμε πώς προέκυψε ένα αποτέλεσμα και παρ’ όλα αυτά να μην υπάρχει κανείς που να μπορεί να το ανατρέψει.
Εδώ βρίσκεται μία από τις σημαντικότερες διακρίσεις της νέας εποχής, ήτοι άλλο η επεξήγηση και η εξήγηση και άλλο λογοδοσία. Η πραγματική προστασία του ανθρώπου προϋποθέτει κάτι περισσότερο και αυτό είναι το δικαίωμα αμφισβήτησης. Ποιος μπορεί να διορθώσει το αποτέλεσμα; Σε ποιον απευθύνεται ο πολίτης; Υπάρχει άνθρωπος με πραγματική εξουσία παρέμβασης ή η «ανθρώπινη εποπτεία» αποτελεί απλώς μια τυπική παρουσία δίπλα στο σύστημα;
Το ζήτημα αποκτά ιδιαίτερη σημασία επειδή η ευθύνη στην ΑΙ μπορεί εύκολα να διαχυθεί. Ο προγραμματιστής δημιούργησε το μοντέλο. Άλλη εταιρεία παρείχε τα δεδομένα. Ένας οργανισμός αγόρασε το σύστημα. Ένας υπάλληλος το χρησιμοποίησε. Η τελική απόφαση βασίστηκε στην πρόβλεψή του. Και όταν προκύψει βλάβη, όλοι μπορούν να δείχνουν κάποιον άλλον. Αυτό ακριβώς είναι το σημείο όπου η διάχυση της ευθύνης κινδυνεύει να μετατραπεί σε απουσία ευθύνης.
Γι’ αυτό και η ηθική της ΑΙ δεν μπορεί να περιορίζεται στη στιγμή της κατασκευής. Χρειάζεται αυτό που στην γλώσσα των νέων τεχνολογιών ονομάζεται «ethics by design», αλλά, έτι περισσότερο, χρειάζεται «ethics in use», δηλαδή την παρακολούθηση μετά την ανάπτυξη, μηχανισμούς αναφοράς προβλημάτων, διορθωτικές διαδικασίες και πραγματική δυνατότητα προσφυγής.
Η κατεύθυνση αυτή αποτυπώνεται πλέον και θεσμικά. Η Σύμβαση – Πλαίσιο του Συμβουλίου της Ευρώπης για την Τεχνητή Νοημοσύνη συνδέει την τεχνολογία με τα ανθρώπινα δικαιώματα, τη δημοκρατία και το κράτος δικαίου και προβλέπει, μεταξύ άλλων, αξιολογήσεις κινδύνου και επιπτώσεων καθώς και διαδικαστικές εγγυήσεις. Ανάλογη είναι και η λογική του NIST, ότι δηλαδή η διαχείριση του κινδύνου δεν αποτελεί μία εφάπαξ διαδικασία, αλλά έναν συνεχή κύκλο διακυβέρνησης, χαρτογράφησης, μέτρησης και διαχείρισης.
Κι εδώ βρίσκεται ίσως το πραγματικό τεστ της υπεύθυνης Τεχνητής Νοημοσύνης. Όχι εάν το σύστημα κάνει ποτέ λάθος. Άλλωστε, κανένα ανθρώπινο ή τεχνολογικό σύστημα δεν είναι αλάνθαστο. Αλλά εάν, όταν κάνει λάθος, ο άνθρωπος μπορεί να το αμφισβητήσει, να ακουστεί και να δικαιωθεί. Διότι σε μια δημοκρατική κοινωνία δεν αρκεί να γνωρίζουμε πώς αποφασίζει η εξουσία. Πρέπει πάντοτε να υπάρχει και η δυνατότητα να της πούμε «κάνεις λάθος».
