ΓΙΝΕΤΑΙ ΝΑ ΑΠΟΦΑΣΙΖΕΙ Η ΤΕΧΝΗΤΗ ΝΟΗΜΟΣΥΝΗ ΠΟΙΟΣ ΔΙΚΑΙΟΥΤΑΙ ΑΣΥΛΟ;

Η χρήση τεχνητής νοημοσύνης στις υπηρεσίες ασύλου φαίνεται να επιταχύνει τις διαδικασίες, εγείρει ωστόσο σοβαρά ερωτήματα για τα λάθη, τη μεροληψία και τον ρόλο της ανθρώπινης κρίσης στις τελικές αποφάσεις.

Άνθρωποι φοβισμένοι, μπερδεμένοι, σε ραντεβού για ακροάσεις, παντελώς ξένοι σε ξένο τόπο, με γλώσσα άγνωστη στ’ αφτιά τους και την ανάγκη διερμηνέα, να περιμένουν αγωνιωδώς μια μηχανή να καταλήξει αν θα γίνει δεκτή η αίτησή τους για άσυλο ή θα απελαθούν. Η τεχνητή νοημοσύνη (AI), που εισχωρεί όλο και πιο βαθιά στη σφαίρα των ανθρώπινων υποθέσεων και της πολιτικής, αναμένεται να αποφασίζει στο μέλλον για τις τύχες των μεταναστών και προσφύγων.

Το πότε και αν θα γίνει η πλήρης ανάληψη των καθηκόντων από τους αλγόριθμους δεν είναι ακόμα γνωστό. Η ενσωμάτωση γίνεται σταδιακά και, προς ώρας, τα εργαλεία AI χρησιμοποιούνται για την αξιολόγηση αναγκών, την επαλήθευση ταυτοτήτων, τη μετάφραση, την απομαγνητοφώνηση συνεντεύξεων και την ιεράρχηση περιστατικών. Ωστόσο, ακόμα και αν παραμένει στις αρμοδιότητες του δημόσιου λειτουργού να υπογράψει την τελική απόφαση, το περίγραμμα για την εκάστοτε υπόθεση θα φέρει την υπογραφή της τεχνητής νοημοσύνης.

Η ανθρώπινη εμπειρία συμπυκνωμένη σε κουτάκια

Το Vulnerability Assessment Framework (VAF) είναι ένα εργαλείο που ανέπτυξε ο ΟΗΕ για να αξιολογεί και να συγκρίνει τον βαθμό ευαλωτότητας των οικογενειών. Το σύστημα συλλέγει πληροφορίες για το εισόδημα, τα χρέη, την κατάσταση της υγείας, τις συνθήκες στέγασης και τις οικογενειακές υποχρεώσεις και τις μετατρέπει σε τυποποιημένους δείκτες, ούτως ώστε οι ανθρωπιστικοί οργανισμοί να μπορούν να αποφασίζουν πιο γρήγορα ποια οικογένεια χρειάζεται μεγαλύτερη υποστήριξη.

Το VAF δεν λαμβάνει αποφάσεις μόνο του ούτε χρησιμοποιεί ακόμα τεχνητή νοημοσύνη. Ωστόσο, το γεγονός ότι προσπαθεί να μετατρέψει την ανθρώπινη δυσκολία σε μεταβλητές και να τη χωρέσει σε κουτάκια δεν υπολογίζει πτυχές της ατομικής εμπειρίας που ενδεχομένως ξεφεύγουν από τις τυποποιημένες κατηγορίες. Η εφαρμογή του ΑΙ θα συμπυκνώσει ακόμη πιο βίαια την πολυπλοκότητα τη ζωής σε αριθμούς και στατιστικά σκορ.

Η Ύπατη Αρμοστεία του ΟΗΕ για τους Πρόσφυγες (UNHCR) έχει ήδη παρουσιάσει το στρατηγικό της πλάνο για την αξιοποίηση της τεχνολογίας σε τομείς όπως ο προσδιορισμός του καθεστώτος πρόσφυγα, η μετάφραση και η ανάλυση αναγκών. Η Διεθνής Επιτροπή Διάσωσης (IRC) δοκιμάζει chatbots ώστε οι εκτοπισμένοι να λαμβάνουν πληροφορίες και καθοδήγηση ταχύτερα, χωρίς να λείπουν προβληματισμού για τις αδυναμίες και επικίνδυνα λάθη. Για παράδειγμα, ένα chatbot που βασίζεται σε παρωχημένα δεδομένα μπορεί να δώσει λανθασμένες οδηγίες για θέματα ασφάλειας ή μετακίνησης, ενώ σε μια διακοπή ρεύματος ή σύνδεσης στο διαδίκτυο, η πρόσβαση στις πληροφορίες να χαθεί ακριβώς τη στιγμή που είναι πιο αναγκαία.

Η ΧΡΗΣΗ ΑΙ ΑΠΟ ΤΙΣ ΒΡΕΤΑΝΙΚΕΣ ΥΠΗΡΕΣΙΕΣ ΑΣΥΛΟΥ ΕΠΙΤΑΧΥΝΕ ΤΙΣ ΔΙΑΔΙΚΑΣΙΕΣ, ΣΥΝΟΔΕΥΤΗΚΕ ΟΜΩΣ ΑΠΟ ΑΝΑΚΡΙΒΕΙΕΣ ΚΑΙ ΠΑΡΑΛΕΙΨΕΙΣ ΠΟΥ ΘΑ ΜΠΟΡΟΥΣΑΝ ΝΑ ΕΠΗΡΕΑΣΟΥΝ ΤΙΣ ΑΠΟΦΑΣΕΙΣ.

Το παράδειγμα του Ηνωμένου Βασιλείου

Στο Ηνωμένο Βασίλειο, το Υπουργείο Εσωτερικών δοκιμάζει εργαλεία ΑΙ που συνοψίζουν συνεντεύξεις ασύλου και συλλέγουν πληροφορίες που χρειάζονται οι εξεταστές. Τα αποτελέσματα από την εφαρμογή των συστημάτων έδειξαν ότι επιτάχυναν τις διαδικασίες, η χρήση τους όμως συνοδεύτηκε από ανακρίβειες και παραλείψεις στις συνόψεις, οι οποίες θα μπορούσαν να επηρεάσουν την κρίση των υπαλλήλων.

Ακόμη πιο αμφιλεγόμενη είναι η χρήση λογισμικού εκτίμησης ηλικίας μέσω φωτογραφιών προσώπου. Η βρετανική κυβέρνηση υποστηρίζει ότι το μέτρο θα βοηθήσει στον εντοπισμό ενηλίκων που δηλώνουν ψευδώς ανήλικοι. Ωστόσο, σύμφωνα με το BBC, οργανώσεις ανθρωπίνων δικαιωμάτων και κοινωνικοί λειτουργοί προειδοποιούν ότι η ηλικιακή αξιολόγηση αποτελεί σύνθετη διαδικασία που δεν μπορεί να ανατεθεί σε έναν αλγόριθμο χωρίς σοβαρό κίνδυνο σφαλμάτων. Μια λανθασμένη εκτίμηση για έναν ασυνόδευτο ανήλικο θα του στερούσε την ειδική προστασία και τη διαφορετική μεταχείριση που δικαιούται ως παιδί.

Εικονογράφηση: Ελένη Καστρινογιάννη

Γιατί αντιστέκεται η Ευρωπαϊκή Ένωση

Πιο προσεκτική φαίνεται η Ευρωπαϊκή Ένωση (ΕΕ) με το AI Act, την πρώτη ολοκληρωμένη νομοθεσία για την τεχνητή νοημοσύνη παγκοσμίως. Παρότι αναγνωρίζει ότι η τεχνητή νοημοσύνη μπορεί να συμβάλει στην αντιμετώπιση των μεγάλων καθυστερήσεων και του όγκου των αιτήσεων ασύλου, κατατάσσει τα συστήματα που χρησιμοποιούνται στις υπηρεσίες για το προσφυγικό, τη μετανάστευση και τη διαχείριση συνόρων στην κατηγορία «υψηλού κινδύνου». Αυτό σημαίνει ότι υπόκεινται σε αυστηρό καθεστώς διαφάνειας, αξιολόγησης κινδύνων, προστασίας θεμελιωδών δικαιωμάτων και ανθρώπινης εποπτείας.

ΟΙ ΑΛΓΟΡΙΘΜΟΙ ΛΕΙΤΟΥΡΓΟΥΝ ΜΕ ΒΑΣΗ ΜΟΤΙΒΑ ΚΑΙ ΣΥΣΧΕΤΙΣΕΙΣ ΠΟΥ ΕΧΟΥΝ ΜΑΘΕΙ ΑΠΟ ΤΟ ΠΑΡΕΛΘΟΝ, ΕΝΩ ΟΙ ΑΠΟΦΑΣΕΙΣ ΓΙΑ ΑΣΥΛΟ ΑΠΑΙΤΟΥΝ ΕΜΠΕΙΡΙΑ, ΕΝΣΥΝΑΙΣΘΗΣΗ ΚΑΙ ΥΠΟΛΟΓΙΣΜΟ ΣΥΓΚΕΚΡΙΜΕΝΩΝ ΣΤΟΙΧΕΙΩΝ ΚΑΙ ΣΥΝΘΗΚΩΝ, ΟΠΩΣ Ο ΦΟΒΟΣ ΔΙΩΞΗΣ Ή ΟΙ ΣΥΝΕΠΕΙΕΣ ΕΝΟΣ ΕΠΑΝΑΠΑΤΡΙΣΜΟΥ.

Υπάρχουν κράτη-μέλη που χρησιμοποιούν ήδη εργαλεία για την αναγνώριση διαλέκτων, την αυτόματη απομαγνητοφώνηση συνεντεύξεων, τον εντοπισμό παρόμοιων υποθέσεων και την ανάλυση δεδομένων που μπορούν να βοηθήσουν στην επαλήθευση στοιχείων ταυτότητας ή προέλευσης των αιτούντων. Ωστόσο, το Ευρωπαϊκό Κοινοβούλιο προειδοποιεί ότι τα πιθανά οφέλη συνοδεύονται από σημαντικούς κινδύνους:

• Τα συστήματα τεχνητής νοημοσύνης μπορούν να αναπαράγουν προκαταλήψεις που υπάρχουν στα δεδομένα εκπαίδευσής τους ή να παράγουν λανθασμένα αποτελέσματα. Χαρακτηριστικά, το γερμανικό σύστημα αναγνώρισης διαλέκτων DIAS παρουσιάζει ποσοστά σφάλματος που φτάνουν το 15%-20% στις αραβικές διαλέκτους και το 27% στις γλώσσες Φαρσί και Νταρί (Αφγανιστάν, Ιράν).
• Οι αλγόριθμοι λειτουργούν με βάση μοτίβα και συσχετίσεις που έχουν μάθει από το παρελθόν, ενώ οι αποφάσεις για άσυλο απαιτούν εμπειρία, ενσυναίσθηση και υπολογισμό συγκεκριμένων περιστάσεων και μελλοντικών κινδύνων (π.χ. αξιολόγηση του φόβου δίωξης, της αξιοπιστίας μιας μαρτυρίας ή των συνεπειών ενός επαναπατρισμού).
• Υπάρχει το πρόβλημα της αλγοριθμικής μεροληψίας (automation bias), της τάσης των ανθρώπων να εμπιστεύονται υπερβολικά τις εισηγήσεις ενός αλγορίθμου.

Πάγια θέση της ΕΕ είναι ότι ο άνθρωπος θα πρέπει να έχει τον τελευταίο λόγο (human-in-the-loop), για να μπορεί να αμφισβητήσει, να διορθώσει ή να ανατρέψει το αποτέλεσμα του αλγορίθμου.

Τι γίνεται στην Ελλάδα

Στην Ελλάδα, ψηφίστηκε πριν λίγες ημέρες το νομοσχέδιο για την Μετανάστευση και το Άσυλο, το οποίο επιτρέπει τη χρήση ΑΙ για υποστηρικτικές λειτουργίες, όπως η απομαγνητοφώνηση συνεντεύξεων, η μετάφραση και η παροχή πληροφοριών στους αιτούντες.

Παρ' όλα αυτά, οργανώσεις της κοινωνίας των πολιτών έχουν εκφράσει ανησυχίες πως, αν και το σχέδιο νόμου δεν προβλέπει ρητά την κατάρτιση προφίλ (profiling) ή την αξιολόγηση κινδύνου (risk assessment), η μαζική συλλογή και διασύνδεση βιομετρικών και προσωπικών δεδομένων μαζί με τη χρήση αυτοματοποιημένων συστημάτων και τεχνητής νοημοσύνης για μετάφραση, υποτιτλισμό και καταγραφή συνεντεύξεων μπορεί να οδηγήσει στη δημιουργία ενός μηχανισμού που κατηγοριοποιεί και αξιολογεί αυτόματα τους αιτούντες διεθνή προστασία.