ΞΕΡΕΙΣ ΟΤΙ Η ΤΕΧΝΗΤΗ ΝΟΗΜΟΣΥΝΗ ΕΧΕΙ «ΨΕΥΔΑΙΣΘΗΣΕΙΣ»;

Πόσο σημαντικές (ή και επικίνδυνες) είναι τελικά οι «ψευδαισθήσεις» από τις οποίες φαίνεται να πάσχει η τεχνητή νοημοσύνη;

Πριν από λίγο καιρό, σε ένα επεισόδιο podcast του OpenAI, ο Sam Altman, Διευθύνων Σύμβουλος της OpenAI, είπε: «Οι άνθρωποι έχουν πολύ μεγάλη εμπιστοσύνη στο ChatGPT κι αυτό είναι ενδιαφέρον, καθώς η Τεχνητή Νοημοσύνη (AI) έχει “ψευδαισθήσεις”. Θα έπρεπε να είναι η τεχνολογία την οποία δεν εμπιστεύεστε τόσο πολύ».

Τι εννοούμε με τη λέξη «ψευδαισθήσεις» στην περίπτωση της τεχνητής νοημοσύνης; «Όταν ένα αλγοριθμικό σύστημα παράγει πληροφορίες που φαίνονται πειστικές, αλλά στην πραγματικότητα είναι ανακριβείς ή παραπλανητικές, οι επιστήμονες υπολογιστών μιλούν για HAL (AI hallucination). Τέτοια φαινόμενα έχουν ανιχνευθεί σε διάφορα συστήματα τεχνητής νοημοσύνης», εξηγούν σε άρθρο τους στο The Conversation οι Anna Choi και Katelyn Xiaoying Mei, που ασχολούνται με την Επιστήμη Πληροφοριών.

Τις ψευδαισθήσεις αυτές καλό είναι να μην τις παίρνουμε αψήφιστα, γιατί τα προβλήματα που μπορεί να προκύψουν ίσως είναι πιο σοβαρά από όσο νομίζουμε. Στην καλύτερη περίπτωση, θα μας δώσουν μια λάθος απάντηση σε κάποιο απλό ερώτημα. Σε άλλες περιπτώσεις, όμως, μπορεί τα αποτελέσματα να είναι καταστροφικά, π.χ. όταν λογισμικό AI χρησιμοποιείται στη λήψη δικαστικών αποφάσεων ή σε αυτόνομα οχήματα που βασίζονται στη σωστή αναγνώριση εμποδίων, οχημάτων και πεζών.

Πώς μοιάζουν οι «ψευδαισθήσεις» της τεχνητής νοημοσύνης

Όσον αφορά τα γλωσσικά μοντέλα που κρύβονται πίσω από τα chatbot, η «ψευδαίσθηση» είναι η πληροφορία που ακούγεται πειστική αλλά είναι λανθασμένη, φανταστική ή άσχετη. Τα chatbot μπορεί να αναφερθούν σε επιστημονικά άρθρα που δεν υπάρχουν ή σε ιστορικά «γεγονότα» που είναι λανθασμένα, μολονότι παρουσιάζονται ως αξιόπιστα. Επίσης, με τα AI εργαλεία που αναγνωρίζουν αντικείμενα σε εικόνες, οι «ψευδαισθήσεις» εμφανίζονται όταν οι λεζάντες δεν ανταποκρίνονται στο περιεχόμενο. Ας φανταστούμε π.χ. ότι δείχνουμε το πορτραίτο μιας γυναίκας που μιλά στο τηλέφωνο και η απάντηση που παίρνουμε είναι ότι πρόκειται για μια γυναίκα που μιλάει στο τηλέφωνο ενώ κάθεται σε ένα παγκάκι. Μπορεί στο παράδειγμα η μικρή προσθήκη να μην έχει μεγάλη σημασία, αλλά τι θα συμβεί αν σε κάποια περίπτωση η ακρίβεια είναι εξαιρετικά σημαντική;

iStock

Τι προκαλεί τις «ψευδαισθήσεις» ;

Όπως εξηγούν οι ειδικοί, οι μηχανικοί κατασκευάζουν συστήματα Τεχνητής Νοημοσύνης συλλέγοντας τεράστιες ποσότητες δεδομένων και τροφοδοτώντας τα σε ένα υπολογιστικό σύστημα που ανιχνεύει μοτίβα. Στη συνέχεια, τα σύστημα αυτό αναπτύσσει μεθόδους για να απαντά σε ερωτήσεις ή να εκτελεί εργασίες με βάση αυτά τα μοτίβα. Αν π.χ. δώσουμε σε ένα τέτοιο σύστημα 1.000 φωτογραφίες από διαφορετικές ράτσες σκύλων, με τις αντίστοιχες ετικέτες, το σύστημα θα μάθει να ανιχνεύει τη διαφορά μεταξύ ενός κανίς και ενός γκόλντεν ριτρίβερ. Αν όμως του δώσουμε μια φωτογραφία ενός μάφιν με μύρτιλλα, όπως έχουν δείξει ερευνητές μηχανικής μάθησης, μπορεί να πει ότι το μάφιν είναι... τσιουάουα.

Όταν ένα σύστημα δεν κατανοεί την ερώτηση ή τις πληροφορίες που του παρουσιάζονται, μπορεί να έχει «ψευδαισθήσεις». Οι «ψευδαισθήσεις» εμφανίζονται συχνά όταν το μοντέλο συμπληρώνει κενά με βάση παρόμοια περιεχόμενα από τα δεδομένα εκπαίδευσής του ή όταν κατασκευάζεται χρησιμοποιώντας μεροληπτικά ή ελλιπή δεδομένα εκπαίδευσης.

ΟΙ ΧΡΗΣΤΕΣ ΠΡΕΠΕΙ ΝΑ ΕΙΜΑΣΤΕ ΣΕ ΕΓΡΗΓΟΡΣΗ, ΝΑ ΑΜΦΙΣΒΗΤΟΥΜΕ ΤΙΣ ΑΠΑΝΤΗΣΕΙΣ ΟΤΑΝ ΑΠΑΙΤΕΙΤΑΙ ΑΚΡΙΒΕΙΑ ΚΑΙ ΝΑ ΤΙΣ ΕΛΕΓΧΟΥΜΕ ΜΕ ΕΓΚΥΡΕΣ ΠΗΓΕΣ.

Τι μπορούμε να κάνουμε

Στον βαθμό που τα συστήματα αυτά ενσωματώνονται στην καθημερινότητά μας, κάθε λάθος μπορεί να έχει δραματικές προεκτάσεις, π.χ. λανθασμένα ιατρικά συμπεράσματα, εσφαλμένες νομικές αποφάσεις ή κοινωνικές επιπτώσεις για ευάλωτες ομάδες.

Ανεξάρτητα από τις προσπάθειες των εταιρειών να καταπολεμήσουν τις «ψευδαισθήσεις», οι χρήστες πρέπει να είμαστε σε εγρήγορση: να αμφισβητούμε τις απαντήσεις όταν απαιτείται ακρίβεια, να ελέγχουμε με έγκυρες πηγές, να συμβουλευόμαστε ειδικούς και να είμαστε πάντα ενήμεροι για τα όρια αυτών των εργαλείων.