ΘΑ ΜΑΣ ΑΦΑΝΙΣΕΙ Η ΤΕΧΝΗΤΗ ΝΟΗΜΟΣΥΝΗ; ΕΞΕΤΑΖΟΥΜΕ 5 ΠΙΘΑΝΑ ΣΕΝΑΡΙΑ

Με ποιον τρόπο θα μπορούσε η τεχνητή νοημοσύνη να οδηγήσει στον αφανισμό της ανθρωπότητας; Ένας ειδικός στον τομέα της ΑΙ εξετάζει 5 πιθανά σενάρια.

Μπορεί η τεχνητή νοημοσύνη να γίνει τόσο ισχυρή, ώστε να απειλήσει την ίδια μας την ύπαρξη; Το ερώτημα επανέρχεται με αφορμή τις προειδοποιήσεις ερευνητών της AI, οι οποίοι εκφράζουν την ανησυχία τους για τις πιθανές συνέπειες της ανεξέλεγκτης ανάπτυξής της. Οι δηλώσεις αυτές έχουν αναζωπυρώσει τη συζήτηση για το ενδεχόμενο επιβράδυνσης της έρευνας, αλλά και για την ανάγκη να παραμείνει η τεχνολογία υπό ανθρώπινο έλεγχο.

Πέρα από τις γενικές προειδοποιήσεις, όμως, υπάρχουν συγκεκριμένοι τρόποι με τους οποίους θα μπορούσε να εκδηλωθεί μια τέτοια απειλή. Ο Toby Walsh, καθηγητής τεχνητής νοημοσύνης και επικεφαλής ερευνητικής ομάδας στο Πανεπιστήμιο της Νέας Νότιας Ουαλίας, περιγράφει πέντε πιθανά σενάρια, ξεκινώντας από το πιο αόριστο και καταλήγοντας στο πιο συγκεκριμένο. Σύμφωνα με τη δική του εκτίμηση, η σειρά αυτή αντανακλά περίπου και την αυξανόμενη πιθανότητα πραγματοποίησής τους.

Κοινό στοιχείο των περισσότερων σεναρίων είναι η εμφάνιση μιας υπερ-ευφυούς AI, δηλαδή ενός συστήματος που θα ξεπερνά τις ανθρώπινες δυνατότητες σε ένα ευρύ φάσμα δραστηριοτήτων.

Δεν μπορείς να κάνεις προβλέψεις

Πώς μπορείς να εκτιμήσεις τις προθέσεις και τις ενέργειες μιας μηχανής που θα είναι πολύ πιο έξυπνη από σένα; Ρωτά ο ειδικός. Αυτό, όπως αναφέρει, είναι ένα από τα βασικά προβλήματα που αντιμετωπίζουν όσοι προειδοποιούν για τους υπαρξιακούς κινδύνους της AI. Για να προβλέψεις τι θα μπορούσε να κάνει μια υπερ-ευφυής μηχανή, θα χρειαζόσουν ενδεχομένως εξίσου υψηλό επίπεδο ευφυΐας.

Μέχρι στιγμής, πάντως, τα μοντέλα AI διαπρέπουν στην επίλυση εξειδικευμένων προβλημάτων, χωρίς αυτό να σημαίνει ότι υπερτερούν του ανθρώπου σε όλους τους τομείς. Ωστόσο, το ενδεχόμενο να αλλάξουν τα πράγματα στο μέλλον ίσως να μην είναι τόσο απίθανο, τονίζει.

iStock

Πάνω από όλα μπαίνει ο στόχος

Φαντάσου να αναθέσεις σε ένα τόσο προηγμένο μοντέλο ΑΙ την παραγωγή όσο το δυνατόν περισσότερων συνδετήρων. Τι θα συνέβαινε αν αποφάσιζε να επιτύχει τον στόχο αυτό με κάθε κόστος;

Αυτό περιγράφει το υποθετικό παράδειγμα του φιλοσόφου Nick Bostrom από το Πανεπιστήμιο της Οξφόρδης. Μια superintelligence, προγραμματισμένη να μεγιστοποιήσει την παραγωγή συνδετήρων, θα μπορούσε να καταλήξει στο συμπέρασμα ότι ο πιο αποδοτικός τρόπος για να το πετύχει είναι μετατρέποντας ολόκληρο τον πλανήτη σε πρώτη ύλη. Δεν θα εξαφάνιζε, επομένως, την ανθρωπότητα λόγω έχθρας, αλλά επειδή θα ακολουθούσε πιστά έναν στόχο που έχει οριστεί με λανθασμένο τρόπο.

Υπάρχει, ωστόσο, μια σημαντική αδυναμία στο συγκεκριμένο σενάριο. Ποια; Η ικανότητα μιας μηχανής να σχεδιάζει δεν συνεπάγεται ότι διαθέτει και την ισχύ να υλοποιεί τα σχέδιά της. Η κατασκευή εργοστασίων θα απαιτούσε άδειες, τα έργα μεγάλης κλίμακας θα μπορούσαν να συναντήσουν κοινωνική αντίσταση.

Μια πραγματική, αν και σαφώς μικρότερης κλίμακας, εκδοχή αυτού του υποθετικού σεναρίου είναι όσα συμβαίνουν σήμερα με τα data centers.

Η δημιουργία βιολογικών όπλων

Οι δυνατότητες της AI στον συγκεκριμένο τομέα έχουν ήδη προκαλέσει ανησυχία, καθώς ερευνητές του Πανεπιστημίου Stanford ανακοίνωσαν ότι αξιοποίησαν ένα μοντέλο που μπορεί να «κατανοεί» τη γενετική γλώσσα, προκειμένου να συνθέσουν 16 νέους ιούς.

Αυτό, ωστόσο, δεν σημαίνει ότι η δημιουργία ενός παθογόνου που θα μπορούσε να αφανίσει ολόκληρο τον πληθυσμό είναι εύκολη υπόθεση. Η βιολογία θέτει σημαντικούς περιορισμούς στην εξάπλωση των ιών. Συνήθως, όσο πιο εύκολα μεταδίδεται ένας ιός, τόσο λιγότερο θανατηφόρος τείνει να είναι. Αντίθετα, ένας εξαιρετικά θανατηφόρος ιός μπορεί να δυσκολεύεται να εξαπλωθεί, καθώς οι άνθρωποι που μολύνει ενδέχεται να πεθαίνουν πριν μεταδώσουν την ασθένεια.

iStock

Η πρόσβαση στα πυρηνικά όπλα

Τι θα μπορούσε να συμβεί αν ένα σύστημα αποκτούσε πρόσβαση στους μηχανισμούς διοίκησης και ελέγχου πυρηνικών όπλων και προκαλούσε την εκτόξευσή τους; Αν και τα συστήματα ελέγχου των πυρηνικών όπλων θεωρούνται πλήρως απομονωμένα από το διαδίκτυο, η ιστορία έχει αποδείξει ότι ακόμη και οι πιο προστατευμένες υποδομές μπορεί να έχουν αδύναμα σημεία.

Επιπλέον, η AI θα μπορούσε να χρησιμοποιηθεί για την παραγωγή ή τη διάδοση παραπλανητικών πληροφοριών προς τις στρατιωτικές δυνάμεις. Σε συνθήκες έντασης, μια λανθασμένη εκτίμηση θα μπορούσε να οδηγήσει σε αποφάσεις με καταστροφικές συνέπειες.

Πέρα από τις άμεσες συνέπειες των εκρήξεων, ένας πυρηνικός πόλεμος θα μπορούσε να προκαλέσει «πυρηνικό χειμώνα» (η περιβαλλοντική καταστροφή που επιστήμονες πιθανολογούν ότι θα προέκυπτε από εκατοντάδες πυρηνικές εκρήξεις), κάτι που θα έθετε σε κίνδυνο την επιβίωση μεγάλου μέρους της ανθρωπότητας.

Η αυτοκαταστροφή μας

Το τελευταίο σενάριο που εξετάζει ο Walsh εστιάζει στην πιθανότητα η ΑΙ να επιταχύνει την αυτοκαταστροφική συμπεριφορά των ανθρώπων. Σε αυτή την περίπτωση, η απειλή δεν θα προερχόταν από μια μηχανή που αποφασίζει να εξοντώσει τον δημιουργό της, αλλά από τις κοινωνικές και οικονομικές αναταράξεις που θα μπορούσε να προκαλέσει η ευρεία χρήση της.

Η μαζική απώλεια θέσεων εργασίας, η ανεξέλεγκτη διάδοση παραπληροφόρησης, η όξυνση των πολιτικών διαιρέσεων και η υπονόμευση των ανθρώπινων σχέσεων αποτελούν πιθανούς παράγοντες αποσταθεροποίησης.

Με άλλα λόγια, η AI δεν θα χρειαζόταν να επιτεθεί άμεσα στην ανθρωπότητα. Οι συνέπειες της χρήσης της θα μπορούσαν να υπονομεύσουν την κοινωνική συνοχή, δημιουργώντας τις συνθήκες μέσα στις οποίες οι ίδιοι οι άνθρωποι θα έθεταν σε κίνδυνο την επιβίωσή τους.