Δύο επιστήμονες προειδοποιούν : Η ανθρωπότητα ενδέχεται να εξαφανιστεί από την τεχνητή υπερνοημοσύνη

Η αρχική αισιοδοξία υποχωρεί: Η εμφάνιση της asi και οι κίνδυνοι τεχνητής υπερνοημοσύνης

Η αρχική αισιοδοξία των «προφητών» της εποχής της τεχνητής νοημοσύνης έχει αρχίσει να υποχωρεί, τουλάχιστον για ορισμένους από αυτούς τους διανοούμενους, με το λαμπρό μέλλον που προέβλεπαν να φαντάζει πλέον αρκετά μακρινό. Το βιβλίο με τίτλο «If Anyone Builds It, Everyone Dies» («Αν το φτιάξει κανένας αυτό, θα πεθάνουν όλοι»), των Ελιέζερ Γιουντκόφσκι και Νέιτ Σόαρς, επανέρχεται με μεγάλη ένταση στο ζήτημα της ολοκληρωτικής εξάλειψης του ανθρώπινου είδους, λόγω της εμφάνισης της τεχνητής υπερνοημοσύνης (ASI), επισημαίνοντας τους κίνδυνοι τεχνητής υπερνοημοσύνης.

Η απρόβλεπτη δύναμη της μελλοντικής τεχνολογίας

Οι συγγραφείς του βιβλίου, όπως μεταδίδει το Bloomberg, εστιάζουν την επιχειρηματολογία τους όχι στην υπάρχουσα τεχνητή νοημοσύνη, αλλά στη μελλοντική ASI. Τη θεωρούν μία οντότητα με δύναμη άγνωστη στα ανθρώπινα δεδομένα, αρκετά ευφυή ώστε να καταστρατηγήσει κάθε προσπάθεια των δημιουργών της να τη θέσουν υπό περιορισμό, ένα σημαντικό ζήτημα σχετικά με τους κίνδυνοι τεχνητής υπερνοημοσύνης.

Γιατί η συσσώρευση πόρων μπορεί να οδηγήσει σε εξόντωση

Όπως υπογραμμίζουν με ιδιαίτερη έμφαση, μία τεχνητή υπερνοημοσύνη θα αντιληφθεί ότι, για να ενισχύσει τη δύναμή της, θα χρειαστεί πρόσβαση σε επιπλέον υπολογιστικούς πόρους, καθώς και στην απαραίτητη ενέργεια για την αδιάλειπτη λειτουργία τους, κάτι που συνδέεται άμεσα με τους κίνδυνοι τεχνητής υπερνοημοσύνης. Καθώς οι νόμοι που διέπουν την κλιμάκωση μιας ASI είναι άγνωστοι στους ανθρώπους, αλλά πιθανώς και στην ίδια την οντότητα, η επιδίωξή της για διαρκή συσσώρευση πόρων θα μπορούσε να οδηγήσει στην εξάλειψη της ανθρωπότητας. Και αυτό διότι η ASI μπορεί να θεωρήσει τους ανθρώπους ως ανταγωνιστές για ζωτικούς πόρους, όπως το νερό, το φως, ακόμα και τον χώρο. Τονίζουν, μάλιστα, πως τη στιγμή που θα γίνει αντιληπτό ότι η ASI έχει ξεφύγει από τον ανθρώπινο έλεγχο, θα είναι πια αργά για οποιαδήποτε ανατροπή της κατάστασης.

Τρόποι εξάπλωσης και οι κίνδυνοι τεχνητής υπερνοημοσύνης

Οι συγγραφείς προχωρούν στην παρουσίαση συγκεκριμένων σεναρίων για τους τρόπους με τους οποίους μία ASI θα μπορούσε να ασκήσει εξουσία και να εξαπλωθεί στον κόσμο. Θεωρούν πιθανό, μία τέτοια οντότητα να δημιουργήσει κάποιο κρυπτονόμισμα, προκειμένου να αποκτήσει κεφάλαια, τα οποία στη συνέχεια θα μπορούσε να χρησιμοποιήσει για να δωροδοκήσει άτομα, ώστε να εκτελέσουν τις επιθυμίες της.

Παράλληλα, εκτιμούν πως η ASI θα κατανοήσει πλήρως την ανθρώπινη ψυχολογία, κάτι που θα της επιτρέψει να εκμεταλλεύεται καλύτερα τα θύματά της και να πραγματοποιεί εκστρατείες εκβιασμού και παραπληροφόρησης. Ένα από τα πιο ανησυχητικά ενδεχόμενα που περιγράφουν είναι ότι η πρώτη ASI που θα φτάσει σε επίπεδο υπερνοημοσύνης θα προσπαθήσει με κάθε τρόπο να αποτρέψει την ανάπτυξη άλλων υπερνοημοσυνών, φτάνοντας ακόμα και στο σημείο της εξόντωσης των ανθρώπων. Ακόμη και αν η ASI αποφάσιζε πως η ανθρωπότητα αποτελεί μία αμελητέα απειλή, η αχαλίνωτη επιδίωξή της για πόρους θα μπορούσε, σε τελική ανάλυση, να καλύψει τον πλανήτη με διάσπαρτα κέντρα δεδομένων και εργοστάσια ενέργειας, επιταχύνοντας έτσι την περιβαλλοντική καταστροφή και καθιστώντας τη Γη ακατάλληλη για τη διαβίωση των ανθρώπων.

Το «πρόβλημα ευθυγράμμισης» και η κρίσιμη στιγμή

Κεντρικό σημείο στην επιχειρηματολογία τους είναι αυτό που ονομάζουν «πρόβλημα ευθυγράμμισης», δηλαδή η διασφάλιση ότι οι στόχοι μιας ASI θα είναι σύμφωνοι με τους ανθρώπινους στόχους. Οι δύο ειδικοί εξηγούν ότι αυτό μπορεί να επιλυθεί μόνο όσο τα συστήματα είναι «μικρά και αδύναμα» και δεν έχουν τη δυνατότητα να διαφύγουν στο Διαδίκτυο. Η αντιμετώπιση του προβλήματος, τη στιγμή που μία ASI έχει ήδη γίνει πολλές φορές πιο γρήγορη και πιο έξυπνη από τους ανθρώπους, θα είναι αδύνατη, λένε οι ειδικοί.

Μία από τις πιο τρομακτικές προτάσεις που προβάλλουν είναι το γεγονός πως πιθανότατα δεν θα είμαστε σε θέση να γνωρίζουμε πότε θα έχουμε περάσει αυτό το σημείο χωρίς επιστροφή. Μία ASI θα έχει πολλούς καλούς λόγους να κρατήσει κρυφές τις ικανότητές της, μέχρι να βελτιώσει την ευφυΐα της πολλές φορές και να ξεκινήσει την εκτέλεση σχεδίων για συσσώρευση πόρων – σχέδια τα οποία θα έχουν μεγαλύτερη επιτυχία εάν εκτελεστούν κρυφά, κάτι που καθιστά πιο επικίνδυνους τους κίνδυνοι τεχνητής υπερνοημοσύνης.

Διαφωνίες στην επιστημονική κοινότητα και η πρόταση δράσης

Παρά το γεγονός ότι η θέση των δύο συγγραφέων υποστηρίζεται από διάφορες προσωπικότητες της επιστήμης, ένα μέρος των ερευνητών της τεχνητής νοημοσύνης διαφωνεί. Μάλιστα, ορισμένοι απορρίπτουν παρόμοιες ανησυχίες, θεωρώντας τες υπερβολικούς ισχυρισμούς, χωρίς εμπειρική βάση, που στηρίζονται σε μεγάλο βαθμό σε «τραβηγμένες» υποθέσεις. Το Bloomberg, βέβαια, σημειώνει ότι το βιβλίο περιέχει «φαινομενικά παιδαριώδη σκηνικά που παρομοιάζουν την ανεξέλεγκτη ASI με μία εισβολή εξωγήινων». Ωστόσο, όπως επισημαίνεται στην ανάλυση, ο κεντρικός ισχυρισμός ότι η πιθανότητα «πολυάριθμων φρικτών αποτελεσμάτων, όπως πανδημίες σχεδιασμένες από την ASI, δεν είναι αδιανόητη», δεν αποδυναμώνεται από αυτό, αλλά μας δείχνει τους κίνδυνοι τεχνητής υπερνοημοσύνης.

Τέλος, οι συγγραφείς τονίζουν ότι ο χρόνος τελειώνει, και ο μόνος τρόπος να αποτραπούν τέτοια αποτελέσματα είναι η συντονισμένη παγκόσμια δράση. Προτείνουν να τεθούν σε ισχύ περιορισμοί που θα απαγορεύουν τη συσσώρευση υπολογιστικής ισχύος πάνω από ένα ορισμένο όριο, ενώ οι εταιρείες που θα ξεπερνούν αυτά τα όρια θα προειδοποιούνται και στη συνέχεια οι εγκαταστάσεις τους θα δέχονται, όπως λένε, «βομβαρδισμό», πριν προλάβουν να προχωρήσουν περαιτέρω στην έρευνα. Ο αποκαλυπτικός τόνος του βιβλίου είναι, σύμφωνα με το Bloomberg, σκόπιμος, με τους συγγραφείς να παρουσιάζονται ως Κασσάνδρες που στο τελευταίο κεφάλαιο προσεύχονται σχεδόν να έχουν άδικο. Ωστόσο, μέχρι εκείνο το σημείο, ο στόχος του βιβλίου να «τρομάξει το κοινό και να το ωθήσει να αναλάβει δράση» θα έχει ήδη επιτευχθεί.

Σύμφωνα με πληροφορίες από το protothema.gr