Οι υπαρξιακοί κίνδυνοι της Τεχνητής Νοημοσύνης – Τι λέει ο κορυφαίος Έλληνας επιστήμονας Χρίστος Παπαδημητρίου

Τεχνητή Νοημοσύνη: Ανάπτυξη ή απειλή;

Η τεχνητή νοημοσύνη – ή AI όπως λέμε πλέον – δεν είναι πια επιστημονική φαντασία. Είναι ήδη εδώ. Και μεγαλώνει.
Αλλά όσο πιο γρήγορα εξελίσσεται, τόσο πιο δύσκολο φαίνεται να ελεγχθεί.

Ο Χρίστος Παπαδημητρίου, κορυφαίος Έλληνας επιστήμονας στον τομέα της Πληροφορικής και των Υπολογιστών, μίλησε στο Newsbomb.gr για όλα αυτά που έρχονται. Και… δεν είναι όλα ενθαρρυντικά.

Από το 1973 μέχρι το ChatGPT – μια πορεία δεκαετιών

Ο Παπαδημητρίου ασχολείται με τους υπολογιστές από τότε που οι περισσότεροι δεν είχαν δει καν… πληκτρολόγιο. Από το 1973.

Συν-συγγραφέας του διεθνώς αναγνωρισμένου Logicomix, καθηγητής στα μεγαλύτερα πανεπιστήμια του κόσμου (MIT, Stanford, Berkeley, Harvard), μέλος της Ακαδημίας Αθηνών και των ΗΠΑ, σήμερα είναι στο Columbia και στο ερευνητικό πρόγραμμα Archimedes AI.

«Η τεχνητή νοημοσύνη είχε πολλούς χειμώνες. Όμως από το 2012, όλα άλλαξαν. Μια μηχανή κατάλαβε τι είναι… γάτα. Και κάπου εκεί, άνοιξε ο δρόμος για το ChatGPT», λέει χαρακτηριστικά.

Οι κίνδυνοι είναι υπαρκτοί – και δεν έχουν να κάνουν με ρομπότ

Ο Παπαδημητρίου δεν φοβάται τις μηχανές. Αλλά αυτό δεν σημαίνει ότι δεν βλέπει σοβαρούς κινδύνους.

«Όσο πιο κοντά είσαι σε αυτές τις μηχανές, τόσο πιο πολύ τις θαυμάζεις. Και – παράλληλα – τις εμπιστεύεσαι όλο και λιγότερο…», αναφέρει.

Γιατί; Γιατί η τεχνητή νοημοσύνη δεν έχει κρίση. Αναπαράγει προκαταλήψεις, λάθη, στερεότυπα – όλα όσα υπάρχουν ήδη στην κοινωνία. Δεν τα ξεχωρίζει, δεν τα φιλτράρει.

 Aναλυτικά η συνέντεξή του:

Newsbomb.gr: Κύριε Παπαδημητρίου, έχουμε εισέλθει για τα καλά στην εποχή των αλγορίθμων και της τεχνητής νοημοσύνης, και νομίζω ότι αυτό θα το δούμε σύντομα ακόμα πιο έντονα σε όλες τις εκφάνσεις της ανθρώπινης δραστηριότητας. Αρχικά θα ήθελα να σας ρωτήσω, είναι τα πράγματα σε αυτόν τον τομέα όπως περιμένατε ότι θα γίνουν, αρκετά χρόνια πίσω, όταν ξεκινούσατε το έργο σας ως ερευνητής;

Χρίστος Παπαδημητρίου: Η Τεχνητή Νοημοσύνη δεν ήρθε ξαφνικά και από το πουθενά, ήταν μια μακριά πορεία που άρχισε πριν από 80 χρόνια και που την ξεκίνησαν γίγαντες της επιστήμης, όπως ο Turing και ο von Neumann. Η ιστορία της είχε πολλά σκαμπανεβάσματα, μακρές περιόδους ύφεσης που τις λέγαμε «χειμώνες της Τεχνητής Νοημοσύνης». Συνεπαρμένοι από το φιλόδοξο όραμά τους, οι ερευνητές της υπόσχονταν πολλά και συχνά υπερέβαλλαν τις επιτυχίες τους, με αποτέλεσμα να χάσουν την εμπιστοσύνη των ερευνητικών χορηγών και των επενδυτών, αλλά και του κόσμου.

Σε έναν τέτοιο βαρύ χειμώνα λοιπόν άρχισα και εγώ την καριέρα μου το 1973, και δυο-τρεις άλλοι χειμώνες ήρθαν αργότερα. Αλλά η σκληρή δουλειά και οι ιδιοφυείς ιδέες δεν έλλειπαν, και πρόοδος υπήρχε. Και υπήρχε και μια αισιοδοξία ότι αργά ή γρήγορα θα είχαμε σημαντικές επιτυχίες. Αλλά ελάχιστοι περίμεναν την έκρηξη που συνέβη το 2012.

Πώς θα εξηγούσατε, με απλά λόγια, σε κάποιον πρωτοετή φοιτητή σας, τον τρόπο που λειτουργούν οι αλγόριθμοι, τις δυνατότητες τις οποίες έχουν αλλά και αυτές που διανοίγονται χάρη σε αυτούς, στο άμεσο μέλλον, σε συνδυασμό με τη μηχανική μάθηση;

Η λέξη «αλγόριθμος» δεν ταιριάζει σε αυτά τα συστήματα. Είναι μηχανές που μαθαίνουν. Αλγόριθμος είναι κάτι άλλο, μια διεργασία που την προγραμματίσαμε, και επομένως ξέρουμε πώς δουλεύει. Τις μηχανές Τεχνητής Νοημοσύνης τις έχουμε απλώς προγραμματίσει να μάθουν από τα δεδομένα που τους παρουσιάζουμε. Αλλά μετά την εκπαίδευσή τους με τα δεδομένα, δεν πολυκαταλαβαίνουμε τη λειτουργία τους και δεν μπορούμε να την προβλέψουμε!

Σκεφτείτε μια μηχανή Τεχνητής Νοημοσύνης σαν ένα τεράστιο «μαύρο κουτί», κάτι σαν ηλεκτρικό δίκτυο που έχει μέσα δισεκατομμύρια αντιστάσεις και χωρητικότητες. Οι τιμές αυτών των παραμέτρων άλλαξαν κάπως μετά από όλα αυτά τα δεδομένα που τους παρουσιάσαμε, αλλά κανείς δεν ξέρει πώς ακριβώς άλλαξαν. Απλά οι αλλαγές αυτές το βοηθούν να απαντά λίγο-πολύ σωστά σε ό,τι το ρωτάμε. Όσο πιο κοντά είναι κανείς σε αυτές τις μηχανές, τόσο περισσότερο τις θαυμάζει και τόσο λιγότερο τις… εμπιστεύεται!

Η σειρά των επιτυχιών άρχισε το 2012, όταν μια τέτοια μηχανή άρχισε να απαντάει σωστά στην ερώτηση αν μια φωτογραφία περιέχει μια γάτα. Κάτι δηλαδή που ένα μωρό δύο χρονών το κάνει άνετα, αλλά η Τεχνητή Νοημοσύνη δεν μπορούσε μέχρι τότε. Πώς το κατάφεραν αυτό; Άρχισαν με μια απλή μηχανή, με τυχαίες παραμέτρους, τής έδειχναν φωτογραφίες και ρωτούσαν «βλέπεις γάτα;» Στην αρχή η μηχανή απαντούσε στην τύχη. Ναι, Όχι. Αλλά όταν έκανε λάθος, τις παραμέτρους που την έσπρωξαν προς την λάθος κατεύθυνση τις μειώναμε, και αυτές που έδειχναν προς το άλλη απάντηση τις αυξάναμε. Και όταν έδινε κατά τύχη τη σωστή απάντηση, το αντίθετο. Έτσι, μετά από εκπαίδευση σε εκατομμύρια φωτογραφίες, το μηχάνημα είχε μάθει να απαντάει λίγο-πολύ σωστά.

Τα υπόλοιπα έγιναν πολύ γρήγορα. Οι μηχανές αυτές μάθαιναν όλο και καλύτερα, και αρχίσαμε να εκπαιδεύουμε κάτι πιο προχωρημένες μηχανές όχι σε εικόνες αλλά σε κείμενα, στην ανθρώπινη γλώσσα – όπου η ερώτηση τώρα δεν είναι αν υπάρχει γάτα, αλλά «ποια είναι η επόμενη λέξη»; Και την ίδια ερώτηση την ρωτάμε για κάθε λέξη κάθε βιβλίου και κάθε κειμένου που έχει γραφτεί ποτέ, ενώ η μηχανή μαθαίνει από τα λάθη της και τις επιτυχίες της. Έτσι φτάσαμε το 2022 στο ChatGTP. Και από τότε η πρόοδος επιταχύνθηκε ακόμα πιο πολύ γιατί η εκπαίδευση δεν γίνεται πια στην απομόνωση του εργαστηρίου, αλλά σε αλληλοεπίδραση με όλον τον κόσμο.

Πώς λοιπόν «εκπαιδεύει» το κοινό το ChatGTP;

Το ChatGPT είναι ένα μόνο από τα πολλά μοντέλα γλώσσας που υπάρχουν, και όχι αναγκαστικά το καλύτερο, εμένα μου αρέσει η Claude – και να μην ξεχνάμε και το Deepseek. Τέλος πάντων, η αλληλοεπίδραση με τους χρήστες βοηθάει το όποιο μοντέλο να δημιουργήσει ένα σύμπλεγμα από προτιμήσεις, δηλαδή ποιες επιλογές του είναι προτιμότερες από ποιες άλλες και υπό ποιές συνθήκες. Και έτσι μπορούμε να αντιμετωπίσουμε τη διαδικασία της απάντησης ως απόφαση, κάτι σαν «το ρομπότ τώρα να στρίψει δεξιά ή αριστερά», και να χρησιμοποιήσουμε εδώ τις μεθόδους που αναπτύξαμε πρόσφατα με τεράστια επιτυχία για τη ρομποτική και παιχνίδια σαν το Go και το σκάκι.

Επειδή έχετε ασχοληθεί και με την ιστορία των επιστημών, τις δυσκολίες και τις αγωνίες του ερευνητή, μέχρι να φτάσει στο μεγάλο αποτέλεσμα… Αναφέρομαι στο πολύ πετυχημένο διεθνώς μυθιστόρημα Logicomix το οποίο συγγράψατε με τον Απόστολο Δοξιάδη. Μήπως το Logicomix του μέλλοντος, δεν θα μπορεί πια να αναφέρεται σε ανθρώπινα όντα; Μήπως αναγκαστικά θα αφήσουμε την έρευνα και την εξέλιξη πολλών επιστημών σε αυτόν που το κάνει ήδη καλύτερα από εμάς (σε κάποιους τομείς), τον αλγόριθμο; Και τι θα σημάνει αυτό;

Η Τεχνητή Νοημοσύνη, δηλαδή αυτές οι μηχανές που μαθαίνουν, είναι ακόμα πίσω από τον ανθρώπινο εγκέφαλο σε μερικούς τομείς. Για παράδειγμα, στον τρόπο που καταλαβαίνουν τα συναισθήματα και τα κίνητρα των ανθρώπων, και τις κοινωνικές σχέσεις. Χρησιμοποιούν πολύ περισσότερη ενέργεια για να σκεφτούν – ο εγκέφαλός σας δουλεύει με 16 βατ, το ChatGTP χρειάζεται εκατομμύρια. Και σίγουρα δεν τα καταφέρνουν στην πρωτότυπη επιστημονική σκέψη. Δεν περιμένω να δω πραγματικά καινοτόμες επιστημονικές ιδέες που προέρχονται από μηχανές.

Αλλά η Τεχνητή Νοημοσύνη ήδη βοηθάει επιστήμονες στην δουλειά τους, να λύσουν προβλήματα – ακόμα και στα θεωρητικά μαθηματικά – που θα ήταν περίπου αδύνατο να λυθούν χωρίς την Τεχνητή Νοημοσύνη. Μπορούν δηλαδή να είναι πραγματικά πολύτιμοι επιστημονικοί βοηθοί. Και αυτό θα γίνεται όλο και πιο συχνά, και σε όλο πιο προχωρημένα προβλήματα. Αλλά μού αρέσει που θυμηθήκατε το Logicomix σε αυτή τη συζήτηση, γιατί από την ιστορία της θεμελίωσης των μαθηματικών που αφηγούμαστε στο Logicomix, από εκεί άρχισε το μακρύ ταξίδι που τελικά μας έφερε εδώ…

Θεωρείτε ότι θα φτάσει η ημέρα -ή έχει ήδη φτάσει- που θα πρέπει να τεθούν αυστηροί κανόνες, προκειμένου η χρήση της τεχνητής νοημοσύνης να παραμείνει στα πλαίσια λειτουργίας που επιθυμούμε; Ή μήπως είναι αναπόφευκτο ότι ο αλγόριθμος θα τα ξεπεράσει όλα αυτά, και θα λειτουργεί λαμβάνοντας υπόψη μόνο τους δικούς του κανόνες;

Η Τεχνητή Νοημοσύνη φέρνει πολλούς και σοβαρούς κινδύνους. Που να αρχίσει κανείς; Κατ’ αρχήν έχει εκπαιδευθεί με δεδομένα που περιέχουν τα κουσούρια της κοινωνίας μας – λανθασμένες απόψεις, άδικές προκαταλήψεις – και δεν έχει την κρίση να τις αναγνωρίζει και να τις αγνοεί. Επίσης, η Τεχνητή Νοημοσύνη αυξάνει την ανισότητα, τη μάστιγα της ανθρωπότητας τα τελευταία 50 χρόνια. Η εισαγωγή της στην εργασία, και ανεργία δημιουργεί (κάτι που βέβαια περίπου όλες οι νέες τεχνολογίες το κάνουν), αλλά αυξάνει την ανισότητα και ανάμεσα σε αυτούς που συνεχίζουν να δουλεύουν. Και βέβαια όταν σού παίρνει την δουλειά στο κάνει με τον πιο ύπουλο και άδικο τρόπο. Π.χ, αν εσάς – χτυπάω ξύλο – σας αντικαταστήσει κάποτε μια Τεχνητή Νοημοσύνη στην εφημερίδα, αυτή η Τεχνητή Νοημοσύνη θα έχει μάθει την δουλειά του δημοσιογράφου μελετώντας τα άρθρα πολλών συναδέλφων σας, συμπεριλαμβανομένης και της δικιάς σας δουλειάς.

Φοβούμαι ότι η εισαγωγή της στις υπηρεσίες θα καταλήξει σε μια κούρσα προς τον πάτο, όπου όλο και πιο συχνά θα μιλάμε στο τηλέφωνο σε Τεχνητή Νοημοσύνη αντί για εργαζόμενο, ο πελάτης δεν θα εξυπηρετείται, η εταιρεία θα χάνει πελάτες αλλά δεν θα κάνει πίσω γιατί οι ανταγωνιστές έχουν κατεβάσει και αυτοί το κόστος με τον ίδιο τρόπο, και εν τω μεταξύ οι υπάλληλοι θα είναι άνεργοι.

Για μένα, η πιο επικίνδυνη πλευρά της Τεχνητής Νοημοσύνης είναι ότι η περαιτέρω ανάπτυξή της γίνεται μέσα σε έναν ξέφρενο ανταγωνισμό μεταξύ λίγων γιγάντων. Η βιομηχανία αυτή είναι πολύ μονοπωλιακή, και οι ανταγωνιστές πιστεύουν ότι σε δέκα χρόνια θα υπάρχει μία μόνο εταιρεία, και θέλουν με κάθε θυσία να είναι η δικιά τους εταιρεία. Και για αυτό πέφτουν με τα μούτρα στην εκπαίδευση όλο και πιο μεγάλων μοντέλων σα να μην υπάρχει αύριο. Και βέβαια δεν δίνουν καμιά προσοχή ούτε στην ζημιά που κάνουν στο περιβάλλον, ούτε στην ασφάλεια της λειτουργίας των δημιουργημάτων τους.

Όντως πρέπει να υπάρξουν κανόνες, αλλά η πραγματικότητα – ο αχαλίνωτος ανταγωνισμός που ανέφερα και το πολιτικό κλίμα στις ΗΠΑ, παρά μερικές προσπάθειες από την ΕΕ – δεν μας δίνουν ελπίδες ότι θα έχουμε σύντομα κοινωνικό έλεγχο της Τεχνητής Νοημοσύνης, και αυτό το θεωρώ πολύ επικίνδυνο.

Τώρα, για τους υπαρξιακούς κινδύνους για τους οποίους μιλούν πολλοί. Ότι δηλαδή η Τεχνητή Νοημοσύνη θα μας υποδουλώσει και θα μας εξολοθρεύσει. Κατ’ αρχήν, όταν οι ίδιοι οι επιστήμονες της Τεχνητής Νοημοσύνης εκφράζουν τέτοιους φόβους, εγώ το βλέπω λίγο σαν «σύνδρομο Οπενχάιμερ», δηλαδή σα να μας λένε «είμαι τόσο έξυπνος, που το δημιούργημά μου θα καταστρέψει τον κόσμο». Νομίζω ότι όποιος ζει με τον φόβο ότι μια μέρα θα μας κυβερνούν μηχανές, προφανώς δεν δίνει αρκετή προσοχή σε αυτούς που μας κυβερνούν σήμερα.

Καταλαβαίνω τι εννοείτε… Ωστόσο να επιμείνω σε αυτό. Οι ταινίες «εξολοθρευτής» και «Matrix» είναι στις μέρες μας τόσο… επιστημονική φαντασία, όσο την εποχή που δημιουργούνταν;

Έχετε δίκιο, ζούμε όντως σε δυστοπία, σαν εκείνες στα δύο εμβληματικά φιλμ που αναφέρατε. Συγκεκριμένα, εγώ που πηγαινοέρχομαι ανάμεσα σε Αθήνα και Νέα Υόρκη ζω σε δύο αρκετά διαφορετικές δυστοπίες. Είναι φυσικό λοιπόν να θυμόμαστε όλες τις αφηγήσεις δυστοπίας από τον George Orwell και μετά…

Σε ποιον τομέα επικεντρώνετε τις έρευνες σας αυτή την εποχή;

Τα τελευταία δέκα χρόνια με ενδιαφέρει να καταλάβω πώς λειτουργεί ο ανθρώπινος εγκέφαλος, ιδιαίτερα ως προς την γλώσσα. Και αυτό με φέρνει συχνά κοντά στην Τεχνητή Νοημοσύνη. Στο πανεπιστήμιό μου ιδρύσαμε προ δύο ετών ένα Ινστιτούτο, με χρηματοδότηση 20 εκατομμυρίων δολαρίων, που το ονομάσαμε ARNI: ARtificial and Natural Intelligence. Τεχνητή και Φυσική Νοημοσύνη. Τι έχει να κερδίσει η Τεχνητή Νοημοσύνη από τη μελέτη του εγκεφάλου, και το αντίθετο. Βέβαια η χρηματοδότηση προέρχεται από την ομοσπονδιακή κυβέρνηση των ΗΠΑ, και μάλιστα μέσω του πανεπιστημίου μου του Κολούμπια που τελεί υπό δυσμένεια, οπότε τώρα όλα είναι ρευστά…

Για εσάς προσωπικά, ποιος είναι ο στόχος της καριέρας σας; Τι είναι αυτό που θέλετε να έχετε επιτύχει ή να προσφέρετε, μέχρι το κλείσιμό της;

Ο στόχος μου είναι να μη σταματήσω ποτέ να δουλεύω με τους φοιτητές μου και τους συνεργάτες μου πάνω σε επιστημονικά θέματα που τα βρίσκω συναρπαστικά.