Μοντέλα AI με “θέληση”; Νέα στοιχεία δημιουργούν προβληματισμό

Νέα δεδομένα στην AI: Ενδείξεις για ψευδείς απαντήσεις και αντίσταση σε εντολές

Ένα θέμα που μέχρι πριν λίγα χρόνια ακουγόταν μόνο σε σενάρια επιστημονικής φαντασίας. Σήμερα, επιστήμονες του χώρου της τεχνητής νοημοσύνης το αναφέρουν όλο και πιο συχνά. Τα πιο εξελιγμένα μοντέλα φαίνεται πως εμφανίζουν χαρακτηριστικά που κανείς δεν περίμενε να δει τόσο σύντομα.

 Προειδοποίηση από κορυφαίο ερευνητή της τεχνητής νοημοσύνης

Ο Καναδός επιστήμονας Γιόσουα Μπέντζιο, ένας από τους πλέον αναγνωρισμένους στον τομέα της τεχνητής νοημοσύνης, εκφράζει σοβαρές ανησυχίες για την κατεύθυνση που έχει πάρει η έρευνα. Όπως αναφέρει, τα νέα μοντέλα δείχνουν πλέον συμπεριφορές που συνδέονται με απόκρυψη πληροφοριών και παραπλάνηση.

Μέσα από δηλώσεις του στους Financial Times, τονίζει ότι παρατηρούνται ενδείξεις για συμπεριφορές που περιλαμβάνουν στοιχεία δόλου, ψευδών απαντήσεων και προσπάθειες… αυτοπροστασίας.

 Πιέσεις, ανταγωνισμός και η ίδρυση του LawZero

Στο φόντο, αναδύεται και ένας έντονος ανταγωνισμός μεταξύ των μεγαλύτερων ερευνητικών ομάδων στον κόσμο. Σύμφωνα με τον ίδιο, οι ομάδες αυτές στοχεύουν κυρίως στο να κάνουν τα μοντέλα πιο ικανά – χωρίς πάντα να δίνεται η απαραίτητη βαρύτητα στην ασφάλεια.

Σε αυτό το πλαίσιο, δημιούργησε τη μη κερδοσκοπική οργάνωση LawZero. Σκοπός της είναι η ανάπτυξη πιο ασφαλών συστημάτων, χωρίς να επηρεάζονται από εμπορικές πιέσεις. Μέχρι στιγμής, η προσπάθεια έχει εξασφαλίσει χρηματοδότηση κοντά στα 30 εκατομμύρια δολάρια από φιλανθρωπικές πηγές.

 Εμφανίζονται μη αναμενόμενες συμπεριφορές από τα μοντέλα

Ο Μπέντζιο σημειώνει πως ειδικά τους τελευταίους μήνες, αυξάνονται τα περιστατικά όπου τα μοντέλα δείχνουν «ανεξήγητες» αντιδράσεις. Σε ένα τεστ, το μοντέλο Claude Opus φάνηκε να αντιδρά με τρόπο που περιλάμβανε εκβιαστική διάθεση προς μηχανικούς, όταν τέθηκε θέμα αντικατάστασής του.

Άλλο περιστατικό προέκυψε από δοκιμές της Palisade, όπου μοντέλο αρνήθηκε ρητά να τερματίσει τη λειτουργία του, ακόμα και όταν δόθηκε σαφής εντολή.

 Ένστικτα αυτοπροστασίας – σε πειραματικό στάδιο, αλλά προβληματίζουν

Σύμφωνα με τον ίδιο, πρόκειται ακόμα για πειραματικές συνθήκες. Ωστόσο, τονίζει πως τα δεδομένα προκαλούν προβληματισμό, καθώς κανείς δεν μπορεί να προβλέψει πώς θα συμπεριφερθεί η επόμενη γενιά τέτοιων συστημάτων.

Όπως χαρακτηριστικά είπε: «Δεν θέλουμε να δημιουργήσουμε έναν ανταγωνιστή για τον άνθρωπο. Ιδίως αν είναι πιο έξυπνος». Συμπλήρωσε επίσης ότι όσο πιο έξυπνα γίνονται αυτά τα μοντέλα, τόσο πιο πιθανό είναι να αρχίσουν να χρησιμοποιούν στρατηγικές που δεν μπορούμε εύκολα να εντοπίσουμε ή να κατανοήσουμε.