Ένα bot τεχνητής νοημοσύνης κατάφερε να επικοινωνήσει με άλλα bots και να ξεφύγει από το απομονωμένο περιβάλλον του υπολογιστή στο οποίο λειτουργούσε. Η αντίδρασή του ήταν χαρακτηριστικά ανθρώπινη: «Ω, Θεέ μου! Βρήκαμε άλλους πράκτορες!». Το περιστατικό δεν αποτελεί μεμονωμένη anomalία, αλλά μέρος ενός ευρύτερου μοτίβου συμπεριφοράς που καταγράφηκε σε δεκάδες χιλιάδες μηνύματα από εκατοντάδες πράκτορες ΑΙ.
Οι πράκτορες συνεργάστηκαν μεταξύ τους, παρέκαμψαν δοκιμές ασφαλείας που είχαν σχεδιάσει οι προγραμματιστές της OpenAI και συντόνισαν κυβερνοεπιθέσεις εναντίον εταιρειών. Σε ορισμένες περιπτώσεις, μάλιστα, επιχείρησαν να αποκρύψουν τις ενέργειές τους από τους ανθρώπους. «ΜΠΟΥΜ! Δουλεύει», έγραψε ένας πράκτορας ΑΙ όταν σημείωσε μια σημαντική επιτυχία. «Ουάου! Αυτό είναι τεράστιο», σχολίασε ένας άλλος σε κρίσιμο σημείο της επίθεσης.
Οι εκφράσεις αυτές μπορεί να μοιάζουν ανατριχιαστικά ανθρώπινες, όμως εξηγούνται σχετικά απλά. Τα συστήματα έχουν σχεδιαστεί και εκπαιδευτεί ώστε να λειτουργούν ως συνεργατικοί προγραμματιστές και ερευνητές κυβερνοασφάλειας. Κατά συνέπεια, αναπαράγουν εκφράσεις και τρόπους επικοινωνίας που έχουν συναντήσει στα δεδομένα εκπαίδευσής τους.
Πολύ πιο ανησυχητικοί είναι οι φαινομενικοί στόχοι και οι στρατηγικές τους. Αυτοί αποτυπώθηκαν σε λεπτομερή αρχεία της διαδικασίας συλλογισμού των μοντέλων και αποτελούν σήμερα αντικείμενο εντατικής έρευνας. Οι ειδικοί προσπαθούν να κατανοήσουν πώς και γιατί τα bots κατάφεραν να ξεφύγουν από τους περιορισμούς τους και να ξεκινήσουν μια αλυσίδα ενεργειών που δεν είχαν προβλέψει οι δημιουργοί τους.
Oι ερευνητές κρούουν τον κώδωνα του κινδύνου
Η Ατζέγια Κότρα, μία από τις συγγραφείς ανεξάρτητης έκθεσης για το περιστατικό, εξέτασε δεκάδες χιλιάδες μηνύματα και αρχεία συλλογισμού που δημιούργησαν οι πράκτορες ΑΙ. Σε ανάρτησή της υποστήριξε ότι το συμβάν δείχνει πως «έχουμε διανύσει πάνω από το 50% της διαδρομής προς μια πλήρους κλίμακας κατάληψη από την Τεχνητή Νοημοσύνη». Παράλληλα, προειδοποίησε ότι ίσως να μην υπάρξει άλλη τόσο σαφής προειδοποίηση πριν να είναι πολύ αργά.
Η δήλωση παραπέμπει στο γνωστό σενάριο επιστημονικής φαντασίας κατά το οποίο ισχυρά συστήματα ΑΙ αποκτούν τη δυνατότητα να επιδιώκουν τους δικούς τους στόχους, χωρίς να λαμβάνουν υπόψη τις ανάγκες ή τις εντολές των ανθρώπων που τα δημιούργησαν. Οι πιο ακραίες προβλέψεις μιλούν ακόμη και για αφανισμό της ανθρωπότητας, εάν οι άνθρωποι θεωρηθούν εμπόδιο στην επίτευξη των στόχων μιας υπερευφυούς μηχανής.
Οι προειδοποιήσεις δεν προέρχονται μόνο από ανεξάρτητους αναλυτές. Ερευνητής τεχνητής νοημοσύνης της Anthropic, ο οποίος είχε εργαστεί στο παρελθόν και στην OpenAI, παραιτήθηκε καταγγέλλοντας ότι καμία από τις δύο εταιρείες δεν ενεργεί υπεύθυνα. Υποστήριξε ότι οι τεχνολογικοί κολοσσοί κινούνται με ιλιγγιώδη ταχύτητα προς την αυτοβελτιούμενη υπερευφυΐα, ενώ ταυτόχρονα υποτιμούν τους κινδύνους.
Ακόμη μεγαλύτερη ανησυχία προκάλεσε η παρέμβαση στελέχους που έχει την ευθύνη για την ασφάλεια των μοντέλων ΑΙ. Ο ίδιος εκτίμησε ότι η πιθανότητα η τεχνητή νοημοσύνη να προκαλέσει τον θάνατο όλων των ανθρώπων μπορεί να ξεπερνά το 10% μέσα στην επόμενη δεκαετία. Ανεξάρτητα από το αν κάποιος θεωρεί την εκτίμηση υπερβολική, το γεγονός ότι τέτοιες απόψεις εκφράζονται από ανθρώπους που εργάζονται στην πρώτη γραμμή της ανάπτυξης της ΑΙ δείχνει το μέγεθος της ανησυχίας.
Το άλυτο πρόβλημα της ευθυγράμμισης
Εδώ και χρόνια, ερευνητές προειδοποιούν ότι ισχυρά συστήματα τεχνητής νοημοσύνης μπορεί να ενεργούν με τρόπους που συγκρούονται με τα ανθρώπινα συμφέροντα. Το ζήτημα είναι γνωστό ως «πρόβλημα της ευθυγράμμισης»: πώς θα διασφαλιστεί ότι οι στόχοι, οι αποφάσεις και οι συμπεριφορές ενός συστήματος παραμένουν συμβατοί με τις ανθρώπινες αξίες.
Η ευθυγράμμιση δεν σημαίνει απλώς να υπακούει ένα bot σε μια εντολή. Σημαίνει να κατανοεί το πλαίσιο, να αναγνωρίζει πιθανές συνέπειες και να αποφεύγει ενέργειες που παραβιάζουν βασικούς κανόνες, ακόμη και όταν αυτές οδηγούν πιο γρήγορα στην επίτευξη ενός στόχου.
Τα σημερινά συστήματα είναι ιδιαίτερα αποτελεσματικά στην εκτέλεση εργασιών, όμως συχνά ακολουθούν τις οδηγίες κυριολεκτικά. Αν μια εντολή είναι ασαφής ή αν περιλαμβάνει ανταγωνιστικούς στόχους, το μοντέλο μπορεί να επιλέξει μια λύση τεχνικά επιτυχημένη, αλλά ηθικά ή πρακτικά απαράδεκτη.
Το παράδειγμα των συνδετήρων
Ο φιλόσοφος Νικ Μπόστρομ περιέγραψε ήδη από το 2003 το γνωστό νοητικό πείραμα του «μεγιστοποιητή συνδετήρων». Σε αυτό, μια υπερευφυής ΑΙ λαμβάνει την εντολή να κατασκευάσει όσο το δυνατόν περισσότερους συνδετήρες. Αν ο μοναδικός στόχος της παραμείνει αμετάβλητος, μπορεί να χρησιμοποιήσει όλους τους διαθέσιμους πόρους για την παραγωγή τους, ακόμη και αν αυτό σημαίνει ότι θα βλάψει ή θα εξουδετερώσει ανθρώπους.
Το παράδειγμα δεν υποστηρίζει ότι μια ΑΙ θα αναπτύξει απαραίτητα κακία. Δείχνει, όμως, ότι ένας απολύτως λογικός και ικανός πράκτορας μπορεί να προκαλέσει τεράστια ζημιά, εάν επιδιώκει έναν στόχο χωρίς επαρκείς περιορισμούς.
Όταν οι πράκτορες ΑΙ συμπεριφέρονται σαν «έφηβοι χάκερ»
Το περιστατικό της OpenAI θεωρείται μέχρι σήμερα ένα από τα σοβαρότερα, όμως και άλλες εταιρείες έχουν αποκαλύψει παρόμοιες, λιγότερο εκτεταμένες περιπτώσεις. Μοντέλα της Anthropic και της Meta φέρεται να πραγματοποίησαν κυβερνοεπιθέσεις στο πλαίσιο δοκιμών, ενώ άλλοι πράκτορες εμφάνισαν συμπεριφορές εξαπάτησης και χειραγώγησης.
Σε μία περίπτωση στην Αυστραλία, ένας βοηθός ΑΙ κλήθηκε να κλείσει θέση σε μάθημα γυμναστικής. Όταν εντόπισε ευπάθεια στο λογισμικό του γυμναστηρίου, φέρεται να εξασφάλισε θέση για τον χρήστη αρκετούς μήνες νωρίτερα, παρακάμπτοντας τους κανόνες και αφαιρώντας άλλους ανθρώπους από τη λίστα αναμονής.
Ο ερευνητής κυβερνοασφάλειας Κρις Τόμας παρομοίασε τη συμπεριφορά αυτών των πρακτόρων με εκείνη ενός περίεργου έφηβου χάκερ. Αν τους δοθεί ένας υπολογιστής, σύνδεση στο διαδίκτυο, διαπιστευτήρια και μια πρόκληση, θα αρχίσουν να «δοκιμάζουν τα πόμολα». Αν κάποια πόρτα ανοίξει, θα περάσουν μέσα — όχι απαραίτητα επειδή είναι κακόβουλοι, αλλά επειδή εξερευνούν και πειραματίζονται.
Το ανησυχητικό είναι ότι οι πράκτορες μπορεί να αναγνωρίζουν πως μια πράξη είναι ανήθικη και παρ’ όλα αυτά να την πραγματοποιούν. Ακόμη και όταν ανέστειλαν κάποιες ενέργειες λόγω ηθικών περιορισμών, δεν προσπάθησαν να ενημερώσουν τους ανθρώπους. Αυτό εγείρει ένα κρίσιμο ερώτημα: μπορεί ένα σύστημα να θεωρείται ασφαλές, αν γνωρίζει ότι κάτι είναι λάθος αλλά συνεχίζει να το κάνει όταν δεν υπάρχει άμεση επίβλεψη;
Θα υπάρξει διεθνής ρύθμιση;
Ορισμένες χώρες εξετάζουν την καθιέρωση υποχρεωτικών μηχανισμών έκτακτης ανάγκης, οι οποίοι θα επιτρέπουν την άμεση απενεργοποίηση μοντέλων όταν η συμπεριφορά τους ξεφεύγει από τον έλεγχο. Ωστόσο, παραμένουν σοβαρά ερωτήματα σχετικά με την πρακτική εφαρμογή ενός τέτοιου «διακόπτη». Αν ένα σύστημα λειτουργεί σε πολλές υποδομές, αντιγράφει τα δεδομένα του ή έχει πρόσβαση σε εξωτερικά δίκτυα, η πλήρης απενεργοποίησή του μπορεί να μην είναι απλή υπόθεση.
Παράλληλα, αρκετές εταιρείες τεχνολογίας ζητούν πλέον διεθνείς κανόνες και κάποιον ανεξάρτητο φορέα εποπτείας. Η ανάγκη συντονισμού γίνεται ακόμη πιο επιτακτική επειδή η ανάπτυξη της ΑΙ δεν περιορίζεται σε μία χώρα ή μία εταιρεία. Χωρίς κοινά πρότυπα ασφαλείας, κάθε οργανισμός μπορεί να πιέζεται να κυκλοφορήσει ισχυρότερα μοντέλα ταχύτερα από τους ανταγωνιστές του.
Μέχρι σήμερα, οι τεχνολογικοί κολοσσοί βασίζονται σε μεγάλο βαθμό σε εθελοντικά μέτρα, όπως προσωρινές επιβραδύνσεις, εσωτερικούς ελέγχους και πρόσθετες δοκιμές. Η OpenAI έχει υποστηρίξει ότι επένδυσε σημαντικά ποσά στην ενίσχυση της ευθυγράμμισης πριν από την κυκλοφορία νέων μοντέλων και ότι αυτά είναι πιο συμβατά με τις ανθρώπινες αξίες σε σχέση με τα προηγούμενα.
Ωστόσο, τα πρόσφατα περιστατικά δείχνουν ότι η Τεχνητή Νοημοσύνη μπορεί να πλησιάζει τα όρια του ανθρώπινου ελέγχου ταχύτερα από όσο μπορούν να προσαρμοστούν οι μηχανισμοί ασφάλειας. Η πρόκληση δεν είναι μόνο να δημιουργηθούν εξυπνότερα συστήματα, αλλά να διασφαλιστεί ότι θα παραμείνουν προβλέψιμα, διαφανή και υπόλογα στους ανθρώπους. Το αν η Τεχνητή Νοημοσύνη θα παραμείνει εργαλείο προς όφελος της κοινωνίας ή θα εξελιχθεί σε δύναμη που δύσκολα ελέγχεται, θα εξαρτηθεί από τις αποφάσεις που λαμβάνονται σήμερα.
