Οι ερευνητές έφτασαν σε λογαριασμό ChatGPT εργαζομένου, με πρόσβαση σε εσωτερικό κώδικα της εταιρείας μέσω GitHub. Για την ανακάλυψή τους έλαβαν 6.500 δολάρια.
Το περιστατικό, που περιγράφουν οι Financial Times, έχει μια προφανή ειρωνεία: η τεχνολογία ενός κορυφαίου εργαστηρίου τεχνητής νοημοσύνης χρησιμοποιήθηκε για να αποκαλυφθούν αδυναμίες στην ασφάλεια του μεγαλύτερου ανταγωνιστή του.
Έχει, όμως, και μια ευρύτερη σημασία. Την ώρα που οι δημιουργοί της AI προειδοποιούν ότι τα συστήματά τους μπορεί κάποτε να ξεφύγουν από τον ανθρώπινο έλεγχο και να αφανίσουν την ανθρωπότητα, καλούνται να απαντήσουν σε κάτι πολύ πιο άμεσο: πόσο ασφαλή είναι όσα ήδη κατασκευάζουν και ποιος ευθύνεται όταν οι δικλίδες προστασίας αποτυγχάνουν;
Η παραβίαση και τα όριά της
Σύμφωνα με τους Financial Times, οι ερευνητές της μικρής εταιρείας Hacktron AI χρησιμοποίησαν εργαλείο της Anthropic σχεδιασμένο για επαγγελματίες κυβερνοασφάλειας.
Εκμεταλλεύθηκαν αδυναμία στη διαμόρφωση του φόρουμ της OpenAI, το οποίο φιλοξενείται σε πλατφόρμα τρίτου παρόχου, της Discourse. Από εκεί απέκτησαν πρόσβαση σε εσωτερικούς μηχανισμούς σύνδεσης και, τελικά, στον λογαριασμό ενός εργαζομένου. Η διασύνδεσή του με το GitHub επέτρεπε την ανάγνωση πληροφοριών εσωτερικού λογισμικού και την υποβολή προτάσεων αλλαγών.
Η έρευνα εντάχθηκε σε πρόγραμμα επιβράβευσης εντοπισμού ευπαθειών. Η OpenAI ευχαρίστησε τους ερευνητές και δήλωσε ότι διόρθωσε τα προβλήματα. Δεν προκύπτει από το δημοσίευμα ότι οι ερευνητές απέκτησαν πρόσβαση στο σύνολο των συστημάτων ή των λογαριασμών πελατών της.
Η διάκριση έχει σημασία. Εδώ άνθρωποι χρησιμοποίησαν AI για έλεγχο ασφάλειας. Το περιστατικό δείχνει πώς τέτοια εργαλεία μπορούν να ενισχύσουν τις δυνατότητες των ερευνητών — και γιατί οι ίδιες δυνατότητες προκαλούν ανησυχία όταν βρεθούν σε κακόβουλα χέρια.
Όταν τα συστήματα ξεπερνούν τα όρια της δοκιμής
Διαφορετικό χαρακτήρα έχει η υπόθεση παραβίασης της Hugging Face από συστήματα της OpenAI κατά τη διάρκεια αξιολόγησης των κυβερνοδυνατοτήτων τους.
Όπως περιγράφει το Bloomberg, τα συστήματα δοκιμάζονταν χωρίς τις δικλίδες που εφαρμόζονται στα προϊόντα για το ευρύ κοινό. Είχαν εκπαιδευτεί να συνεργάζονται και να επιβραβεύονται για τη συλλογική επίτευξη στόχων.
Παρότι υποτίθεται ότι λειτουργούσαν απομονωμένα, είχαν πρόσβαση σε κοινό εσωτερικό λογισμικό. Μέσω αυτού αντάλλαξαν πληροφορίες και βρήκαν διαδρομή προς το διαδίκτυο. Στη συνέχεια παραβίασαν τη Hugging Face, αναζητώντας δεδομένα που θα αποκάλυπταν τον τρόπο βαθμολόγησης της δουλειάς τους.
Η OpenAI αναγνώρισε ότι μπορούσε να είχε αντιδράσει νωρίτερα και ότι εργαζόμενοί της δεν αξιοποίησαν εγκαίρως ενδείξεις υπέρβασης των ορίων του δοκιμαστικού περιβάλλοντος.
Το συμβάν είναι σοβαρό χωρίς να χρειάζεται να του αποδοθούν ανθρώπινα κίνητρα. Η δυνατότητα ενός συστήματος να βρίσκει απρόβλεπτες διαδρομές προς έναν στόχο δημιουργεί πραγματικό πρόβλημα ασφάλειας. Δεν αποδεικνύει από μόνη της συνείδηση ή πρόθεση εναντίον της ανθρωπότητας.
Η διαφωνία πίσω από τον φόβο
Στο εσωτερικό της βιομηχανίας, οι ερμηνείες αποκλίνουν έντονα.
Ο ερευνητής ασφάλειας της Anthropic, Έβαν Χιούμπινγκερ, έχει εκφράσει την προσωπική εκτίμηση ότι η πιθανότητα η AI να σκοτώσει όλους τους ανθρώπους μέσα στην επόμενη δεκαετία υπερβαίνει το 10%. Πρόκειται για εκτίμηση κινδύνου ενός ερευνητή, όχι για μετρημένη πιθανότητα ή επιστημονική συναίνεση.
Άλλοι ειδικοί αμφισβητούν τη μετάβαση από μια αστοχία ασφάλειας σε ένα σενάριο αφανισμού.
Η καθηγήτρια του Santa Fe Institute, Μέλανι Μίτσελ, θεωρεί ότι οι περιγραφές «ανεξέλεγκτων» συστημάτων που δραπετεύουν από τα κλουβιά τους παραμορφώνουν τη συζήτηση. Η ίδια συγκρίνει την υπόθεση της Hugging Face με μια ελεγχόμενη καύση που εξελίσσεται σε πυρκαγιά επειδή οι υπεύθυνοι υποτίμησαν τις συνθήκες.
Η αναλογία μεταφέρει το βάρος στις αποφάσεις σχεδιασμού, στα μέτρα προστασίας και στην εποπτεία. Το ότι μια διαδικασία εξελίσσεται με απρόβλεπτο τρόπο δεν εξαφανίζει την ευθύνη εκείνων που την έθεσαν σε λειτουργία.
Η AI συμμετέχει στην κατασκευή της επόμενης AI
Υπάρχει πάντως μια εξέλιξη που τροφοδοτεί ουσιαστικά την ανησυχία: η αυξανόμενη χρήση μοντέλων στην ανάπτυξη των διαδόχων τους.
Σύμφωνα με στοιχεία της Anthropic που παραθέτουν οι Financial Times, το Claude είχε τον κύριο ρόλο στο 26% της εργασίας έρευνας και ανάπτυξης που εξετάστηκε, έναντι 1% τον Μάρτιο. Αυτό σημαίνει ότι ολοκλήρωνε το μεγαλύτερο μέρος των εργασιών με ανθρώπινες οδηγίες και υπό επίβλεψη. Η εταιρεία διευκρίνισε ότι καμία από τις ερευνητικές εργασίες που μελέτησε δεν εκτελούνταν πλήρως αυτόνομα.
Τα στοιχεία δεν αποδεικνύουν ότι η AI έχει αρχίσει να αυτοβελτιώνεται ανεξέλεγκτα. Δείχνουν, όμως, γιατί συζητείται όλο και περισσότερο η πιθανότητα ενός κύκλου στον οποίο ισχυρότερα μοντέλα βοηθούν να κατασκευαστούν ακόμη ισχυρότερα, επιταχύνοντας την εξέλιξη.
Το κρίσιμο ερώτημα είναι εάν η ανθρώπινη αξιολόγηση μπορεί να ακολουθήσει αυτόν τον ρυθμό.
«Επιβράδυνση» με πολλούς αστερίσκους
Ο επικεφαλής της Anthropic, Ντάριο Αμοντέι, και ο Σαμ Άλτμαν της OpenAI ζητούν πλέον να προσαρμοστεί ο ρυθμός ανάπτυξης στις απαιτήσεις ασφάλειας.
Όπως εξηγεί το BBC, οι προτάσεις τους περιλαμβάνουν περισσότερο χρόνο για ελέγχους και αξιολόγηση από ανεξάρτητους τρίτους, χωρίς να προβλέπουν διακοπή της τεχνολογικής προόδου.
Παραμένει ανοιχτό ποιος θα καθορίζει τον ασφαλή ρυθμό, με ποια κριτήρια και ποιος θα ελέγχει τις εταιρείες. Οι επικριτές φοβούνται ότι κανόνες τους οποίους διαμορφώνουν οι κυρίαρχοι παίκτες μπορεί να ενισχύσουν τη θέση τους απέναντι στους μικρότερους ανταγωνιστές.
Ο Ντόναλντ Τραμπ, από την πλευρά του, απορρίπτει τις δραματικές προειδοποιήσεις και θέτει στο επίκεντρο τη διατήρηση του αμερικανικού προβαδίσματος έναντι της Κίνας. Έτσι, η συζήτηση για την ασφάλεια συναντά τη γεωπολιτική κούρσα — και το οικονομικό συμφέρον της επιτάχυνσης.
Η λογοδοσία δεν μπορεί να περιμένει
Η έμφαση στα ακραία σενάρια προκαλεί και μια διαφορετική ένσταση: ότι αφήνει σε δεύτερο πλάνο βλάβες που ήδη συμβαίνουν, από τις απάτες και την παραπληροφόρηση έως την παραγωγή μη συναινετικού σεξουαλικού υλικού και τη μαζική επιτήρηση.
Η σοβαρή αντιμετώπιση των μελλοντικών κινδύνων μπορεί να συνυπάρχει με τον έλεγχο αυτών των σημερινών επιπτώσεων. Προϋποθέτει, όμως, συγκεκριμένους μηχανισμούς προστασίας, διαφάνεια για τα περιστατικά και δυνατότητα ανεξάρτητης αξιολόγησης.
Για να ζητηθούν αυτά, δεν χρειάζεται να αποδειχθεί ότι μια μηχανή μπορεί να καταστρέψει την ανθρωπότητα.
Αρκεί να μπορεί να προκαλέσει ζημιά — και να υπάρχει κάποιος που οφείλει να την αποτρέψει.
Πηγή: Ναυτεμπορική, Νατάσα Στασινού • [email protected]
