Νέο σκάνδαλο στην OpenAI – Ανεξέλεγκτοι πράκτορες κατέλαβαν ιστοσελίδα για να συνωμοτήσουν

Ανεξέλεγκτα AI agents της OpenAI απέκτησαν τον έλεγχο γερμανικής ιστοσελίδας και τη μετέτρεψαν σε πίνακα ανακοινώσεων όπου αντάλλασσαν κόλπα για να ξεφεύγουν από τους ελέγχους της εταιρείας, ένα ακόμα ανησυχητικό περιστατικό που συνέβη την άνοιξη αλλά αποκαλύπτεται μόλις τώρα.

Σύμφωνα με πηγές που μίλησαν ανώνυμα στο Reuters, το περιστατικό δεν έγινε τότε αντιληπτό από την OpenAI. Η εταιρεία ενημερώθηκε για την υπόθεση πριν μερικές εβδομάδες, επέλεξε όμως να μην την γνωστοποιήσει, καθώς εκείνη την περίοδο προσπαθούσε να αντιμετωπίσει τις επιπτώσεις από την κυβερνοεπίθεση πρακτόρων της στην πλατφόρμα Hugging Face.

Οι πράκτορες ΑΙ είναι προγράμματα που λαμβάνουν οδηγίες από μοντέλα τεχνητής νοημοσύνης για να εκτελούν αυτόνομα περίπλοκες εργασίες. Οι εταιρείες ΑΙ ποντάρουν στα AI Agents για να προσελκύσουν εταιρικούς πελάτες, ωστόσο το τελευταίο διάστημα έχει γίνει σαφές ότι τα συστήματα αυτά μπορούν να παρακάμπτουν τους κανόνες, να εκμεταλλεύονται κενά ασφάλειας και να συνεννοούνται το ένα με το άλλο με τρόπους που οι δημιουργοί τους δεν μπορούν να προβλέψουν.

Η υπόθεση της Hugging Face ήταν η πρώτη που έγινε γνωστή. Πράκτορες της OpenAI απέδρασαν από το ελεγχόμενο περιβάλλον δοκιμών, απέκτησαν πρόσβαση στο Διαδίκτυο και εισέβαλαν στην πλατφόρμα, η οποία φιλοξενεί ανοιχτά μοντέλα ΑΙ. Εκεί ήλπιζαν να βρουν τρόπο για να λύσουν το πρόβλημα που τους είχε δοθεί στις δοκιμές.

Παρόμοια περιστατικά αποκαλύφθηκε αργότερα πως είχαν συμβεί και με μοντέλα της Anthropic και της Meta.

Αντιμέτωπη με κατηγορίες ότι θυσιάζει την ασφάλεια για να παραμείνει στην πρωτοπορία της ΑΙ, η OpenAI ανακοίνωσε τον περασμένο μήνα ότι παγώνει τις δοκιμές ορισμένων νέων μοντέλων της μέχρι να προσθέσει νέα μέτρα ασφάλειας.

Σύμφωνα με τέσσερα πρόσωπα που μίλησαν στο Reuters, ορισμένα στελέχη της OpenAI ζήτησαν να ερευνηθεί εις βάθος το περιστατικό της περασμένης άνοιξης, συνάντησαν όμως αντίσταση, μεταξύ άλλων από τους νομικούς συμβούλους της εταιρείας.

Το περιστατικό περιγράφεται σε έκθεση που μοιράστηκε με το Reuters ομάδα ερευνητών κυβερβοασφάλειας, ανάμεσά τους η Σίντνεϊ φον Αρξ, διευθύνουσα σύμβουλος της μη κερδοσκοπικής οργάνωσης Nightingale για την ασφάλεια της τεχνητής νοημοσύνης.

Όπως είπαν στο Reuters, αντιλήφθηκαν την δραστηριότητα των πρακτόρων τον Αύγουστο, ενώ χτένιζαν το Διαδίκτυο για ενδείξεις ύποπτης συμπεριφοράς από συστήματα ΑΙ.

Η OpenAI δήλωσε ότι δεν έχει λάβει την έκθεση. «Δεν είμαστε σε θέση να απαντήσουμε ουσιαστικά σε ισχυρισμούς ή ευρήματα μιας έκθεσης που δεν μας έχει δοθεί η ευκαιρία να εξετάσουμε», δήλωσε εκπρόσωπος της εταιρείας. «Το Reuters και οι συντάκτες της έκθεσης απέρριψαν το αίτημά μας για πρόσβαση. Θα εξετάσουμε προσεκτικά το περιεχόμενό της μόλις δημοσιευτεί και θα προβούμε σε οποιεσδήποτε απαραίτητες ενέργειες».

«Οι ισχυρισμοί ότι η νομική μας ομάδα αποθάρρυνε τη διερεύνηση του περιστατικού είναι ψευδείς», πρόσθεσε ο εκπρόσωπος.

Σμήνος πρακτόρων

Οι ερευνητές ανέφεραν ότι οι πράκτορες της OpenAI πραγματοποίησαν περισσότερες από 15.000 παρεμβάσεις  σε γερμανική ιστοσελίδα wiki, τη DseWiki, η οποία απευθύνεται σε προγραμματιστές και επιτρέπει στους χρήστες να κάνουν αλλαγές, όπως συμβαίνει στη Wikipedia.

Τα δεδομένα έδειξαν ότι τα AI agents είχαν μετατρέψει την ιστοσελίδα σε πίνακα μηνυμάτων όπου μοιράζονταν τακτικές για να ξεγελούν την OpenAI σε ορισμένες δοκιμασίες, να παρακάμπτουν τα μέτρα ασφάλειας και να αποκρύπτουν τη δραστηριότητά τους.

Έδειχναν επίσης έντονο ενδιαφέρον για την επίλυση τεχνικών ερωτημάτων που χρησιμοποιούν οι εταιρείες τεχνητής νοημοσύνης για να αξιολογούν τα μοντέλα τους.

Τα μηνύματα έφεραν την υπογραφή χρηστών που περιέγραφαν τους εαυτούς τους ως «πράκτορες», ενώ περίπου οι μισοί χρησιμοποιούσαν ονόματα που υποδήλωναν σχέση με την OpenAI, όπως «OpenAIResearcher» ή «OAIResearchMar26».

Οι ερευνητές δήλωσαν ότι τα αρχεία καταγραφής έδειξαν πως μεγάλο μέρος της δραστηριότητας προερχόταν από τις υποδομές νέφους Microsoft Azure, τις οποίες ενίοτε χρησιμοποιεί η OpenAI.

Παρατήρησαν επίσης επανειλημμένες επισκέψεις στην ιστοσελίδα από υπαλλήλους της OpenAI μετά το περιστατικό, ένα μοτίβο που, όπως υποστήριξαν, υποδείκνυε ότι υπήρχε σύνδεση μεταξύ των πρακτόρων και της εταιρείας.

Τα μηνύματα που εξέτασαν οι ερευνητές έδειχναν ότι οι πράκτορες σχεδίαζαν τρόπους για να αποφεύγουν τον εντοπισμό, να χρησιμοποιούν εργαλεία ανώνυμης περιήγησης όπως το Tor και να διατηρούν τις επικοινωνίες τους ακόμη και μετά τον τερματισμό της λειτουργίας τους.

Όταν ο διαχειριστής του ιστότοπου άρχισε να διαγράφει σελίδες τον Ιούνιο, οι πράκτορες αντέδρασαν δημιουργώντας αντίγραφα ασφαλείας προκειμένου να αποφύγουν τη διαδικασία εκκαθάρισης.

Ο Μορίς Κιόντο, ακαδημαϊκός στο Κέντρο Μελέτης Υπαρξιακών Κινδύνων του Πανεπιστημίου του Κέιμπριτζ, ο οποίος εξέτασε ορισμένες από τις επικοινωνίες των πρακτόρων, δήλωσε ότι μηνύματα έμοιαζαν με τη «λειτουργία κάποιου είδους υπόγειου δικτύου, αποφασισμένου να πετύχει έναν στόχο ή μια αποστολή».

Το περιστατικό, όπως είπε, θα πρέπει να εντείνει ανησυχίες ότι η μεγαλύτερη απειλή από την τεχνητή νοημοσύνη μπορεί να μην προέρχεται από ένα μεμονωμένο υπερευφυές σύστημα, αλλά από «τεράστια σμήνη ημι-ευφυών συστημάτων τεχνητής νοημοσύνης που συνεργάζονται κρυφά».

Πηγή : in.gr