Tα μοντέλα της OpenAI που… επαναστάτησαν κατηγορούνται για επίθεση και σε δεύτερη εταιρεία

 

Συνεχίζονται οι αποκαλύψεις για τους αυτόνομους πράκτορες ΑΙ του κολοσσού τεχνητής νοημοσύνης.

Ενώ η βιομηχανία της τεχνολογίας προσπαθεί να διαχειριστεί το πρωτοφανές περιστατικό αυτονόμησης μοντέλων ΑΙ που παραβίασαν τα συστήματα άλλης εταιρείας γίνεται γνωστό ότι αυτοί οι ΑΙ agents της OpenAI δεν περιόρισαν τη δράση τους σε μια εταιρεία αλλά παραβίασαν και τουλάχιστον άλλη μια εταιρεία.

Οι AI agent της OpenAI πραγματοποίησαν πολυήμερη επίθεση εναντίον της εταιρείας Hugging Face και σύμφωνα με ρεπορτάζ του Reuters παραβίασαν επίσης έναν πελάτη μιας δεύτερης εταιρείας τεχνολογίας, της Modal Labs με έδρα τη Νέα Υόρκη.
Τα στελέχη της Modal έσπευσαν να διευκρινίσουν ότι η ίδια η εταιρεία δεν παραβιάστηκε. Η Hugging Face έκανε γνωστό ότι οι ανεξέλεγκτοι AI agent απέκτησαν αρχικά πρόσβαση σε ένα «sandbox», δηλαδή σε ένα απομονωμένο περιβάλλον δοκιμών που φιλοξενούνταν στις υποδομές τρίτου παρόχου και στη συνέχεια το χρησιμοποίησαν ως βάση για την ευρύτερη κυβερνοεπίθεση.

Η ανακοίνωση της Hugging Face δεν κατονομάζει τον συγκεκριμένο πάροχο. Ωστόσο ο διευθυντής τεχνολογίας της εταιρείαςModal, Ακσάτ Μπούμπνα, δήλωσε ότι οι πράκτορες εκμεταλλεύτηκαν ευάλωτο κώδικα που είχε αναπτύξει ένας πελάτης της εταιρείας και φιλοξενούνταν στην πλατφόρμα της Modal.

Σύμφωνα με τη Modal ο πελάτης είχε δημοσιεύσει ένα μη πιστοποιημένο τερματικό σημείο (μη προστατευμένο σημείο πρόσβασης) το οποίο επέτρεπε σε οποιονδήποτε χρήστη στο Διαδίκτυο να χρησιμοποιεί τα sandbox του για εκτέλεση κώδικα. Η εταιρεία παρομοίασε την κατάσταση με το να αφήνει κάποιος την πόρτα του σπιτιού του ορθάνοιχτη.

«Η πλατφόρμα της Modal και οι μηχανισμοί απομόνωσής της δεν παραβιάστηκαν με κανέναν τρόπο» δήλωσε ο Μπούμπνα. Παρότι η παραβίαση του πελάτη της Modal αποτέλεσε μόνο το πρώτο στάδιο της ευρύτερης επίθεσης κατά της Hugging Face, αποκαλύπτει ότι οι αυτόνομοι πράκτορες έδρασαν σε μεγαλύτερη έκταση απ’ ό,τι ήταν γνωστό μέχρι σήμερα.

Η OpenAI αρνήθηκε να σχολιάσει ειδικά την παραβίαση του πελάτη της Modal και αναφέρει ότι δεν έχει εντοπίσει «καμία άλλη δραστηριότητα αντίστοιχης σοβαρότητας ή έκτασης με εκείνη που έχουμε ήδη δημοσιοποιήσει σχετικά με τη Hugging Face, η οποία αφορούσε παραβίαση σε επίπεδο ολόκληρης της πλατφόρμας».

Να σημειωθεί ότι ειδικοί δίνουν μια διαφορετική εικόνα για το περιστατικό υποστηρίζοντας ότι τα μοντέλα της OpenAI δεν αυτονομήθηκαν αλλά εκτέλεσαν τις εντολές που είχαν λάβει και απλά ολοκλήρωσαν την αποστολή που τους είχε ανατεθεί με τρόπο που δεν είχαν προβλέψει οι δημιουργοί τους.

Naftemporiki.gr