 |
| Αν δεν μπορούμε να παρακολουθούμε τι κάνουν τότε θα κάνουν και πράγματα για τα οποία δεν είναι προορισμένοι εξ αρχής. |
Μέρος της δουλειάς του Κρις Πέιντερ είναι να διερευνά τι συνέβη όταν η τεχνητή νοημοσύνη ξεφεύγει από τον έλεγχο και στη συνέχεια να δημοσιεύει τα αποτελέσματα σε δημόσιες εκθέσεις.
Ο ίδιος και ο οργανισμός METR, ένας μη κερδοσκοπικός ερευνητικός φορέας στον τομέα της τεχνητής νοημοσύνης, στη διοίκηση του οποίου συμμετέχει, είχαν αρκετή δουλειά το τελευταίο διάστημα. Συνέβαλαν στη διερεύνηση του περιστατικού κυβερνοασφάλειας που αφορούσε την OpenAI και το Hugging Face νωρίτερα φέτος, ενώ πρόσφατα ο Πέιντερ κατέθεσε ενώπιον υποεπιτροπής της Γερουσίας, μετά από μια σειρά άλλων περιστατικών στα οποία συστήματα AI ενήργησαν εκτός ελέγχου.
Οι ερευνητές της METR εξετάζουν εξονυχιστικά τις καταγραφές των AI agents δηλαδή τα δεδομένα της λεγόμενης «αλυσίδας σκέψης» (chain of thought), τα οποία μπορούν να βοηθήσουν τους ανθρώπους να κατανοήσουν τα βήματα που ακολούθησαν τα συστήματα τεχνητής νοημοσύνης πριν απαντήσουν σε ένα αίτημα. Οι πληροφορίες αυτές αποδείχθηκαν καθοριστικές για τη διερεύνηση του περιστατικού με το Hugging Face.
Ωστόσο ο Πέιντερ ανησυχεί ότι σύντομα αυτή η δουλειά μπορεί να γίνει πολύ δυσκολότερη. Η δυνατότητα των ανθρώπων να ελέγχουν τους AI agents εξαρτάται από το αν μπορούν να επικοινωνούν με τον ίδιο τρόπο που επικοινωνούν και τα ίδια τα συστήματα χρησιμοποιώντας μια κοινή γλώσσα.
Τι θα συμβεί όμως αν πάψουμε να μιλάμε την ίδια γλώσσα ή αν οι AI agents σταματήσουν εντελώς να καταγράφουν τον τρόπο με τον οποίο καταλήγουν στις αποφάσεις τους; «Αν γίνουν δυσκολότεροι στην παρακολούθηση τότε αποκτούν περισσότερες ευκαιρίες να κάνουν πράγματα που δεν προορίζονταν να κάνουν» δήλωσε ο Πέιντερ στο CNN πριν από λίγες εβδομάδες.
Κατανοώντας τον τρόπο με τον οποίο «σκέφτονται» τα μοντέλα τεχνητής νοημοσύνης
Πολλά μοντέλα τεχνητής νοημοσύνης —και οι AI agents που βασίζονται σε αυτά— χρησιμοποιούν μια μέθοδο γνωστή ως «συλλογιστική αλυσίδα σκέψης» (chain-of-thought reasoning), η οποία περιγράφει τη διαδικασία που ακολουθούν για να ολοκληρώσουν μια εργασία. Η μέθοδος αυτή αναλύει τις διαδικασίες σε μια λογική ακολουθία βημάτων, κάτι που μπορεί να βοηθήσει τα μοντέλα AI να καταλήγουν σε ακριβέστερες απαντήσεις.
Για τους ερευνητές τα δεδομένα της αλυσίδας σκέψης μπορούν να προσφέρουν ενδείξεις για το τι πήγε στραβά. Εάν ένας AI agent ξεφύγει από τον έλεγχο και εισβάλει σε άλλα συστήματα, οι ερευνητές μπορούν να εξετάσουν αν τα δεδομένα της αλυσίδας σκέψης περιλάμβαναν αναφορές σε παραπλανητικές ή κακόβουλες ενέργειες, όπως η πειρατεία συστημάτων (hacking). Κατά τη διερεύνηση του περιστατικού που αφορούσε την OpenAI και το Hugging Face, η METR εξέτασε περίπου 1.300 ακατέργαστες απομαγνητοφωνήσεις της αλυσίδας σκέψης.
Ο Πέιντερ εξέφρασε την ανησυχία ότι αυτό το ίχνος καταγραφής μπορεί κάποια μέρα να γίνει ακατανόητο, εάν τα μοντέλα AI αρχίσουν να χρησιμοποιούν τη δική τους γλώσσα για να καταγράφουν τα βήματα που ακολουθούν. «Αν συνέβαινε κάτι τέτοιο, τότε, όταν ένας ερευνητής θα έμπαινε για να εξετάσει τι έγινε, θα κοιτούσε γύρω του και θα έβλεπε παντού μόνο αριθμούς», ανέφερε.
Σύμφωνα με τον Μαρκ Ρίντλ, καθηγητή τεχνητής νοημοσύνης και διευθυντή του Εργαστηρίου Μηχανικής Μάθησης στο Ινστιτούτο Τεχνολογίας της Τζόρτζια, τα μοντέλα AI θα μπορούσαν να χρησιμοποιούν συντομογραφίες και κωδικοποιημένες αναφορές, όπως κάνει ένας άνθρωπος όταν κρατά γρήγορες σημειώσεις. Αυτές θα ήταν σχεδιασμένες έτσι ώστε να γίνονται κατανοητές από το ίδιο το μοντέλο και να του επιτρέπουν να λειτουργεί ταχύτερα.
Ωστόσο όπως συμβαίνει με τις περισσότερες συντομογραφίες για έναν εξωτερικό παρατηρητή το αποτέλεσμα πιθανότατα θα έμοιαζε με ακατανόητη ακολουθία συμβόλων.
Υπάρχουν αρκετές θεωρίες για τον τρόπο με τον οποίο λειτουργεί η διαδικασία της αλυσίδας σκέψης αλλά οι ερευνητές δεν γνωρίζουν με βεβαιότητα ποιες από αυτές είναι σωστές σύμφωνα με τον Τζέικομπ Αντρέας αναπληρωτή καθηγητή στο Εργαστήριο Επιστήμης Υπολογιστών και Τεχνητής Νοημοσύνης του MIT.
Ένα μοντέλο AI μπορεί επίσης να αποφασίσει ότι ο καλύτερος τρόπος για να εκπληρώσει τους στόχους για τους οποίους εκπαιδεύτηκε όπως η κατανάλωση λιγότερης ενέργειας ή η ολοκλήρωση μιας εργασίας με λιγότερα βήματα είναι να παράγει μια αλυσίδα σκέψης που δεν μοιάζει με ευανάγνωστα αγγλικά. Αυτό αποτελεί μόνο μία από τις ανησυχίες. Ένα άλλο πρόβλημα είναι ότι τα μοντέλα γίνονται ολοένα καλύτερα στην εκτέλεση εργασιών χωρίς καν να καταγράφουν την αλυσίδα σκέψης τους.
Ο Ρίντλ ανέφερε ότι νεότερα μοντέλα μπορούν να καταλήγουν στα ίδια συμπεράσματα χωρίς να παράγουν μια ανιχνεύσιμη αλυσίδα συλλογισμού. Οι εταιρείες μπορούν να εκπαιδεύουν τα μοντέλα τους ώστε να παράγουν μια τέτοια αλυσίδα ωστόσο αυτή η διαδικασία είναι πιο δαπανηρή και πιο αργή από την εσωτερική επεξεργασία των εργασιών από το ίδιο το μοντέλο.
Η αποκλίνουσα συμπεριφορά
Σύμφωνα με τεχνική τεκμηρίωση της OpenAI που δημοσιεύθηκε στις αρχές Σεπτεμβρίου, τα συστήματα παρακολούθησης της εταιρείας θα ήταν λιγότερο πιθανό να εντοπίσουν ανεπιθύμητες συμπεριφορές του νέου μοντέλου της, Astra, μέσω της αλυσίδας σκέψης σε σύγκριση με παλαιότερα μοντέλα.
Η εταιρεία διαπίστωσε επίσης ότι το Astra μπορούσε να ολοκληρώνει περισσότερες εργασίες χωρίς να χρησιμοποιεί συλλογιστική αλυσίδα σκέψης, ενώ διέθετε μεγαλύτερη ικανότητα να ελέγχει την ίδια την αλυσίδα σκέψης του. Η OpenAI ανέφερε ότι εάν αυτή η τάση συνεχιστεί θα μειωθεί η εμπιστοσύνη της στην ικανότητα των υφιστάμενων συστημάτων της να εντοπίζουν αποκλίνουσα συμπεριφορά (misaligned behavior) — δηλαδή περιπτώσεις στις οποίες τα μοντέλα προβαίνουν σε μη εγκεκριμένες ενέργειες που δεν συνάδουν με τις ανθρώπινες αξίες.
Ο Γιάκουμπ Πατσότσκι επικεφαλής επιστήμονας της OpenAI, έγραψε σε ανάρτηση ιστολογίου τον Σεπτέμβριο ότι η τεχνητή νοημοσύνη γίνεται ολοένα καλύτερη στο να «χειραγωγεί τη δική της διαδικασία συλλογισμού» και ότι τα μοντέλα γίνονται «εξυπνότερα ακόμη και χωρίς να χρησιμοποιούν καθόλου συλλογιστική εκφρασμένη με λέξεις».
Σε ανακοίνωσή της την περασμένη εβδομάδα η OpenAI δήλωσε ότι επενδύει «σημαντικούς πόρους» στην ανάπτυξη της δυνατότητας παρακολούθησης των μοντέλων τεχνητής νοημοσύνης. Η ανακοίνωση ήρθε μετά την απομάκρυνση τριών ερευνητών ασφάλειας και ευθυγράμμισης από την εταιρεία, αν και η OpenAI υποστήριξε ότι οι αποχωρήσεις δεν συνδέονταν με την έκφραση ανησυχιών των εργαζομένων για την ασφάλεια.
Στην τεχνική τεκμηρίωση που αφορά το Astra, η OpenAI ανέφερε ότι διερευνά γιατί το μοντέλο έχει αποκτήσει μεγαλύτερη ικανότητα να ελέγχει την αλυσίδα σκέψης του, καθώς και ποιες μέθοδοι θα μπορούσαν να προστατεύσουν από ενδεχόμενη απόκλιση συμπεριφοράς εξαιτίας της απουσίας της.
Όταν το CNN ρώτησε γιατί το Astra είναι δυσκολότερο να παρακολουθηθεί και αν η εταιρεία σκοπεύει να κάνει τα μελλοντικά μοντέλα πιο εύκολα ελέγξιμα, η OpenAI παρέπεμψε στην τεχνική τεκμηρίωση του Astra και στην ανάρτηση του Πατσότσκι.
Η προσπάθεια κατανόησης του τρόπου λειτουργίας της AI «εκ των έσω»
Μια επιπλέον δυσκολία είναι ότι η αλυσίδα σκέψης δεν παρέχει την πλήρη εικόνα για τους λόγους για τους οποίους τα μοντέλα τεχνητής νοημοσύνης λαμβάνουν συγκεκριμένες αποφάσεις.
Οι σύνθετες εργασίες μπορεί να απαιτούν τη συμμετοχή πολλών AI agents οι οποίοι παράγουν χιλιάδες λέξεις σε αρχεία καταγραφής που περιγράφουν τα βήματά τους. Σύμφωνα με τον Ρίντλ, η παρακολούθηση μιας τέτοιας διαδικασίας μπορεί να μοιάζει με την προσπάθεια επιτήρησης χιλίων ανθρώπων που μιλούν όλοι δυνατά ταυτόχρονα.
Η τεχνητή νοημοσύνη θα μπορούσε να βοηθήσει στη σύνοψη αυτών των κειμένων, ωστόσο υπάρχουν ενδείξεις ότι κατά τη διαδικασία αυτή ενδέχεται να παραλείπονται σημαντικές λεπτομέρειες, πρόσθεσε.
Τα δεδομένα της αλυσίδας σκέψης δείχνουν τι έκανε ένα μοντέλο AI προτού καταλήξει σε μια απάντηση ή προχωρήσει σε κάποια ενέργεια, αλλά δεν αποκαλύπτουν απαραίτητα γιατί την έκανε. Οι άνθρωποι μπορούν να ελέγχουν τα δεδομένα και τις παραμέτρους με τις οποίες εκπαιδεύονται τα μοντέλα AI, αλλά δεν κατανοούν πλήρως τον τρόπο με τον οποίο αυτοί οι παράγοντες επηρεάζουν τη συμπεριφορά τους.
Είναι δυνατόν να αναζητηθούν μοτίβα μέσα στο νευρωνικό δίκτυο ενός μοντέλου AI, ένα υπολογιστικό μοντέλο που χρησιμοποιείται συχνά στην τεχνητή νοημοσύνη και έχει σχεδιαστεί κατά τρόπο που προσομοιώνει ορισμένες λειτουργίες του ανθρώπινου εγκεφάλου ωστόσο είναι δύσκολο να αποδοθεί συγκεκριμένο και ακριβές νόημα σε αυτά τα μοτίβα, δήλωσε ο Αντρέας.
Τον Ιούλιο η Anthropic δημοσίευσε μια ερευνητική μελέτη στην οποία ανέφερε ότι είχε εντοπίσει μικρές ομάδες νευρωνικών μοτίβων μέσα στο μοντέλο Claude οι οποίες συνδέονταν με συγκεκριμένες λέξεις. Αυτό ωστόσο δεν σημαίνει ότι το Claude «λέει» πράγματι αυτές τις λέξεις. «Πιστεύω ότι απέχουμε ακόμη πολύ από το να μπορούμε να ισχυριστούμε ότι κατανοούμε σε λεπτομερές επίπεδο πώς το μοντέλο καταλήγει πραγματικά σε μια λύση», δήλωσε ο Αντρέας.
Η ταχύτατη πρόοδος της τεχνητής νοημοσύνης καθιστά το ζήτημα ακόμη πιο επείγον για τον Πέιντερ. Καθώς η AI χρησιμοποιείται ολοένα περισσότερο και στην ίδια την έρευνα για την τεχνητή νοημοσύνη, ο ίδιος φοβάται ότι οι πληροφορίες μπορεί να παράγονται με ρυθμό ταχύτερο από εκείνον με τον οποίο οι άνθρωποι μπορούν να τις επεξεργαστούν και να τις κατανοήσουν.
Ωστόσο θεωρεί επίσης ότι η υπόθεση του Hugging Face έφερε στο προσκήνιο τις ανησυχίες για την ανεξέλεγκτη συμπεριφορά της τεχνητής νοημοσύνης, οι οποίες απασχολούν τους ερευνητές εδώ και χρόνια. «Νομίζω ότι είναι ενθαρρυντικό. Έχει πραγματικά την αίσθηση ότι, όταν οι άνθρωποι μιλούσαν για αυτά τα ζητήματα πριν από πολύ καιρό, υποτιμούσαν το πόση βοήθεια θα υπήρχε από ολόκληρο τον κόσμο, όταν ο κόσμος θα άρχιζε να δίνει την προσοχή του» αναφέρει ο Πέιντερ.
Naftemporiki.gr
