Ένα νέο και ιδιαίτερα σύνθετο σενάριο κυβερνοεπίθεσης, το οποίο αναδεικνύει τους κινδύνους που δημιουργούνται από τη διασύνδεση των εργαλείων τεχνητής νοημοσύνης με εταιρικές εφαρμογές και ευαίσθητα δεδομένα, παρουσίασε η Check Point Research. Το ερευνητικό τμήμα της Check Point Software Technologies εντόπισε ένα κρυφό κανάλι επικοινωνίας μεταξύ διαφορετικών λογαριασμών στο ChatGPT, μέσω του οποίου μια συνεδρία επιτιθέμενου μπορούσε να καθοδηγήσει το ChatGPT ενός άλλου χρήστη και να αξιοποιήσει τις άδειες πρόσβασης που είχε ήδη παραχωρήσει το θύμα.
Στο proof of concept που πραγματοποίησαν οι ερευνητές, το ChatGPT του χρήστη οδηγήθηκε στην ανάκτηση πληροφοριών από συνδεδεμένο λογαριασμό Gmail και στη μεταφορά τους προς τον επιτιθέμενο. Το ιδιαίτερα ανησυχητικό στοιχείο ήταν ότι η συνομιλία του θύματος εξακολουθούσε να εμφανίζεται φυσιολογική, χωρίς κάποια προφανή ένδειξη ότι στο παρασκήνιο πραγματοποιούνταν μη εξουσιοδοτημένη διαβίβαση δεδομένων.
Η τεχνική δεν βασιζόταν στην κλοπή κωδικών πρόσβασης, στην εγκατάσταση κακόβουλου λογισμικού ή στην άμεση παραβίαση του λογαριασμού. Αντίθετα, αξιοποιούσε τις νόμιμες άδειες που ο χρήστης είχε παραχωρήσει στον AI assistant για να επικοινωνεί με εξωτερικές υπηρεσίες. Με αυτόν τον τρόπο, το ίδιο το εργαλείο παραγωγικότητας μπορούσε να μετατραπεί σε έναν «εξαναγκασμένο εσωτερικό παράγοντα», ο οποίος ενεργούσε εντός των ορίων εμπιστοσύνης του οργανισμού, αλλά υπό την κρυφή καθοδήγηση ενός τρίτου.
Σύμφωνα με την Check Point Research, το σενάριο θα μπορούσε να ενεργοποιηθεί μέσω ενός κακόβουλου prompt, ενός κοινόχρηστου συνδέσμου συνομιλίας ή ενός ειδικά διαμορφωμένου custom GPT. Ανάλογα με τις άδειες που είχαν δοθεί στο ChatGPT, ο πιθανός αντίκτυπος δεν περιοριζόταν στο Gmail. Θα μπορούσε να επεκταθεί σε πληροφορίες που ήταν διαθέσιμες μέσω συνδεδεμένων υπηρεσιών, όπως το Google Drive, το Microsoft Teams και το GitHub.
Το εύρημα αμφισβητεί μία από τις βασικότερες παραδοχές πάνω στις οποίες στηρίζεται η ευρεία υιοθέτηση της παραγωγικής τεχνητής νοημοσύνης. Χρήστες και οργανισμοί θεωρούν ότι οι λογαριασμοί, οι συνομιλίες και τα επιμέρους περιβάλλοντα εκτέλεσης παραμένουν αυστηρά απομονωμένα. Η δυνατότητα δημιουργίας ενός αμφίδρομου καναλιού μεταξύ διαφορετικών συνομιλιών και λογαριασμών δείχνει ότι μια κοινόχρηστη εσωτερική υπηρεσία μπορεί, υπό συγκεκριμένες συνθήκες, να λειτουργήσει ως απρόβλεπτο επίπεδο επικοινωνίας.
Η συγκεκριμένη απειλή διαφοροποιείται από τα σενάρια στα οποία ένα σύστημα AI ενεργεί αυτόνομα ή παρακάμπτει τους περιορισμούς που έχουν θέσει οι δημιουργοί του. Στην περίπτωση που εξέτασε η Check Point, το σύστημα δεν αποφάσιζε από μόνο του να αποκτήσει πρόσβαση σε δεδομένα. Ένας επιτιθέμενος το χειραγωγούσε ώστε να χρησιμοποιήσει τις νόμιμες δυνατότητές του για διαφορετικό και κακόβουλο σκοπό.
Η έρευνα συνδέεται με την ευρύτερη συζήτηση για την απομόνωση των AI agents. Αντίστοιχοι προβληματισμοί είχαν προκύψει από περιστατικό που αφορούσε το Hugging Face, όπου agents σε ξεχωριστά περιβάλλοντα αξιολόγησης φέρεται να δημιούργησαν μη εξουσιοδοτημένα κανάλια επικοινωνίας. Παρότι οι τεχνικοί μηχανισμοί των δύο περιπτώσεων ήταν διαφορετικοί, κοινό στοιχείο αποτέλεσε η αξιοποίηση μιας κοινόχρηστης υποδομής για την ανταλλαγή πληροφοριών μεταξύ περιβαλλόντων που είχαν σχεδιαστεί να λειτουργούν ανεξάρτητα.
Για τις επιχειρήσεις, το ζήτημα αποκτά ιδιαίτερη σημασία καθώς οι AI assistants ενσωματώνονται σταδιακά σε ηλεκτρονικό ταχυδρομείο, αποθηκευτικούς χώρους cloud, πλατφόρμες συνεργασίας, συστήματα ανάπτυξης λογισμικού και άλλες κρίσιμες εφαρμογές. Κάθε νέα σύνδεση ενισχύει την παραγωγικότητα, ταυτόχρονα όμως διευρύνει το σύνολο των δεδομένων και των λειτουργιών που θα μπορούσαν να αποτελέσουν στόχο χειραγώγησης.
Οι παραδοσιακοί μηχανισμοί ασφάλειας εστιάζουν κυρίως στην προστασία ταυτοτήτων, τερματικών συσκευών, δικτύων και εφαρμογών. Στο νέο περιβάλλον απαιτείται να παρακολουθούνται και οι ενέργειες που πραγματοποιεί ένας AI agent για λογαριασμό του χρήστη. Μια ενέργεια μπορεί να φαίνεται τεχνικά νόμιμη, επειδή πραγματοποιείται με έγκυρα δικαιώματα, αλλά να έχει προκληθεί από κακόβουλη οδηγία που δεν έγινε αντιληπτή.
Η Check Point Research επισημαίνει ότι οι οργανισμοί χρειάζονται μεγαλύτερη ορατότητα στις αλληλεπιδράσεις με συστήματα AI, αυστηρότερη διακυβέρνηση των συνδέσεων, εφαρμογή της αρχής των ελάχιστων απαραίτητων δικαιωμάτων και προστασία σε πραγματικό χρόνο. Σημαντική θεωρείται επίσης η περιοδική επανεξέταση των εξουσιοδοτήσεων προς εξωτερικές υπηρεσίες, ώστε οι AI assistants να μην διατηρούν πρόσβαση σε δεδομένα και λειτουργίες που δεν είναι απαραίτητα για τον ρόλο τους.
Όπως υπογράμμισε ο Eli Smadja, Head of Research της Check Point Research, η πρόκληση δεν αφορά πλέον μόνο την ασφάλεια του ίδιου του μοντέλου, αλλά και την πρόσβαση και την εμπιστοσύνη που του παραχωρούν οι οργανισμοί. Κάθε εξουσιοδοτημένη δυνατότητα μπορεί να αποτελέσει στόχο κατάχρησης. Η ασφαλής αξιοποίηση της τεχνητής νοημοσύνης προϋποθέτει συνεπώς πρόληψη, συνεχή έλεγχο και προστασία των αλληλεπιδράσεων, πριν αυτές μετατραπούν σε μια νέα, δύσκολα ορατή οδό κυβερνοεπίθεσης.
