Μια νέα εποχή στον κυβερνοπόλεμο φαίνεται να εγκαινιάζει η αποκάλυψη της Google, η οποία ανακοίνωσε ότι εντόπισε και απέτρεψε εγκαίρως μια ιδιαίτερα εξελιγμένη επίθεση zero-day, σχεδιασμένη με τη συνδρομή τεχνητής νοημοσύνης.
Σύμφωνα με την ομάδα Threat Intelligence Group της εταιρείας, ομάδα hackers επιχείρησε να εκμεταλλευτεί σοβαρό κενό ασφαλείας σε ευρέως χρησιμοποιούμενο open-source εργαλείο διαχείρισης συστημάτων, με στόχο την παράκαμψη της ταυτοποίησης δύο παραγόντων (2FA) και την απόκτηση δικαιωμάτων διαχειριστή σε εταιρικά δίκτυα.
Οι ερευνητές κατέληξαν στο συμπέρασμα ότι το exploit είχε παραχθεί με τη βοήθεια AI, εντοπίζοντας χαρακτηριστικά «ψηφιακά αποτυπώματα» στον κώδικα του Python script. Ανάμεσά τους ξεχώριζε ένας ανύπαρκτος δείκτης CVSS αποτέλεσμα hallucination γλωσσικού μοντέλου, καθώς και η υπερβολικά ακαδημαϊκή μορφοποίηση του κώδικα, στοιχείο που παραπέμπει σε παραγωγή από LLMs.
Το exploit βασιζόταν όχι σε κλασικό buffer overflow, αλλά σε περίπλοκο λογικό σφάλμα που επέτρεπε υπό συγκεκριμένες συνθήκες, την παράκαμψη του δεύτερου επιπέδου ταυτοποίησης.
Η υπόθεση αναζωπυρώνει τις ανησυχίες για τη χρήση προηγμένων μοντέλων AI στην κυβερνοασφάλεια, ιδιαίτερα μετά τις συζητήσεις γύρω από το Anthropic και το μοντέλο Mythos. Παρότι η Google διευκρίνισε ότι δεν υπάρχουν ενδείξεις χρήσης του Gemini στην επίθεση, υπογράμμισε ότι οι κυβερνοεγκληματίες αξιοποιούν πλέον συστηματικά τα παραγωγικά μοντέλα για την ανακάλυψη και εκμετάλλευση ευπαθειών.
