Τα deepfakes μπορούν να αντιγράψουν τη φωνή ενός συγγενικού προσώπου, να εμφανίσουν ένα γνωστό πρόσωπο να κάνει δηλώσεις που ποτέ δεν έκανε ή να μετατρέψουν έναν διάσημο και αξιόπιστο επαγγελματία σε «εκπρόσωπο» μιας ανύπαρκτης επενδυτικής ευκαιρίας. Η πραγματική απειλή δεν βρίσκεται στην ίδια την τεχνολογία παραγωγής συνθετικού περιεχομένου, αλλά στον τρόπο με τον οποίο αυτή αξιοποιείται για εξαπάτηση, πλαστοπροσωπία και χειραγώγηση.
Ως deepfake χαρακτηρίζεται ένα βίντεο, ηχητικό απόσπασμα ή εικόνα που έχει δημιουργηθεί ή τροποποιηθεί με τη βοήθεια AI, ώστε να παρουσιάζει ως αληθινό ένα πρόσωπο, μια φωνή ή ένα περιστατικό που στην πραγματικότητα δεν υπήρξε. Οι ίδιες τεχνικές μπορούν να χρησιμοποιηθούν νόμιμα στην ψυχαγωγία, στη σάτιρα, στη διαφήμιση και στις δημιουργικές παραγωγές. Το πρόβλημα αρχίζει όταν το συνθετικό περιεχόμενο παρουσιάζεται σκόπιμα ως αυθεντικό, με στόχο να παραπλανήσει το κοινό ή ένα συγκεκριμένο θύμα.
Η αναγνώριση ενός deepfake γίνεται ολοένα δυσκολότερη. Οι παλαιότερες δημιουργίες συχνά παρουσίαζαν εμφανή προβλήματα, όπως αφύσικες κινήσεις, κακό συγχρονισμό των χειλιών ή αλλοιώσεις στα χαρακτηριστικά του προσώπου. Τα σύγχρονα εργαλεία, όμως, μπορούν να παράγουν ιδιαίτερα πειστικό αποτέλεσμα, περιορίζοντας πολλά από αυτά τα ελαττώματα. Παράλληλα, η οικειότητα ενός προσώπου ή μιας φωνής δημιουργεί αυτομάτως εμπιστοσύνη. Όταν στο μήνυμα προστίθενται φόβος, συγκίνηση, εξουσία ή πίεση χρόνου, η κριτική σκέψη μπορεί εύκολα να παραμεριστεί.
Υπάρχουν ορισμένες ενδείξεις που πρέπει να προκαλούν υποψίες. Σε ένα βίντεο μπορεί να παρατηρηθεί ασυμφωνία ανάμεσα στην κίνηση των χειλιών και στον ήχο, αφύσικη έκφραση, αστάθεια γύρω από τα μαλλιά, τα γυαλιά ή τα κοσμήματα, καθώς και αλλαγές στον φωτισμό και στις σκιές. Στα ηχητικά αποσπάσματα, η ομιλία ενδέχεται να ακούγεται επίπεδη, υπερβολικά καθαρή, κομμένη σε ορισμένα σημεία ή να περιλαμβάνει ασυνήθιστες παύσεις και λάθη στον τονισμό.
Καμία από αυτές τις ενδείξεις δεν αποδεικνύει από μόνη της ότι πρόκειται για deepfake. Ένα βίντεο χαμηλής ανάλυσης, μια κακή σύνδεση ή ένας προβληματικός ήχος μπορεί να δημιουργήσει παρόμοια φαινόμενα. Για τον λόγο αυτό, μεγαλύτερη σημασία έχει το πλαίσιο μέσα στο οποίο εμφανίζεται το περιεχόμενο και κυρίως η ενέργεια που ζητείται από τον παραλήπτη.
Ιδιαίτερη προσοχή χρειάζεται όταν ένα μήνυμα από νέο αριθμό ή μη επιβεβαιωμένο λογαριασμό ζητά άμεση μεταφορά χρημάτων, κωδικούς πρόσβασης, τραπεζικά στοιχεία, αγορά δωροκαρτών ή πληρωμή σε κρυπτονομίσματα. Το ίδιο ισχύει όταν ένας υποτιθέμενος συγγενής ισχυρίζεται ότι βρίσκεται σε κίνδυνο ή όταν ένα διευθυντικό στέλεχος ζητά να παρακαμφθούν οι καθιερωμένες διαδικασίες μιας επιχείρησης. Η μυστικότητα, η έντονη πίεση και η απαίτηση για άμεση αντίδραση αποτελούν συχνά ισχυρότερες ενδείξεις απάτης από οποιοδήποτε οπτικό ελάττωμα.
Τα deepfakes χρησιμοποιούνται ήδη σε απάτες οικογενειακής έκτακτης ανάγκης, όπου μια κλωνοποιημένη φωνή ζητά οικονομική βοήθεια, καθώς και σε επιθέσεις πλαστοπροσωπίας στελεχών επιχειρήσεων. Εμφανίζονται επίσης σε ψεύτικες επενδυτικές διαφημίσεις με διασημότητες, σε απάτες γνωριμιών, σε συστήματα εξαπάτησης με κρυπτονομίσματα, σε εκστρατείες παραπληροφόρησης και σε περιστατικά παρενόχλησης ή δυσφήμησης. Κοινό στοιχείο όλων είναι η κατασκευή μιας πειστικής ταυτότητας, η οποία ενισχύει την αξιοπιστία ενός ψεύτικου αιτήματος.
Όταν ένα βίντεο ή ηχητικό μήνυμα δημιουργεί υποψίες, η πρώτη και σημαντικότερη αντίδραση είναι η παύση. Ο παραλήπτης δεν πρέπει να πληρώσει, να απαντήσει, να αποκαλύψει πληροφορίες ή να κοινοποιήσει το περιεχόμενο πριν το ελέγξει. Στη συνέχεια χρειάζεται να εντοπίσει την αρχική πηγή και να αναζητήσει ανεξάρτητη επιβεβαίωση από αξιόπιστα μέσα ή επίσημους λογαριασμούς.
Εάν το μήνυμα φαίνεται να προέρχεται από γνωστό πρόσωπο, η επικοινωνία πρέπει να γίνει μέσω ενός ήδη επιβεβαιωμένου τηλεφώνου, email ή λογαριασμού και όχι μέσω των στοιχείων που περιλαμβάνονται στο ύποπτο μήνυμα. Οι οικογένειες μπορούν να συμφωνήσουν μια προσωπική ερώτηση ή μια μυστική λέξη ασφαλείας. Στο επιχειρηματικό περιβάλλον, πρέπει να τηρούνται χωρίς εξαιρέσεις οι διαδικασίες έγκρισης πληρωμών, ακόμη και όταν το αίτημα φαίνεται να προέρχεται από τη διοίκηση.
Εργαλεία όπως το Bitdefender RealCheck μπορούν να αναλύσουν δημόσιους συνδέσμους ή αρχεία βίντεο και να εξετάσουν οπτικά, ηχητικά και γλωσσικά σημάδια πιθανής παραποίησης. Το αποτέλεσμά τους, ωστόσο, πρέπει να αντιμετωπίζεται ως υποστηρικτική ένδειξη και όχι ως απόλυτη απόδειξη. Η τελική επιβεβαίωση πρέπει πάντοτε να γίνεται μέσω διαφορετικού και αξιόπιστου καναλιού.
Αν έχει ήδη πραγματοποιηθεί πληρωμή ή έχουν αποκαλυφθεί κωδικοί, απαιτείται άμεση επικοινωνία με την τράπεζα, αλλαγή των κωδικών πρόσβασης και ενεργοποίηση πρόσθετων μέτρων προστασίας. Παράλληλα, πρέπει να διατηρούνται το μήνυμα, ο σύνδεσμος, το όνομα του λογαριασμού, τα στιγμιότυπα οθόνης, οι χρονικές σημάνσεις και οι οδηγίες πληρωμής, ώστε να υπάρχουν διαθέσιμα αποδεικτικά στοιχεία.
Η προστασία από τα deepfakes δεν απαιτεί εξειδικευμένη εγκληματολογική κατάρτιση. Απαιτεί μια σταθερή συνήθεια επαλήθευσης: διακοπή πριν από την αντίδραση, έλεγχο της πηγής, επικοινωνία μέσω γνωστού καναλιού και προσεκτική εξέταση του αιτήματος. Σε μια εποχή κατά την οποία η εικόνα και η φωνή δεν αποτελούν πλέον αδιάσειστες αποδείξεις, η επαλήθευση εξελίσσεται στην πρώτη γραμμή άμυνας απέναντι στις απάτες που αξιοποιούν το AI.
Πηγή Bitdefender
