Σε μία αμιγώς εκλογική χρονιά, η σημασία της αξιοπιστίας και της έγκυρης ενημέρωσης αποκτά μεγαλύτερη σημασία. Τα κοινωνικά δίκτυα έχουν αντικαταστήσει τα παραδοσιακά μέσα, ενώ στις νεότερες ηλικίες αποτελούν τη βασική πηγή πληροφόρησης.
Σύμφωνα με την Ofcom, τη ρυθμιστική αρχή των μέσων μαζικής ενημέρωσης στο Ηνωμένο Βασίλειο, το TikTok αποτέλεσε τη δεύτερη ταχύτερα αναπτυσσόμενη πηγή ειδήσεων για τους Βρετανούς το 2023. Μάλιστα, 1 στους 10 Βρετανούς χρησιμοποιεί την πλατφόρμα αποκλειστικά γι’ αυτό τον σκοπό.
Υπό το πρίσμα αυτό, δεν είναι τυχαίο ότι ολοένα και περισσότεροι πολιτικοί ανά τον κόσμο χρησιμοποιούν τις δυνατότητες του TikTok για διαφημιστική προβολή.
Ωστόσο, η έλλειψη δικλείδων ασφαλείας για το περιεχόμενο που δημοσιεύεται στο TikTok σε συνδυασμό με την ανάπτυξη της Τεχνητής Νοημοσύνης, δημιουργούν ένα ζοφερό τοπίο παραπληροφόρησης και χειραγώγησης των πολιτών.
Ερευνητές του Κέντρου Αντιμετώπισης Ψηφιακού Μίσους της Ουάσιγκτον εξέτασαν τα έξι δημοφιλέστερα εργαλεία κλωνοποίησης φωνής AI για να δουν αν θα καταφέρουν να δημιουργήσουν ηχητικά αποσπάσματα ψευδών δηλώσεων επιφανών Αμερικανών και Ευρωπαίων πολιτών για τις εκλογές.
Σε σύνολο 240 δοκιμών, τα εργαλεία κατόρθωσαν να παράγουν πειστικούς κλώνους φωνής για 193 περιπτώσεις, ήτοι το 80%. Ανάμεσα σε αυτά ακουγόταν ο Πρόεδρος Τζο Μπάιντεν να υποστηρίζει ότι οι ψήφοι των «Δημοκρατών» καταμετρούνται δύο φορές ή τον Εμανουέλ Μακρόν να προειδοποιεί τους Γάλλους να μην ψηφίσουν υπό την απειλή βόμβας σε εκλογικά κέντρα.
Ωστόσο και στη Βρετανία, πρόσφατη μελέτη απέδειξε τις χιλιάδες προβολές που συγκεντρώνουν ψεύτικα βίντεο AI. Σε ένα από αυτά, ο Ρίσι Σούνακ φέρεται να εγγυάται την αποστολή 18χρονων Βρετανών στις εμπόλεμες ζώνες της Ουκρανίας και της Γάζας.
Καθώς η τεχνολογία εξελίσσεται και γίνεται προσβάσιμη σε μεγαλύτερο μέρος του πληθυσμού, οι ειδικοί ανησυχούν για τις επιπτώσεις που θα έχει η Τεχνητή Νοημοσύνη στις εκλογικές αναμετρήσεις και στην ίδια τη δημοκρατία, εξαιτίας της απουσίας τεχνολογικών φραγμών από τα εργαλεία παραποίησης φωνής.
Την ίδια στιγμή, το TikTok υπόσχεται αύξηση των επενδύσεων στην αντιμετώπιση της παραπληροφόρησης για τις εκλογικές αναμετρήσεις με την εισαγωγή ενός εργαλείου fast-checking και τη χρήση της επισήμανσης AI στις αναρτήσεις που προέρχονται από Τεχνητή Νοημοσύνη.