Oι ψευδείς ειδήσεις έχουν βρει στο Internet πρόσφορο έδαφος για να αναπτυχθούν.
Ο στρατηγός Βαλέρι Βασίλιεβιτς Γερασίμοφ περιγράφει τον πόλεμο ως μία διαρκή κατάσταση και τα λόγια του έχουν συζητηθεί πολλές φορές σε στρατιωτικές ακαδημίες ανά τη Δύση.
«Οι στρατιωτικές συγκρούσεις δεν έχουν ξεπεράσει τα όρια της συμβατικής φύσης του πολέμου. Αποτελούνται από τύπους συγκρούσεων όπως είναι η απευθείας ένοπλη αναμέτρηση, η πολιτική αναμέτρηση, η διπλωματική αναμέτρηση, η αναμέτρηση στο πεδίο της πληροφορίας κ.ο.κ.» είχε πει ο Ρώσος στρατηγός, ο οποίος δεν βλέπει ένα δίπολο πολέμου-ειρήνης αλλά μια διαρκή αναμέτρηση που αλλάζει μορφές, σαν μια αέναη εναλλαγή ψυχρής και θερμής σύγκρουσης.
Ως αρχηγός του Γενικού Επιτελείου ο λόγος του έχει, φυσικά, βαρύνουσα σημασία και δείχνει πως η Ρωσία βλέπει και στο πεδίο του διαδικτύου μία περιοχή όπου φίλιες και εχθρικές δυνάμεις αντιπαρατίθενται.
Η αφύπνιση
Το 2016 ο κόσμος αντιλήφθηκε με έκπληξη (κάποιοι, επίσης, με οδύνη, δυσπιστία και απογοήτευση) πως η προπαγάνδα και αυτό που συνηθίσαμε στα χρόνια που ακολούθησαν να περιγράφουμε ως fake news, είχαν βρει πρόσφορο έδαφος να αναπτυχθούν στο διαδίκτυο.
Η τετραετία που μεσολάβησε μπορεί να περιγραφεί και ως μια περίοδος όπου ακόμη και οι πλέον ρομαντικοί συνειδητοποίησαν πως οι δυνάμεις που έχουν αναπτυχθεί στο πεδίο του διαδικτύου έχουν λάβει στρατηγικά επιλεγμένες θέσεις και πως η μάχη είναι σκληρή. Μπορεί να μην έχει χυθεί σταγόνα αίμα αλλά η ένταση είναι πασιφανής σε όποιον έχει βρεθεί στα διασταυρούμενα «πυρά» στα κοινωνικά δίκτυα. Ο Γερασίμοφ δικαιώνεται, τουλάχιστον για την ώρα…
Σε μία εποχή όπως αυτή που ζούμε όπου η τεχνητή νοημοσύνη είναι στα πρώτα της βήματα υπάρχει ανησυχία για τα deepfake videos, τεχνητές παραγωγές όπου κυριολεκτικά μπαίνουν λόγια στο στόμα ανθρώπων. Μια ωριμότερη τεχνητή νοημοσύνη συνοδευόμενη από την εξέλιξη της επαυξημένης πραγματικότητας αποτελεί γοητευτική σκέψη, μέχρι να αναρωτηθούμε πώς θα μπορούσε κανείς να αντιδράσει σε μια οργανωμένη εκστρατεία παραπληροφόρησης που θα έκανε χρήση αυτών των τεχνολογικών δυνατοτήτων.
Αν η δυτική Δημοκρατία κλυδωνίστηκε την τελευταία πενταετία από έναν στρατό τρολ του ρωσικού Internet Research Agency σε εφαρμογή, ίσως, του δόγματος που περιγράφει ο στρατηγός Γερασίμοφ, ποια θα είναι άραγε η μοίρα της 25 χρόνια μετά;
Η έρευνα για τη δομή και τη διάδοση των fake news είναι σε πρώιμα στάδια αλλά -για να υιοθετήσουμε και την οπτική του Γερασίμοφ- δεν μπορείς να αντιπαρατεθείς τον εχθρό αν πρώτα δεν τον έχεις περιγράψει και αναλύσει για να βρεις τα τρωτά του σημεία.
Μια όχι τόσο νέα ιστορία
Μπορεί ο όρος fake news να εισέβαλε με ορμή στην καθομιλουμένη το 2016 αλλά οι ρίζες του φαινομένου βρίσκονται αρκετά μακριά. Τον Αύγουστο του 1835 η εφημερίδα New York Sun δημοσίευσε μια σειρά ιστοριών σύμφωνα με τις οποίες ένας εξωγήινος πολιτισμός είχε αναπτυχθεί στη Σελήνη.
Οι ιστορίες μιλούσαν για πλάσματα με φτερά και φαίνεται πως είχαν αποτέλεσμα για την εφημερίδα, καθώς εξασφάλισαν την κερδοφορία της.
Αλλά οι ρίζες βρίσκονται ακόμα πιο βαθιά στον χρόνο. Το 1755 ένας ισχυρός σεισμός δοκιμάζει τη Λισαβόνα και η εκκλησία αποδίδει την καταστροφή στη θεϊκή οργή. Ταυτόχρονα, φυλλάδια που κυκλοφορούν σε όλη την Πορτογαλία κάνουν λόγο για θαυματουργές διασώσεις εγκλωβισμένων χάρη στην παρέμβαση της Παναγίας. Η πλειονότητα «κατανάλωνε» τις ψευδείς ιστορίες με ικανοποίηση αλλά για τον Βολταίρο ήταν η σταγόνα που ξεχείλισε το ποτήρι και έγινε ένθερμος πολέμιος των θρησκευτικών fake news, που όπως φαίνεται έκαναν θραύση εκείνη την εποχή. Περίπου σαράντα χρόνια μετά και στη Βόρεια Αμερική οι ηγέτες της Αμερικανικής Επανάστασης προειδοποιούσαν τους συμπατριώτες τους πως ο Βρετανός βασιλιάς Γεώργιος στέλνει χιλιάδες στρατιώτες προκειμένου να καταπνίξουν την εξέγερση. Ένα ψέμα που ερέθισε τα αντανακλαστικά των Αμερικανών και ήταν αρκετό για να πυκνώσει τις τάξεις των επαναστατικών δυνάμεων. Στις δεκαετίες και τους αιώνες που ακολούθησαν η προπαγάνδα αποτέλεσε ισχυρό εργαλείο διαμόρφωσης συναινέσεων, αλλά η ψηφιακή επανάσταση έδωσε πρωτοφανείς δυνατότητες σε όσους επενδύουν στο πεδίο της παραπληροφόρησης.
Η δύναμη των πολλών
Μία ανάλυση που έλαβε υπόψιν της τη διάδοση των fake news στην προεκλογική περίοδο για την εκλογή Προέδρου στις ΗΠΑ το 2016 έδειξε πως οι 20 δημοφιλέστερες ψευδείς ειδήσεις είχαν 8.711.000 αλληλεπιδράσεις (Share και σχόλια) στο Facebook. Αντίστοιχα, οι κορυφαίες 20 κανονικές ειδήσεις από 19 μεγάλα ειδησεογραφικά sites είχαν 7.367.000 αλληλεπιδράσεις (Craig Silverman, 2016).
Μπορεί η απόσταση να είναι μικρή αλλά υπάρχει μια σημαντική διαφορά στην ταυτότητα των δημιουργών. Τα ειδησεογραφικά sites είναι οργανισμοί με διοίκηση, προσωπικό, εξοπλισμό και πόρους που έχουν κόστος λειτουργίας και ανάπτυξης. Οι δημιουργοί των fake news μπορεί να είναι άνθρωποι της διπλανής πόρτας με το κόστος να περιορίζεται σε έναν υπολογιστή και μια ευρυζωνική σύνδεση. Θα μπορούσε οι 20 κορυφαίες ψεύτικες ειδήσεις να είχαν παραχθεί από έναν άνθρωπο; Θεωρητικά ναι. Δεν ισχύει βεβαίως το ίδιο για τις κανονικές ειδήσεις.
Υπάρχουν περιπτώσεις που τα fake news χρησιμοποιούνται ως οικονομικό όπλο. Στις 23 Απριλίου 2013 ο λογαριασμός του Associated Press στο Twitter βρέθηκε στον έλεγχο τρίτων και έγραψε πως δύο εκρήξεις σημειώθηκαν στον Λευκό Οίκο με αποτέλεσμα τον τραυματισμό του Προέδρου Μπαράκ Ομπάμα. Η αναταραχή στις χρηματαγορές ήταν έντονη και υπολογίζεται πως μέσα σε λίγα λεπτά της ώρας «εξαερώθηκαν» 130 δισ. δολάρια, πριν αποκατασταθεί η ηρεμία.
Ένα hacking και δύο γραμμές κειμένου ήταν αρκετά για να δείξουν τη δυναμική των fake news. Να ήταν άραγε μια γενική δοκιμή που θα δοκίμαζε τα αντανακλαστικά μιας ευαίσθητης στις ειδήσεις ομάδας ανθρώπων όπως οι traders των χρηματιστηριακών εταιρειών και οι πελάτες τους; Δεν μπορούμε να γνωρίζουμε.
Τα deepfakes και ο αδύναμος κρίκος
Το 2019 δύο καλλιτέχνες η Francesca Panetta και ο Halsey Burgund θέλησαν να συνδυάσουν το deepfake video με τον deepfake ήχο για να φτιάξουν κάτι που κυριολεκτικά… δεν υπήρχε.
O πρόεδρος Νίξον θα ανακοίνωνε στον αμερικανικό λαό ότι η αποστολή του Απόλλων 11, με στόχο την προσεδάφιση στη Σελήνη, είχε αποτύχει. Η σχετική ομιλία υπήρχε, καθώς το επιτελείο του τότε προέδρου των Ηνωμένων Πολιτειών είχε αναπτύξει δύο σενάρια, ένα για την περίπτωση της αποτυχίας της αποστολής και το άλλο το οποίο γνωρίζουμε όλοι καθώς ο Νιλ Άρμστρονγκ πάτησε τελικά στη Σελήνη.
Οι δύο δημιουργοί συνεργάστηκαν με δύο εταιρείες, την Canny AI και την Respeecher αλλά τους έλειπε κάτι πολύ σημαντικό – ένας ηθοποιός. Τα καθήκοντά του ήταν πολύ συγκεκριμένα. Θα έπρεπε να υιοθετήσει το στιλ και τον τρόπο ομιλίας του Νίξον και να απευθυνθεί στον αμερικανικό λαό ενημερώνοντάς τον για την καταστροφή που είχε (υποτίθεται) συντελεστεί εκατοντάδες χιλιάδες χιλιόμετρα μακριά από τη Γη.
Το πείραμα πέτυχε, ενώ την ίδια χρονική περίοδο, ο παραγωγός και σκηνοθέτης Zach Math χρησιμοποιούσε τα deepfakes σε μια εκστρατεία για την άσκηση του εκλογικού δικαιώματος. Στις δικές του παραγωγές υποτίθεται πως πρωταγωνιστούσαν οι ηγέτες της Βόρεια Κορέας και της Ρωσίας, Κιμ Γιονγκ Ουν και Βλάντιμιρ Πούτιν.
Η ομάδα παραγωγής εργάστηκε με το DeepFaceLab, ένα εργαλείο ελεύθερου λογισμικού και με ηθοποιούς που ταίριαζαν στις ανάγκες των διαφημιστικών.
Οι δύο περιπτώσεις, για τις οποίες υπάρχει αναλυτική περιγραφή στο Technology Review του MIT αποκαλύπτουν έναν δυνητικά αδύναμο κρίκο που, για την ώρα, υπάρχει στις παραγωγές των deepfakes και ο οποίος δεν είναι άλλος από τους πολλούς ανθρώπους που ανακατεύονται στη διαδικασία.
Ζωή και Τέχνη
Στη μυθοπλασία το πρόβλημα αυτό λύνεται εύκολα. Στην ταινία “Wag the Dog” ο παραγωγός Ντάστιν Χόφμαν ενθουσιάζεται τόσο από τον ψεύτικο πόλεμο, που έχει στήσει -υποτίθεται με την Αλβανία- προκειμένου να αποσπάσει την προσοχή του κοινού από τις εξωσυζυγικές περιπέτειες του Αμερικανού προέδρου, που θέλει να μιλήσει ανοικτά για αυτό. Το αποτέλεσμα είναι να πεθάνει από «καρδιακό επεισόδιο». Στην ταινία, παραγωγής 1997, ίσως βλέπουμε την πρώτη οργανωμένη προσπάθεια deepfakes, καθώς εκτός από τα «πολεμικά» βίντεο που γυρίζονται σε στούντιο υπάρχει και ένα τραγούδι που ηχογραφείται με τρόπο που να μοιάζει σαν να γράφτηκε στο πρώτο μισό του 20ου αιώνα.
Στην πραγματική ζωή όμως;
Ο Γιώργος Μπολάνης είναι στέλεχος της Clipnews και η καθημερινότητά του περιλαμβάνει την ανάλυση δεδομένων από τον ψηφιακό κόσμο -κοινωνικών δικτύων συμπεριλαμβανομένων- για λογαριασμό εταιρικών πελατών. Έχει δει πολλές φορές να δημιουργούνται fake news που στοχεύουν πελάτες και όπως εξηγεί, πολλές φορές η αρχή της παραπληροφόρησης ξεκινά με μια δημοσίευση από έναν δημοφιλή λογαριασμό στα κοινωνικά δίκτυα. Η δημοσίευση αναπαράγεται από τους ακόλουθους και η εμπειρία (όχι μόνο του συνομιλητή μας) δείχνει πως όσο πιο πολύ βασίζεται στο συναίσθημα τόσο αυξάνονται οι πιθανότητες για μια δημοσίευση να γίνει αυτό που λέμε viral.
Βεβαίως η εμπειρία έχει επίσης δείξει πως η δημιουργία ενός στρατού από τεχνητούς χρήστες κοινωνικών δικτύων και η χρήση αυτοματισμών όπως είναι τα bots μπορεί να επηρεάσει δημοψηφίσματα και προεδρικές εκλογές.
Ψηφιακές φούσκες και ανοσία της αγέλης
Ένα από τα βασικά προβλήματα είναι ότι ακόμα και σήμερα τα fake news περνούν πολλές φορές κάτω από το ραντάρ των ερευνητών. Με εξαίρεση το Twitter όπου η ανίχνευση μιας αμφιλεγόμενης δημοσίευσης και η καταγραφή της διάδοσής της είναι μιας σχετικώς εφικτή διαδικασία, δεν ισχύει το ίδιο σε άλλες δημοφιλείς πλατφόρμες.
Μία κλειστή ομάδα του Facebook που αντιτίθεται στη χρήση μασκών στα σχολεία έχει σήμερα περίπου 70.000 μέλη, αριθμός που προκαλεί εντύπωση. Ωστόσο ο πραγματικός αντίκτυπος δεν είναι ανάλογος. Οι προσπάθειες των διαχειριστών της ομάδας να κινητοποιήσουν τα μέλη και να πραγματοποιηθούν συγκεντρώσεις διαμαρτυρίας στην Αθήνα, τη Θεσσαλονίκη και άλλες πόλεις είχε φτωχά αποτελέσματα.
Η δε απόπειρα να συγκεντρωθούν χρήματα προκειμένου να κατατεθεί προσφυγή κατά της υπουργικής απόφασης σχετικά με την υποχρεωτική χρήση μάσκας στα σχολεία δεν κατόρθωσε να φτάσει στο απαιτούμενο ποσό, ενώ στο μεταξύ η πλατφόρμα crowdfunding «κατέβασε» τον σχετικό έρανο.
Η καταγραφή των αναφορών για ένα συνέδριο με τη συμμετοχή και ομιλητών από το εξωτερικό και η μετέπειτα ανάλυσή τους έδειξε πως ο μεγαλύτερος θόρυβος έγινε εντός των τειχών του Facebook, όπου διατηρήθηκε για ένα διάστημα περίπου 72 ωρών. Στα υπόλοιπα κοινωνικά δίκτυα αλλά και στις ειδησεογραφικές σελίδες ο αριθμός των αναφορών για το ίδιο συνέδριο ήταν μικρότερος και, βεβαίως, περιλαμβάνει και τα δημοσιεύματα που αντέκρουαν τους (μασκομαχικούς) ισχυρισμούς των συνέδρων.
Κάτω από το ραντάρ
Θα περίμενε κανείς μεγαλύτερο θόρυβο και μεγαλύτερη διάρκεια; Ίσως να υπάρχει μια μεγαλύτερη διάρκεια καθώς λόγω και της νομοθεσίας για την προστασία των προσωπικών δεδομένων τα περισσότερα εργαλεία ανάλυσης δεν μπορούν να φτάσουν σε βάθος στο Facebook. Είναι, δηλαδή, πιθανό από προφίλ σε προφίλ το μήνυμα κατά της μάσκας (στο συγκεκριμένο παράδειγμα) να διαδίδεται και να αποκτά υποστηρικτές χωρίς να γίνεται αντιληπτή αυτή η δυναμική παρά μόνο όταν έρχεται η στιγμή της εκδήλωσής της. Αυτό, δηλαδή, που μπορεί να συμβαίνει είναι στο μέλλον να δούμε σκηνές παρόμοιες με εκείνες που εκδηλώθηκαν στη Γερμανία στα τέλη Αυγούστου και ξύπνησαν μνήμες του παρελθόντος.
Με δεδομένες τις χαμηλές πτήσεις που κάνει η προπαγάνδα ώστε να μη γίνεται αντιληπτή στο ραντάρ και τη δυνατότητα ανάπτυξης μιας νέας γενιάς fake news με εξελιγμένα deepfakes που θα προκαλούν σύγχυση ακόμα και σε έμπειρους ερευνητές, το ερώτημα είναι απλό: Πώς προφυλασσόμαστε;
Για τον Γ. Μπολάνη η απάντηση είναι η δημιουργία ενός υγιούς διαδικτυακού πληθυσμού που θα έχει ανοσία στην παραπληροφόρηση. «Νομίζω πως αυτή είναι η μόνη λύση, μια ψηφιακή ανοσία της αγέλης που θα αντιδρά και θα απομονώνει τα fake news» σημειώνει…
Διαβάστε
A Survey of Fake News: Fundamental Theories, Detection Methods, and Opportunities
