Στους αλγόριθμους του TikTok που λειτουργούν με τεχνητή νοημοσύνη

Όταν η Χαμάς επιτέθηκε στο Ισραήλ στις 7 Οκτωβρίου, πολλοί αναζήτησαν ενημερώσεις από την κύρια πηγή τους για ειδήσεις: τα μέσα κοινωνικής δικτύωσης.

Ωστόσο, σε αντίθεση με προηγούμενες παγκόσμιες συγκρούσεις, όπου η ψηφιακή συζήτηση κυριαρχούνταν από το Facebook και το X (πρώην Twitter), η συνεχιζόμενη κρίση στη Μέση Ανατολή έχει δει ανθρώπους να συρρέουν στο TikTok, κατά εκατομμύρια, για να μεταδώσουν ειδήσεις και να εκφράσουν απόψεις.

Παρόλο που η δημοτικότητα της εφαρμογής κοινής χρήσης βίντεο έχει εκτιναχθεί, η εσωτερική λειτουργία των πολύπλοκων αλγορίθμων που τροφοδοτούνται από τεχνητή νοημοσύνη παραμένει μυστήριο.

Τα άτομα βλέπουν μόνο ένα κλάσμα από όσα δημοσιεύονται καθημερινά στο TikTok. Και αυτό που βλέπουν είναι εξαιρετικά επιμελημένο από τα αυτοματοποιημένα συστήματα της εταιρείας που έχουν σχεδιαστεί για να κρατούν τους ανθρώπους κολλημένους στα smartphone τους. Χρησιμοποιώντας την τεχνολογία AI γνωστής ως μηχανική μάθηση και τα λεγόμενα συστήματα συστάσεων, αυτά τα συστήματα καθορίζουν, μέσα σε χιλιοστά του δευτερολέπτου, ποιο περιεχόμενο θα εμφανίζεται στους χρήστες των μέσων κοινωνικής δικτύωσης.

Το POLITICO ξεκίνησε να ρίξει φως στο πώς λειτουργούν οι αλγόριθμοι του TikTok και να ξεριζώσει ποια πλευρά στον πόλεμο στη Μέση Ανατολή —ισραηλινή ή παλαιστινιακή— κέρδιζε τις καρδιές και τα μυαλά στο κοινωνικό δίκτυο που τώρα ευνοείται έντονα από τους νέους.

Αυτό έχει γίνει ένα καυτό πολιτικό ερώτημα αφού φιλο-ισραηλινές ομάδες και ορισμένοι δυτικοί νομοθέτες κατηγόρησαν την TikTok —η οποία ανήκει στην ByteDance με έδρα το Πεκίνο— ότι προωθεί άδικα φιλοπαλαιστινιακό περιεχόμενο για πιθανό πολιτικό αντίκτυπο. Το TikTok αρνείται τις κατηγορίες.

Οι πολιτικές επιπτώσεις της σύγκρουσης είναι ήδη εμφανείς στις κομματικές συγκρούσεις στις δυτικές δημοκρατίες, καθώς οι άνθρωποι επιλέγουν πλευρά στον πόλεμο – και αποφασίζουν πώς θα ψηφίσουν. Η υποστήριξη του προέδρου των ΗΠΑ Τζο Μπάιντεν προς το Ισραήλ έχει προκαλέσει κριτική από Αραβοαμερικανούς και θα μπορούσε τελικά να του κοστίσει τις εκλογές του Νοεμβρίου. Στο Ηνωμένο Βασίλειο, ο λαϊκιστής ανεξάρτητος υποψήφιος Τζορτζ Γκάλουεϊ εκμεταλλεύτηκε το φιλοπαλαιστινιακό αίσθημα για να κερδίσει μια έδρα στο βρετανικό κοινοβούλιο τον Μάρτιο. Διαμαρτυρίες στην πανεπιστημιούπολη έχουν ξεσπάσει και στις δύο πλευρές του Ατλαντικού.

Οι αλγόριθμοι του TikTok είναι ζωτικής σημασίας για τον τρόπο με τον οποίο όλα τα είδη πολιτικού περιεχομένου φθάνουν στα μέσα κοινωνικής δικτύωσης. Η εξέταση των αλγορίθμων της εταιρείας είναι ένας καλός αντιπρόσωπος για το πώς η τεχνητή νοημοσύνη είναι πλέον βασικός παράγοντας στον προσδιορισμό του τι βλέπουμε στο διαδίκτυο.

Το POLITICO συνεργάστηκε με τη Laura Edelson, μια ερευνήτρια στο Northeastern University της Βοστώνης, για να παρακολουθήσει φιλοπαλαιστινιακό και φιλοϊσραηλινό περιεχόμενο TikTok για τέσσερις μήνες μεταξύ 7 Οκτωβρίου 2023 και 29 Ιανουαρίου 2024.

Αυτό περιελάμβανε τη δημιουργία μιας λίστας με 50 δημοφιλή hashtags όπως το #IStandWithIsrael ή το #SavePalestine που θα μπορούσαν να συσχετιστούν άμεσα με κάθε πλευρά. Περισσότερα απολιτικά hashtags, όπως το #Gaza ή το #Israel, χρησιμοποιήθηκαν για τη συλλογή δεδομένων σε δημοσιεύσεις που δεν είχαν συγκεκριμένη κλίση.

Συνολικά, ο Edelson ανέλυσε 350.000 αναρτήσεις TikTok από τις Ηνωμένες Πολιτείες.

Για να κάνει τα δεδομένα πιο εύπεπτα, διέλυσε τις αναρτήσεις σε παράθυρα τριών ημερών γύρω από συγκεκριμένα γεγονότα. Αυτό περιλαμβάνει τις αρχικές επιθέσεις της Χαμάς (7-9 Οκτωβρίου). Εισβολή του Ισραήλ στη Γάζα (27-29 Οκτωβρίου). και την απελευθέρωση των πρώτων Ισραηλινών ομήρων (24-27 Νοεμβρίου.) Ως έλεγχος για μεροληψία, συμπεριέλαβε επίσης τις 6-8 Νοεμβρίου στην ανάλυση, ως πληρεξούσιο για περιόδους που δεν έλαβαν χώρα σημαντικά γεγονότα.

«Το TikTok, όπως και άλλες πλατφόρμες μέσων κοινωνικής δικτύωσης, ενισχύει κάποιο περιεχόμενο περισσότερο από άλλα», είπε ο Έντελσον. “Αυτό μπορεί να έχει μια παραμορφωτική επίδραση σε αυτό που βλέπουν οι άνθρωποι στις ροές τους.”

Αυτό που προέκυψε ήταν αποδείξεις ότι το TikTok παλεύει με τον ρόλο του —σε πραγματικό χρόνο— ως μία από τις κύριες παγκόσμιες ψηφιακές πλατείες της πόλης όπου οι άνθρωποι συγκεντρώνονται για να εκφράσουν τις απόψεις τους και, συχνά, διαφωνούν.

Κατά τη διάρκεια της περιόδου των τεσσάρων μηνών, η έρευνα του Edelson βρήκε περίπου 20 φορές περισσότερο φιλοπαλαιστινιακό περιεχόμενο που παράγεται, με βάση τα hashtags που αναλύθηκαν, σε σύγκριση με το φιλο-ισραηλινό υλικό. Ωστόσο, αυτό δεν ισοδυναμούσε απαραίτητα με περισσότερες αναρτήσεις υπέρ της Παλαιστίνης που λήγουν στη ροή TikTok του μέσου ανθρώπου.

Αντίθετα, ο Έντελσον βρήκε τρεις διακριτές στιγμές κατά τις οποίες η πιθανότητα οι άνθρωποι να βλέπουν φιλοϊσραηλινό ή φιλοπαλαιστινιακό περιεχόμενο στις ροές TikTok τους άλλαξε σημαντικά — ανεξάρτητα από το πόσο συνολικό υλικό παρήχθη και από τις δύο πλευρές.

Το TikTok δεν απάντησε σε συγκεκριμένα αιτήματα για σχόλια σχετικά με την έρευνα του Northeastern University. Σε μια ανάρτηση ιστολογίου τον Απρίλιο, η εταιρεία είπε ότι είχε αφαιρέσει περισσότερα από 3,1 εκατομμύρια βίντεο και ανέστειλε περισσότερες από 140.000 ζωντανές ροές στο Ισραήλ και την Παλαιστίνη λόγω παραβίασης των όρων παροχής υπηρεσιών της.

Πολλά σχετικά με το πώς λειτουργούν αυτοί οι αλγόριθμοι κοινωνικών μέσων είναι άγνωστα. Δεν είναι σαφές ποιος μέσα στις εταιρείες — μηχανικοί, στελέχη πολιτικής ή ανώτατα στελέχη — καθορίζει τον τρόπο λειτουργίας τους. Είναι επίσης δύσκολο να προσδιοριστεί πότε θα γίνουν αλλαγές, αν και οι ρυθμιστικές προσπάθειες της Ευρωπαϊκής Ένωσης και των Ηνωμένων Πολιτειών προσπαθούν να ρίξουν μεγαλύτερο φως σε αυτές τις πρακτικές.

Αυτό που ακολουθεί παρακάτω είναι ένα παράδειγμα του πώς, όταν εξετάζετε τους αριθμούς, πολλά από αυτά που βλέπουν οι χρήστες στα μέσα κοινωνικής δικτύωσης βασίζεται σε μεγάλο βαθμό σε πολύπλοκους αλγόριθμους που τροποποιούνται τακτικά με ελάχιστη —αν και καθόλου— παράβλεψη.

Οι αναρτήσεις του TikTok συλλέχθηκαν ξεχωριστά μέσω του Junkipedia, ενός αποθετηρίου περιεχομένου μέσων κοινωνικής δικτύωσης που διαχειρίζεται το National Conference on Citizenship, ένας μη κερδοσκοπικός οργανισμός.

Αντιπροσωπεύουν τις κομματικές αναρτήσεις με τις περισσότερες προβολές σε κάθε χρονική περίοδο.