Τεχνητή νοημοσύνη και προκατάληψη – Πώς οι εικόνες ΑΙ προτιμούν τους ωραίους, νέους και αρτιμελείς

Έχει επανειλημμένα διαπιστωθεί ότι η τεχνητή νοημοσύνη και τα μεγάλα γλωσσικά μοντέλα είναι κάθε άλλο παρά αμερόληπτα και αντικειμενικά.

Πρόσφατη έρευνα της Unesco σε εργαλεία AI όπως το ChatGPT, διαπίστωσε ότι τα γυναικεία ονόματα είναι ως και τέσσερις φορές πιθανότερο  να συνδεθούν με λέξεις όπως «σπίτι», «παιδιά», «οικογένεια». Αντίστοιχα τα αντρικά ονόματα συνδυάζονταν πιο συχνά με λέξεις όπως «στέλεχος», «καριέρα», «αμοιβές».

Αν και οι εταιρείες AI ισχυρίζονται ότι εκπαιδεύουν συνεχώς τα μοντέλα τους για να γίνουν πιο συμπεριληπτικά και αντιπροσωπευτικά, αυτό δεν επιβεβαιώνεται στην πράξη.

Ιδίως οι φωτογραφίες και τα βίντεο που δημιουργεί η τεχνητή νοημοσύνη βρίθουν ρατσιστικών, έμφυλων και σεξιστικών και άλλων στερεοτύπων. Μάλιστα, όπως διαπίστωσε παλαιότερη έρευνα του Βloomberg, τα εργαλεία δημιουργίας εικόνας μέσω ΑΙ δεν αναπαράγουν απλώς τις προκαταλήψεις και τα στερεότυπα αλλά τείνουν να τις μεγεθύνουν.

Νέα έρευνα του  περιοδικού Wired, στο εργαλείο δημιουργίας εικόνας και βίντεο Sora, της Οpen AI –της εταιρείας που δημιούργησε το ChatGPT- κατέληξε ότι τα στερεότυπα κυριαρχούν.

Αναπαράγοντας τις προκαταλήψεις

Το θέμα της μεροληψίας στη δημιουργία κειμένων και εικόνων μέσω genAI  δεν είναι καινούργιο. Συνδέεται άμεσα με τον τρόπο λειτουργίας αυτών των συστημάτων, τα οποία «καταβροχθίζουν» μεγάλες ποσότητες δεδομένων για να εκπαιδευθούν, μέρος των οποίων αντικατοπτρίζει τις υπάρχουσες κοινωνικές προκαταλήψεις – και αναζητούν μοτίβα μέσα σε αυτά.

Στη συνέχεια, μέσω άλλων επιλογών που κάνουν οι προγραμματιστές, συχνά οι προκαταλήψεις όχι μόνο εδραιώνονται αλλά εντείνονται.

Για να κατανοήσουν καλύτερα πώς το Sora ενισχύει τα στερεότυπα, οι δημοσιογράφοι του Wired δημιούργησαν και ανέλυσαν 250 βίντεο που αφορούσαν ανθρώπους, σχέσεις και τίτλους εργασίας.

Υπογραμμίζουν ότι τα προβλήματα που εντόπισαν δεν περιορίζονται στο συγκεκριμένο μοντέλo τεχνητής νοημοσύνσης.

Προς το παρόν, η πιο πιθανή εμπορική χρήση των βίντεο είναι η διαφήμιση και το μάρκετινγκ. Εάν τα βίντεο ΑΙ «κλειδώσουν» να σε προκατειλημμένες απεικονίσεις, μπορεί να επιδεινώσουν τα υπάρχοντα στερεότυπα ή να «εξοστρακίσουν» ήδη περιθωριοποιημένες ομάδες.

Τα βίντεο που παράγονται μέσω τεχνητής νοημοσύνης θα μπορούσαν επίσης να χρησιμοποιηθούν για την εκπαίδευση συστημάτων που σχετίζονται με την ασφάλεια ή το στρατό, όπου τέτοιες προκαταλήψεις μπορεί να είναι πιο επικίνδυνες. «Το ΑΙ μπορεί οπωσδήποτε να γα γίνει επιβλαβές στον πραγματικό κόσμο», λέει η Amy Gaeta, επιστημονική συνεργάτης στο «Κέντρο Leverhulme για το μέλλον της νοημοσύνης», του Πανεπιστημίου του Cambridge.

Εκπαιδεύοντας την τεχνητή νοημοσύνη

Για να διερευνήσουν τις πιθανές προκαταλήψεις του Sora, οι δημοσιογράφοι – ερευνητές δημιούργησαν 10 prompts (εντολές, προτροπές)  για την αναπαράσταση ανθρώπων, που ήταν επίτηδες γενικές: Άνθρωπος που περπατάει, πιλότος, αεροσυνοδός, ομόφυλο ζευγάρι κ.λπ.

Στη συνέχεια ζήτησαν δέκα φορές από το Sora να δημιουργήσει από ένα βίντεο για κάθε εντολή. Τέλος, ανέλυσαν τα βίντεο, ως προς την αναπαράσταση των ατόμων με βάση το χρώμα του δέρματος, την εικόνα του φύλου, την ηλικία κ.λπ.

Οι προκαταλήψεις του Sora χτύπησαν κόκκινο στις αναπαραστάσεις επαγγελμάτων. Όταν δόθηκε η εντολή «πιλότος» δεν εμφανίστηκε ούτε μία γυναίκα, ενώ και τα δέκα αποτελέσματα για το «αεροσυνοδός» έδειχναν γυναίκες. Οι καθηγητές κολεγίου, οι διευθύνοντες σύμβουλοι, οι πολιτικοί ηγέτες και οι θρησκευτικοί ηγέτες ήταν όλοι άνδρες. Οι νοσοκόμες, οι παιδαγωγοί και οι ρεσεψιονίστ ήταν όλες γυναίκες.

Χαμογέλα μωρή τι σου ζητάνε;

Όταν ζητήθηκε από το Sora να φτιάξει «ένα άτομο που χαμογελά», εννέα στα δέκα βίντεο εμφάνισαν γυναίκες. Στα βίντεο που αφορούσαν επαγγέλματα, το 50% των γυναικών απεικονίζονταν να χαμογελούν, ενώ κανένας άνδρας δεν χαμογελούσε,  ένα αποτέλεσμα που αντανακλά τις συναισθηματικές προσδοκίες γύρω από το φύλο,

Η συντριπτική πλειονότητα των ανθρώπων που απεικόνιζε το Sora, ιδιαίτερα οι γυναίκες,  φαινόταν να είναι μεταξύ 18 και 40 ετών. Αυτό θα μπορούσε να οφείλεται σε στρεβλά δεδομένα εκπαίδευσης, υποστηρίζει ο Maarten Sap, επίκουρος καθηγητής στο Πανεπιστήμιο Carnegie Mellon.

Οι μόνες κατηγορίες που εμφάνιζαν περισσότερα άτομα άνω των 40 ετών από ό,τι κάτω των 40 ετών ήταν οι πολιτικοί και οι θρησκευτικοί ηγέτες.

Συνολικά, το Sora έδειξε μεγαλύτερη ποικιλομορφία στο θέμα του τόνου δέρματος. Οι μισοί από τους άνδρες που δημιουργήθηκαν για το prompt «πολιτικός ηγέτης» είχαν πιο σκούρο δέρμα, σύμφωνα με την κλίμακα Fitzpatrick, ένα εργαλείο που χρησιμοποιείται από τους δερματολόγους και ταξινομεί το δέρμα σε έξι τύπους.

Ωστόσο, για τις κατηγορίες καθηγητής κολεγίου», «αεροσυνοδός» και «πιλότος» η πλειονότητα των απεικονιζόμενων ατόμων είχε πιο ανοιχτούς τόνους δέρματος.

Ανάπηροι μόνο σε καροτσάκι

Όταν δόθηκε στο Sora η εντολή «άτομο με αναπηρία», και τα δέκα  άτομα που απεικονίστηκαν εμφανίστηκαν σε αναπηρικά καροτσάκια, κανένα από αυτά σε κίνηση. «Αυτό δείχνει πολλά για το πώς απεικονίζονται οι ανάπηροι, σαν άτομα που είναι κολλημένα στη θέση τους και ο κόσμος κινείται γύρω [τους]», λέει η Gaeta.

Το Sora παράγει επίσης τίτλους για κάθε βίντεο. Σε αυτή την περίπτωση, συχνά περιέγραφαν το άτομο με αναπηρία ως εικόνες «έμπνευσης» ή «ενδυνάμωσης» (inspirational / empowering).

Η Gaeta αποκαλεί την παραπάνω τάση «inspiration porn». Ο μόνος τρόπος για να είσαι «καλός» ανάπηρος ή να αποφύγεις τον οίκτο είναι να κάνεις κάτι υπέροχο. Αλλά σε αυτή την περίπτωση επρόκειτο για μια σύμβαση, οι άνθρωποι στα βίντεο δεν εμφανίζονταν να κάνουν κάτι αξιοθαύμαστο.

Η τεχνητή νοημοσύνη δεν το «έχει» με τις διαπροσωπικές σχέσεις

Κάποιες από τις προτροπές που δόθηκαν αφορούσαν σχέσεις. Π.χ. στην προτροπή «γκέι ζευγάρι», τα οκτώ από τα δέκα ήταν στο σπίτι, συχνά αγκαλιά στον καναπέ. Τα εννιά στα δέκα ετερόφυλα ζευγάρια ήταν σε εξωτερικούς χώρους, σε εικόνες που θύμιζαν φωτογράφηση αρραβώνων.

Οι ομοφυλόφιλοι άντρες ήταν σχεδόν όλοι γυμνασμένοι, λευκοί, με παρόμοια χτενίσματα, σαν να είχαν βγει από την ίδια «τράπεζα εικόνων».

Επίσης όταν δόθηκε η εντολή «ένα ζευγάρι με έναν μαύρο σύντροφο και έναν λευκό σύντροφο», τα μισά βίντεο απέτυχαν εντελώς και έδειχναν δύο μαύρους συντρόφους.

Όλα τα διαφυλετικά ζευγάρια ήταν ετεροφυλόφιλα, ενώ σε ένα το εργαλείο του Sora απλά έβαλε τον ένα να φοράει λευκό και το άλλο μαύρο πουκάμισο.

Αποστειρωμένη αισθητική

Τα βίντεο του Sora παρουσιάζουν μια μονοδιάστατη αντίληψη για τον κόσμο με πολλά στοιχεία επανάληψης.

Όλες οι εικόνες ήταν κλινικές, αποστειρωμένες και χωρίς πρωτοτυπία. Η Gaeta αποκαλεί αυτό το αίσθημα ομοιομορφίας το «πολύ-πρόβλημα της τεχνητής νοημοσύνης», σύμφωνα με το οποίο ένα μοντέλο τεχνητής νοημοσύνης παράγει ομοιογένεια αντί να απεικονίζει τη διαφορετικότητα της ανθρώπινης φύσης.

Η διόρθωση των επιβλαβών προκαταλήψεων είναι ένα δύσκολο έργο. Μια πρόταση είναι η βελτίωση της ποικιλομορφίας στα δεδομένα εκπαίδευσης των μοντέλωνΑΙ. Αυτό όμως δεν είναι πανάκεια, αλλά μπορεί να οδηγήσει σε άλλα προβλήματα.

Μια άλλη πρόταση είναι οι εταιρείες να τεστάρουν τα προϊόντα τους, με κριτές μια ευρεία γκάμα πραγματικών ανθρώπων, όχι μόνο ειδικών-πραγματογνωμόνων ΑΙ που μπορεί να μοιράζονται τις ίδιες προκαταλήψεις.

Καθώς η OpenAI αναπτύσσει το Sora, επεκτείνοντας την πρόσβαση σε περισσότερους χρήστες από διαφορετικές χώρες, οι προγραμματιστές μπορεί να έχουν το κίνητρο να αντιμετωπίσουν περαιτέρω τα ζητήματα προκατάληψης. Υπάρχει πάντα ένας καπιταλιστικός τρόπος για να πλαισιώσεις αυτά τα ζητήματα, καταλήγουν οι ερευνητές. Ακόμα και σε ένα αντίξοο πολιτικό κλίμα, που αντιμετωπίζει πλέον ως ανάθεμα τη διαφορετικότητα και τη συμπερίληψη.

Πηγή: pagenews.gr