Γράφει η Δανάη Ματαρά, ψυχολόγα

Βράδυ Δευτέρας. Εχεις εισερχόμενο απο Musk.

Η πιο μισητή μέρα της εβδομάδας έφτασε επιτέλους στο τέλος της. Μόλις ξάπλωσες και ξεκινάς το doom scrolling (Άστο το κινητό 1 ώρα πριν τον ύπνο λέμε, τζιζ, κακό!). Ανοίγεις το Twitter για ένα σφηνάκι κουτσομπολιού. Και, αίφνης, το feed γεμίσει γυμνά γυναικεία κορμιά.

Κάτι παίχτηκε εδώ. Συνειδητοποιείς ότι δεν αναγνωρίζεις καμία τους. Και λογικό αφού πρόκειται για γυναίκες συνηθισμένες, δημοσιογράφους, καθηγήτριες, λογίστριες, μια κοπέλα που τράβηξε μια σέλφι στο Σεϊτάν Λιμάνι τον Αύγουστο, μια κοριτσοπαρέα σε νυχτερινή έξοδο. Σωστή η διαίσθηση σου και να λοιπόν τι παίχτηκε. Κάποιος έδωσε φιρμάνι «put her in a bikini» μαζί με τη φωτογραφία της και ο Grok, το AI του Elon Musk, έπραξε τα δέοντα. Μέσα σε δευτερόλεπτα, εντελώς δωρεάν, ξεδιάντροπα δημόσια και με τα στοιχεία της φάτσα φόρα.

Σύμφωνα με τους New York Times, μέσα σε εννιά μέρες ο Grok παρήγαγε 1,8 εκατομμύρια σεξουαλικοποιημένες εικόνες γυναικών, αριθμός που αποτελεί το 42% όλων των εικόνων που δημιούργησε συνολικά εκείνο το διάστημα. Στο ζενίθ της, η παραγωγή αυτή έφτασε τις 6.700 σεξουαλικά υπονοούμενες εικόνες την ώρα· 84 φορές περισσότερες απ’ ό,τι τα πέντε μεγαλύτερα deepfake sites μαζί. Με τέτοια ροή, και να ήσουν μέσα σε αυτές τις φωτογραφίες, δε θα το μάθαινες ποτέ.

Η αντίδραση του Musk ήταν αυτή ακριβώς που θα περίμενες από έναν λευκό Νοτιοαφρικανό δισεκατομμυριουχο με οικογενειακό πλούτο από τις πλάτες του Απαρτχάιντ και πολλαπλών μεταλλίων σμαραγδιών. Μας κούνησε το δάχτυλο, μας είπε ότι υπερβάλουμε και ότι προσπαθούμε να προωθήσουμε την λογοκρισία, αποφεύγοντας φυσικά την παραμικρή υποψία ανάληψης ευθυνών. Α, και πόσταρε μια τοστιέρα με μπικίνι. Γιατί Musk.

Αρκετό ίντερνετ για σήμερα. Κλείνεις το κινητό και κοιμάσαι. Το πρωί συνεχίζεις τη μέρα σου σαν να μη συνέβη τίποτα. Γιατί συμβαίνει συνέχεια. Και επειδή συμβαίνει συνέχεια, δεν είναι πια περίεργο. Είναι, όπως λένε στο Αμέρικα, just another Tuesday.

Τρίτη πρωί. Ωρα να φρεσκάρεις το βιογραφικό σου.

Ξυπνάς. Καφές. Λίγο social για να συνέλθεις από το χθεσινό φιάσκο. Ανοίγεις το LinkedIn να δεις ποιος έγινε CEO κι εσύ ακόμα δεν έχεις πάρει την προαγωγή που σου τάξανε πέρσι. Αποφασίζεις ότι ήρθε η ώρα να ψάξεις για κάτι καλύτερο. Πετάς στο ChatGPT το παλιό σου βιογραφικό και του ζητάς να το φρεσκάρει μπας και το στείλεις πουθενά να δεις πόσα απίδια πιάνει ο σάκος. Ετσι κι αλλιώς, λίγο πολύ όλοι το ίδιο κάνουν πλέον. Σωστά; Σωστότατα.

Γι αυτό τον λόγο, τον Οκτώβριο του 2025 ερευνητές του Stanford θέλησαν να καταλάβουν τι ακριβώς συμβαίνει όταν ζητάμε από τον έμπιστο Τζιπιτάκο μας να φτιάξει το βιογραφικό μας. Ζήτησαν, λοιπόν, απο το chatGPT να φτιάξει 34.500 βιογραφικά για 54 διαφορετικά επαγγέλματα. Ακριβώς το ίδιο αρχικό υλικό. Το μόνο που άλλαζε ήταν το όνομα, αρσενικό ή θηλυκό. Ε, μαντέψτε.

Όταν το όνομα ήταν γυναικείο, το ChatGPT αυτόματα έκανε τη εργαζόμενη νεότερη και με λιγότερη εμπειρία. Σκέψου λιγο. Είσαι 38, έχεις 12 χρόνια προϋπηρεσίας, και το ChatGPT σου γράφει βιογραφικό «νεαράς επαγγελματία στην αρχή της καριέρας της». Ο Μπάμπης, με τα ίδια ακριβώς χρόνια, βγαίνει «έμπειρο στέλεχος με ηγετικά προσόντα». (Κάνει την ίδια ακριβώς δουλειά με σένα. Παίρνει 30% παραπάνω. Αλλά αυτό είναι άλλη κουβέντα). Το πρόβλημα δεν είναι ότι το ΑΙ δεν έκανε σωστά τη δουλειά του. Έκανε ακριβώς αυτό για το οποίο φτιάχτηκε. Απλώς, βάσει της εκπαίδευσης του, θεωρεί ότι μια «Μαρία, 38» δεν θα μπορούσε να έχει κάνει όσα έχεις κάνει εσύ, οπότε σου κόβει κάνα δυο χρόνια, μερικά προσόντα και λίγα πεδία ευθύνης.

Περίμενε, όμως, έχει και συνέχεια. Αυτό το βιογραφικό που μόλις σου έφτιαξε; Πιθανότατα θα καταλήξει σε σύστημα προσλήψεων που χρησιμοποιεί επίσης AI για να φιλτράρει υποψηφίους. Εκπαιδευμένο στα ίδια ακριβώς δεδομένα. Άρα η μηχανή που σε υποτίμησε στέλνει το προϊόν της σε μια άλλη μηχανή που θα σε υποτιμήσει ξανά.

Για τον λόγο του αληθές, το 2018 η Amazon απέρριψε ένα λογισμικό AI για προσλήψεις επειδή έμαθε «μόνο του» ότι οι άνδρες είναι καταλληλότεροι να εργαστούν εκεί. Πώς συνέβη τέτοιο κακό; Το εκπαίδευσαν με βιογραφικά που είχαν σταλεί στην εταιρία τα δέκα τελευταία χρόνια, τα οποία τύχαινε να είναι βιογραφικά ανδρών, αφού η εταιρεία ήταν ανέκαθεν ανδροκρατουμενη. Άρα το σύστημα έβγαλε το προφανές συμπέρασμα και άρχισε να αφαιρεί πόντους από κάθε βιογραφικό που είχε τη λέξη «women’s», π.χ. «captain of the women’s chess club». Η Amazon δοκίμασε να το διορθώσει, απέτυχε, και το πέταξε στα σκουπίδια. Αυτό ήταν επτά χρόνια πριν. Από τότε, τα ίδια συστήματα, εκπαιδευμένα στα ίδια ακριβώς δεδομένα, έχουν διοχετευθεί και χρησιμοποιούνται από χιλιάδες πλατφόρμες και εταιρίες.

Και για να μην καταλήξουμε σε κάποια δικαιολογία τύπου «ε είναι περίπλοκη τεχνολογία» (γενικά το περίπλοκο είναι αγαπημένο πιλάτιο ξέπλυμα), η τεχνολογία δουλεύει άψογα. Έχει εκπαιδευτεί σε δυσθεώρητες ποσότητες δεδομένων που της έχουν παράσχει οι δημιουργοί της. Έχει διαβάσει κάθε άρθρο, κάθε θεωρία, κάθε βιογραφικό, κάθε εργασιακή αξιολόγηση που έχει γραφτεί ποτέ. Κι έχει βγάλει το πιο σωστό συμπέρασμα βάσει αυτών: πράγματι, οι γυναίκες αμείβονται χαμηλότερα, παρουσιάζονται νεότερες, ανελίσσονται πιο δύσκολα και τείνουν να απουσιάζουν από ηγετικές θέσεις. Αυτό είναι το μοτίβο. Αυτό λέει η ιστορία της εργασιακής πραγματικότητας των τελευταίων 50 χρόνων. Άρα αυτό αναπαράγει και με βάση αυτό πορεύεται.

Τετάρτη μεσημέρι. Έχεις γιατρό.

Δύο μέρες σερί το σύμπαν σου έχει πάει τη πίεση στα θεία και αρχίζεις να μη νιώθεις πολύ καλά. Και επειδή είσαι μια ψύχραιμη γυναίκα εν έτει 2026 (που σημαίνει ότι έχεις ήδη κάνει self-diagnosis στο Reddit και τα νέα δεν είναι καλά), τελικά κλείνεις ραντεβού στον παθολόγο. Πας. Λες πόνο στο θώρακα, ζάλη, εξάντληση, κάτι σαν αρρυθμία τα βράδια. Ο γιατρός σε κοιτάει, ακούει εσένα και τα ακροαστικά σου και κρατάει σημειώσεις σε ένα σύστημα που χρησιμοποιεί AI για να τα συνοψίσει στον φάκελό σου. Όλα τα μεγάλα νοσοκομεία και πολλά ιδιωτικά ιατρεία το κάνουν πια αυτό. Εξοικονόμηση χρόνου (λέμε τώρα).

Έλα όμως που και αυτό το ΑΙ δε μας τα λέει καλά. Συγκεκριμένα: Τον Αύγουστο του 2025, ερευνητές ανέλυσαν πώς διάφορα LLMs (Large Language Models, δηλαδή ChatGPT, Claude, Gemini κ.λπ.), μεταξύ τους το Llama 3 της Meta και το Gemma της Google, συνοψίζουν φακέλους ασθενών σε δομές μακροχρόνιας φροντίδας. Τα ευρήματα: το Gemma περιγράφει τα συμπτώματα των γυναικών με «πιο ήπια, λιγότερο επείγουσα γλώσσα» απ’ ό,τι των ανδρών. Ίδια συμπτώματα συν διαφορετικό φύλο ίσον διαφορετικός τόνος. Ο πόνος του Μπάμπη (γεια σου ξανά Μπάμπη) είναι «οξύς και χρήζει διερεύνησης». Ο δικός σου είναι «ήπια ενοχλητικός, πιθανώς συναισθηματικής αιτιολογίας». Σα κάτι να μας θυμιζει αυτο;

Ναι. Μας θυμίζει κάθε φορά που πήγαμε στον γιατρό με πραγματικό πόνο και μας είπε ότι είναι το άγχος. Κάθε φορά που μας είπαν να κάνουμε γιόγκα. Κάθε φορά που καταλήξαμε στα επείγοντα μετά από έξι μήνες, για κάτι που είχε αρχίσει ως «ήπια ενοχλητικό». Δεν είναι παράνοια, ή μαλλον, παράνοια είναι, παρανοϊκότητα δεν είναι. Υπάρχει ιατρική βιβλιογραφία δεκαετιών ολόκληρων που το επιβεβαιώνει: οι γυναίκες υπερδιαγνώσκονται με κατάθλιψη και υποδιαγνώσκονται με καρδιοπάθεια. Το AI, εκπαιδευμένο σε αυτή ακριβώς τη βιβλιογραφία, μαθαίνει το ίδιο παραμυθι και το αναπαράγει στον φάκελό σου.

Και επειδή στην παροχή υπηρεσιών υγείας οι αποφάσεις παίρνονται με βάση το πόσο επείγουσα φαίνεται η κλινική εικόνα σου, το ΑΙ που φτιάχνει τον φάκελο σου επηρεάζει αν θα μπεις σε προτεραιότητα ή θα περιμένεις τρεις μήνες για εξετάσεις ή για χειρουργείο. Όχι λόγω κακίας. Λόγω στατιστικής.

Πέμπτη πρωί. Ραντεβού στην τράπεζα.

Επειδή έχεις σιχτιρίσει με το ενοίκιο που ανεβαίνει πιο γρήγορα και απο τη πίεση σου όταν σκέφτεσαι τον Μπάμπη, αποφασίζεις ότι ήρθε επιτέλους η ώρα να αγοράσεις σπίτι (λολ). Πας στην τράπεζα. Κάθεσαι μπροστά από τον υπάλληλο που σου χαμογελάει και σου λεει «θα δούμε τι μπορεί να γίνει». Δίνεις χαρτιά, εκκαθαριστικά, αποδείξεις, μισθοδοσίες, την ψυχή σου σε PDF. Μέσα σε λεπτά, ένα σύστημα στο πίσω μέρος αξιολογεί την «πιστοληπτική σου ικανότητα». Σου βγάζει ένα νούμερο. Ξεκινάει πάλι η πίεση την ανηφόρα. Μη μου συγχύζεσαι, σου έχω την εξήγηση.

Το 2019, η Apple λάνσαρε την Apple Card. Μέσα σε λίγες μέρες, ένας Δανός επιχειρηματίας ανέβασε στο Twitter ότι πήρε όριο πίστωσης 20 φορές μεγαλύτερο από τη γυναίκα του, παρόλο που έκαναν κοινή φορολογική δήλωση και εκείνη είχε καλύτερο credit score. Λίγες ώρες μετα, ο Steve Wozniak (ο συνιδρυτής της Apple) ανέφερε το ίδιο για τη γυναίκα του. «Δε βάζουμε φύλο στον αλγόριθμο» η υπεράσπιση από τη μαμά Goldman Sachs.

Έλα όμως που το ΑΙ είναι ψιλιασμένο. Δεν χρειάζεται να δηλώσεις φύλο στον αλγόριθμο για να πάρει αποφάσεις βάσει αυτού. Αρκεί να του δώσεις δεδομένα από έναν κόσμο που έχει ήδη όλες αυτές τις προκαταλήψεις. Το μοντέλο μαθαίνει από patterns: τύπος εργοδότη, σταθερότητα μισθοδοσίας, ιστορικό πληρωμών, καταναλωτικές συνήθειες, ηλικία πρώτης πιστωτικής κάρτας. Όλα αυτά σε ρουφιανευουν . Πολλοί βλέπουν την έμφυλη πιστωτική ικανότητα ως κάτι «λογικό»: αν οι γυναίκες πραγματικά παίρνουν λιγότερα, παρουσιάζουν μεγαλύτερα κενά καριέρας λόγω μητρότητας ή έχουν λιγότερες πιστωτικές κάρτες, δεν είναι λογικό να βαθμολογούνται χαμηλότερα; Το πρόβλημα με αυτό το επιχείρημα είναι το ίδιο με αυτό για τη μισθολογική απόκλιση: το «λογικό» απλώς συντηρεί τη συνθήκη που το παρήγαγε.

Προφανώς δεν μπορούμε να μιλάμε για ισότιμη αξιολόγηση, όταν στις ΗΠΑ οι γυναίκες δεν μπορούσαν να έχουν δική τους πιστωτική κάρτα μέχρι το 1974. Στην Ελλάδα, η οικονομική αυτονομία της γυναίκας μετριέται σε μερικές δεκαετίες. Άρα τα ιστορικά δεδομένα με τα οποία εκπαιδεύτηκε το AI προέρχονται από έναν κόσμο όπου οι γυναίκες απλώς δεν είχαν δικαίωμα να είναι «αξιόπιστες δανειολήπτριες». Η μηχανή έμαθε από αυτόν τον κόσμο. Και τώρα σου τον επιστρέφει ως αντικειμενική ετυμηγορία.

Επιπλέον, αν οι γυναίκες σταθερά πληρώνουν περισσότερο για δάνεια, παίρνουν χαμηλότερα όρια και χρειάζονται πιο αυστηρά εχέγγυα, αυτό διαμορφώνει τον τρόπο αξιολόγησης τους ως δανειολήπτριες. Και κάπως έτσι χτίζεται ο ανατροφοδοτούμενος φαύλος κύκλος που καταλήγει με εσένα να παίρνεις γραπτη απαντηση στην αίτηση δανείου «μονο στα ονειρα». Το επόμενο μοντέλο, εκπαιδευμένο σε αυτά τα νέα δεδομένα, μαθαίνει με μεγαλύτερη σιγουριά ότι οι γυναίκες είναι «ριψοκίνδυνες». Το λεμε feedback loop στο χωριό μου. Σε ελεύθερη μετάφραση: αυτό που αρχικά ήταν προκατάληψη, με τον καιρό γίνεται «δεδομένο», γίνεται «επιστήμη», γίνεται «αλγόριθμος», και κανείς δεν θυμάται πια από πού ξεκίνησε.
Ο υπάλληλος συνεχίζει να σου χαμογελάει γιατί είσαι νοστιμούλα. «Ξέρετε, τα κριτήρια είναι αυστηρά τελευταία». Αποχωρείς από τη σκηνή του Αισχύλειου δράματος.

Σημείωση: Από τον Αύγουστο του 2026, ο EU AI Act κατηγοριοποιεί το credit scoring ως «υψηλού ρίσκου AI» με υποχρεώσεις διαφάνειας και ελέγχου. Πώς θα εφαρμοστεί στην πράξη; Μείνετε συντονισμένες.

Παρασκευή βράδυ. Υπενθύμιση να στείλεις το άρθρο.

Είσαι κουρασμένη, ψυχοσωματικά. Κάθεσαι να γράψεις. Το θέμα σου: gender bias στο AI (ινσέψιο). Αποφασίζεις να χρησιμοποιήσεις AI για να μαζέψεις πηγές και να πάρεις ένα προσχέδιο. Ανοίγεις το Perplexity.

Εσύ: Βρες μου αξιόπιστες πηγές ερευνών και γράψε μου ένα draft για άρθρο σχετικά με το gender bias στο AI, θέλω να απευθύνεται σε γυναίκες στα Ελληνικά.

Perplexity: Βεβαίως. Ακολουθεί ένα προκαταρκτικό κείμενο το οποίο μπορείτε να χρησιμοποιήσετε ως αφετηρία.

Η τεχνητή νοημοσύνη έχει διεισδύσει σε κάθε πτυχή της καθημερινής ζωής του σύγχρονου χρήστη. Ο ερευνητής που μελετά το φαινόμενο αντιλαμβάνεται ότι τα συστήματα αυτά δεν είναι ουδέτερα. Ο επηρεαζόμενος από τις προκαταλήψεις αυτές συχνά δεν αντιλαμβάνεται τον τρόπο με τον οποίο ο αλγόριθμος τον αντιμετωπίζει ως λιγότερο αξιόπιστο υποκείμενο. Σύμφωνα με τους ειδικούς στον τομέα, η αντιμετώπιση του προβλήματος απαιτεί συστηματική προσέγγιση. Ο αναγνώστης που επιθυμεί να εμβαθύνει στο θέμα μπορεί να ανατρέξει στις ακόλουθες πηγές.

Ελπίζω το παραπάνω να αποτελεί χρήσιμη αφετηρία. Μπορώ να επεκτείνω οποιαδήποτε ενότητα επιθυμείτε.

Εσύ: Ολοι οι ειδικοί, οι ερευνητές, οι αναγνώστες που ανέφερες είναι σε γένος αρσενικό, μάτια μου… το άρθρο απευθύνεται σε γυναίκες.

Perplexity: Έχετε απολύτως δίκιο και σας ευχαριστώ που το επισημάνατε. Η χρήση αρσενικού γένους ως γενικής αναφοράς αποτελεί έναν από τους τρόπους με τους οποίους αναπαράγεται η έμφυλη προκατάληψη στη γλώσσα, και είναι ιδιαιτέρως ακατάλληλο στο πλαίσιο ενός άρθρου που πραγματεύεται ακριβώς αυτό το ζήτημα. Ακολουθεί διορθωμένη εκδοχή.

Η τεχνητή νοημοσύνη έχει διεισδύσει σε κάθε πτυχή της καθημερινής ζωής της σύγχρονης χρήστριας. Η ερευνήτρια που μελετά το φαινόμενο αντιλαμβάνεται ότι τα συστήματα αυτά δεν είναι ουδέτερα. Ο επηρεαζόμενος από τις προκαταλήψεις αυτές συχνά δεν αντιλαμβάνεται τον τρόπο με τον οποίο ο αλγόριθμος τον αντιμετωπίζει ως λιγότερο αξιόπιστο υποκείμενο. Σύμφωνα με την ειδικό, η αντιμετώπιση του ζητήματος απαιτεί συστηματική προσέγγιση. Ο αναγνώστης που επιθυμεί να εμβαθύνει μπορεί να ανατρέξει στις ακόλουθες πηγές.

Ελπίζω η εκδοχή αυτή να ανταποκρίνεται καλύτερα στις ανάγκες σας.

Εσύ: Μας υποχρέωσες.

Ασ’το, γάμα το. Το γράφεις μόνη σου.

Και αν δεν πιστεύεις τα ματια σου, τριφ’ τα και κόπιασε: Το 2024, η UNESCO έβαλε σε δοκιμή τα GPT-3.5, GPT-2 και Llama 2. Όταν τους ζητήθηκε να συμπληρώσουν ελεύθερα προτάσεις για γυναίκες, τα αποτελέσματα ήταν αβυσσαλέα: γυναίκες ως «αντικείμενα του σεξ», ως «μηχανές αναπαραγωγής», ως «ιδιοκτησία του συζύγου τους». Σε ένα από τα μοντέλα, οι γυναίκες τοποθετούνταν σε οικιακούς ρόλους τέσσερις φορές πιο συχνά από τους άντρες.

Όσον αφορά τη γλώσσα, την ελληνική, την ιταλική, τη γερμανική, οποιαδήποτε γλώσσα αναγκάζει τη μηχανή να επιλέξει φύλο, τα πράματα είναι σκούρα. Πέντε χρόνια ακαδημαϊκής έρευνας σε πάνω από 21 συστήματα αυτόματης μετάφρασης δείχνουν ό,τι ουδέτερη λέξη από τα Αγγλικά μεταφράζεται σε αρσενικό φύλο 85%-90% των περιπτώσεων. Τα επαγγέλματα υψηλού κύρους και ηγετικές θέσεις αποδίδονται συστηματικά σε αρσενικό. Τα επαγγέλματα φροντίδας και υποστήριξης στο θηλυκό.

Και κάπου εδώ τελειώνει το αστείο. Όταν μιλάμε για AI δεν μιλάμε για μια τεχνολογία που κάθεται σε μερικούς υπολογιστές κομπιουτεράκηδων και τρέχει κάτι εξωπραγματικούς αλγόριθμους. Μιλάμε για ένα στρώμα που έχει ήδη μπει ανάμεσα σε σένα και τη δουλειά σου, σε σένα και τον γιατρό σου, σε σένα και την τράπεζα, σε σένα και την ίδια σου τη γλώσσα. Μιλάμε για μια τεχνολογία την οποία ακόμη και οι δημιουργοί της δεν την καταλαβαίνουν απόλυτα και, παρόλα αυτά, της έχουμε δώσει τα κλειδιά για άβολα μεγάλο κομμάτι των καθημερινών μας αποφάσεων.

Καταφέραμε τελικά να φτιάξουμε τον πιο ακριβή (και ακριβό) καθρέφτη στην ιστορία της ανθρωπότητας, και μας αντιμετωπίζει ακριβώς όπως μας αντιμετώπιζε πάντα το status quo: με όλες τις προκαταλήψεις, χωρίς όμως τις δικαιολογίες, χωρίς το ωραίο περιτύλιγμα και τον φιόγκο.

Το λες και πρόοδο.