Ξυπνούσε κάθιδρος. Εικόνες βασανιστηρίων και σεξουαλικής κακοποίησης στοίχειωναν τα όνειρά του. Τις είχε ξαναδεί, στη δουλειά του. Ως διαχειριστής περιεχομένου για το Facebook στο Δουβλίνο, ο Κρίστοφερ Γκρέι αποφάσιζε ποιες αναρτήσεις ήταν ακατάλληλες και έπρεπε να διαγραφούν από την πλατφόρμα κοινωνικής δικτύωσης. Αυτό που συχνά τον κρατούσε ξάγρυπνο, όμως, δεν ήταν μόνο η σκληρότητα του υλικού που ήλεγχε αλλά και το κατά πόσον ήταν σωστή η κρίση του. Το κυνήγι της ακρίβειας του είχε γίνει έμμονη ιδέα.
Οπως ισχυρίζεται, τον είχαν συμβουλεύσει να μη σπαταλά πάνω από 30 δευτερόλεπτα σε κάθε ανάρτηση που διαχειριζόταν. Ούτε είχε περιθώριο λάθους. Οι αποφάσεις του ελέγχονταν από προϊσταμένους του. Επρεπε να είναι κατά 98% σωστός. Η πίεση ήταν μεγάλη και η προσπάθειά του να αντιμετωπίσει ψυχρά το αποτρόπαιο υλικό στην οθόνη του δεν απέδιδε πάντα. Αυτά υποστηρίζει ο Γκρέι στην αγωγή που κατέθεσε στις 4 Δεκεμβρίου στην Ιρλανδία κατά του Facebook και της εταιρείας CPL Solutions, η οποία τον είχε προσλάβει για λογαριασμό του μέσου κοινωνικής δικτύωσης.
Τον περασμένο Οκτώβριο η «Κ» παρουσίασε τον τρόπο εργασίας 800 διαχειριστών περιεχομένου στο τμήμα Business Integrity του Facebook που έχει ως βάση του την Ελλάδα. Οι «ψηφιακοί καθαριστές» που βρίσκονται στη χώρα μας, στα γραφεία της εταιρείας-υπεργολάβου Teleperformance στο Μοσχάτο, ελέγχουν μόνο τις διαφημίσεις, δηλαδή τις χορηγούμενες αναρτήσεις που εμφανίζονται στο Facebook. Ο Γκρέι, όμως, ήταν ένας από τους χιλιάδες content moderators οι οποίοι απασχολούνται σε γραφεία υπεργολάβων στην Ιρλανδία, στη Γερμανία, στις ΗΠΑ και αλλού και εστιάζουν αποκλειστικά στις προσωπικές αναρτήσεις κάθε χρήστη (personal posts).
Η «Κ» έχει στη διάθεσή της και παρουσιάζει αναλυτικά την αγωγή που κατέθεσε ο Γκρέι στο Δουβλίνο. Στις 17 σελίδες της περιγράφονται με λεπτομέρεια οι απαιτήσεις της δουλειάς του, οι επιπτώσεις της στην ψυχική του υγεία, καθώς και η τάση του Facebook να περιβάλλει με μυστικότητα τον τρόπο με τον οποίο εφαρμόζεται η πολιτική της διαγραφής περιεχομένου.
Ακατάλληλο υλικό
Οπως αναφέρεται στα δικαστικά έγγραφα, ο Γκρέι ξεκίνησε να εργάζεται ως content moderator τον Ιούνιο του 2017. Η εκπαίδευσή του φέρεται να κράτησε μόλις οκτώ ημέρες. Κατά τον ίδιο επρόκειτο κυρίως για διαλέξεις οι οποίες αφορούσαν την πολιτική εχεμύθειας του Facebook. Κύριο μέλημα των ανωτέρων του φαίνεται ότι ήταν να μην πληγεί η εταιρική φήμη και όχι η επαρκής προετοιμασία των «καθαριστών» για το ακατάλληλο υλικό στο οποίο εκτίθενται. Ακολούθησε μια περίοδος χάριτος, διάρκειας ενός μήνα. Σε αυτό το διάστημα οι διαχειριστές δεν αξιολογούνταν για τις επιδόσεις τους.
Διαχειριστές περιεχομένου του Facebook στο Δουβλίνο απομακρύνουν ακατάλληλο περιεχόμενο πριν από τις ευρωεκλογές του 2019.
Στις οθόνες τους εμφανίζονταν εικόνες, κείμενα ή βίντεο χρηστών του Facebook που είχαν επισημανθεί από άλλους χρήστες της πλατφόρμας ως ακατάλληλα. Στον Γκρέι ανατέθηκε η νυχτερινή βάρδια. Δούλευε από τις 6 το απόγευμα έως τις 2 τα ξημερώματα και κατά μέσον όρο επεξεργαζόταν 600 αναρτήσεις στο οκτάωρό του. Υπήρχαν όμως και ημέρες που έφτανε τις 800. Εάν δαπανούσε πολύ χρόνο σε κάποια ανάρτηση (ξεπερνούσε δηλαδή το αποκαλούμενο «Average Handling Time» ή «AHT») θα έπρεπε να είναι πιο γρήγορος στις επόμενες κρίσεις του.
Για δύο μήνες ο 50χρονος «καθαριστής» ήλεγχε κυρίως υλικό που είχε επισημανθεί ως πορνογραφικό. Οπως αναφέρεται στην αγωγή, ο Γκρέι έπρεπε να δει και να διαγράψει, μεταξύ άλλων, εικόνες κακοποίησης παιδιών, σαδομαζοχισμού, κτηνοβασίας και αυνανισμού. Από τον Σεπτέμβριο του 2017 διευρύνθηκαν οι κατηγορίες του ακατάλληλου περιεχομένου το οποίο εμφανιζόταν στον υπολογιστή του. Σύμφωνα με τα δικαστικά έγγραφα, ο Γκρέι φέρεται να εκτέθηκε σε βίντεο που έδειχναν: 1) δολοφονίες μελών της μειονότητας των Ροχίνγκια, 2) εκτέλεση αιχμαλώτων από μαυροντυμένους μασκοφόρους - υλικό που παραπέμπει στο Ισλαμικό Κράτος, 3) λιθοβολισμό μέχρι θανάτου μιας γυναίκας η οποία φορούσε μαντίλα, 4) μαστίγωμα ενός κατηγορουμένου για σεξουαλικά εγκλήματα στη Ρωσία, 5) βασανισμό ανθρώπων με λιωμένο μέταλλο, πιθανότατα μεταναστών στη Λιβύη, 6) μαγείρεμα ζωντανών σκύλων στην Κίνα.
Μπροστά σε δύο οθόνες
Οταν απέκτησε μεγαλύτερη εμπειρία προστέθηκε στο γραφείο του και δεύτερη οθόνη υπολογιστή. Σε αυτή εμφανίζονταν τα βίντεο που αναρτούσαν ζωντανά οι χρήστες της πλατφόρμας (μέσω της υπηρεσίας Facebook Live). Επρεπε να παρακολουθήσει όσα επισημαίνονταν ως ακατάλληλα για να βεβαιωθεί ότι δεν έδειχναν τη διάπραξη εγκλήματος ή τρομοκρατικής ενέργειας. Αυτός ο μηχανισμός φαίνεται πως δεν απέδιδε πάντα. Ενδεικτικά, τον Μάρτιο του 2019 ο 28χρονος τρομοκράτης Μπρέντον Χάρισον Τάραντ επιχείρησε να μεταδώσει ζωντανά στο Facebook τη δολοφονία 50 ανθρώπων σε μουσουλμανικά τεμένη της Νέας Ζηλανδίας και το κατόρθωσε τουλάχιστον για 17 λεπτά, προτού το βίντεο και η προσωπική του σελίδα διαγραφούν. Αργότερα, όμως, αντίγραφα του ίδιου βίντεο δημοσιεύονταν από άλλους χρήστες του μέσου κοινωνικής δικτύωσης.
Σταδιακά, όπως επισημαίνεται στην αγωγή, ο Γκρέι άρχισε να επηρεάζεται από τη μακρά έκθεσή του σε ανάρμοστο και βίαιο περιεχόμενο. Υπέφερε από έμμονες ιδέες και εφιάλτες, εμφάνιζε επιθετική συμπεριφορά. Στις 16 Μαρτίου 2018 λύθηκε η σύμβασή του με την εταιρεία. Ο λόγος φέρεται να ήταν η χαμηλή απόδοσή του, ότι δεν ήταν πλέον τόσο ακριβής στην κρίση του. Ο ίδιος ισχυρίζεται ότι η πραγματική αιτία ήταν τα παράπονα που είχε εκφράσει παλιότερα για τις συνθήκες εργασίας.
Μίλησε για πρώτη φορά σχετικά με την εμπειρία του στο Facebook τον Μάρτιο του 2019, μήνες προτού καταθέσει την αγωγή. Η μαρτυρία του δημοσιεύθηκε στην εφημερίδα Irish Times. Η εταιρεία CPL που τον είχε προσλάβει αρνήθηκε σε εκείνο το δημοσίευμα τις κατηγορίες. Υποστήριξε ότι εκπαιδεύει επαρκώς τους υπαλλήλους της, ότι δεν τους ασκεί πίεση και δεν απαιτεί τον έλεγχο συγκεκριμένου αριθμού αναρτήσεων ανά βάρδια.
Το ανάρμοστο υλικό και οι τεχνικές λύσεις
Η «Κ» απευθύνθηκε στη CPL, με αφορμή την αγωγή του Γκρέι, ζητώντας κάποιο νέο σχόλιο, αλλά δεν έλαβε απάντηση. Εθεσε το ίδιο ερώτημα και στο Facebook. Εκπρόσωπος του μέσου κοινωνικής δικτύωσης επανέλαβε στην «Κ», μέσω της εταιρείας επικοινωνίας που τους εκπροσωπεί στην Ελλάδα, τις πάγιες θέσεις τους για το θέμα. Αναγνώρισε ότι η δουλειά των διαχειριστών μπορεί να είναι ορισμένες φορές δύσκολη, ανάλογα και με το υλικό που πρέπει να εξετάσουν. Ανέφερε όμως ότι τους παρέχουν εκπαίδευση πολλών εβδομάδων.
«Ολοι όσοι ελέγχουν περιεχόμενο για το Facebook έχουν πρόσβαση σε υπηρεσίες ψυχολογικής υποστήριξης για να εξασφαλιστεί η καλή τους υγεία. Αυτές οι παροχές περιλαμβάνουν την καθημερινή παρουσία ειδικών στον χώρο εργασίας, υπηρεσίες τηλεφωνικής υποστήριξης και πρόσβαση στο ιδιωτικό σύστημα υγείας από την πρώτη ημέρα της απασχόλησής τους», ανέφερε. «Πρόκειται για ένα σημαντικό θέμα και δεσμευόμαστε να το αντιμετωπίσουμε σωστά».
Σύμφωνα με πληροφορίες που παρείχε το Facebook στην «Κ», σήμερα απασχολούνται διεθνώς περίπου 15.000 άτομα ως content moderators για τις προσωπικές αναρτήσεις των χρηστών και εργάζονται κυρίως σε εταιρείες υπεργολάβους που έχουν τη βάση τους στην Ιρλανδία, στη Γερμανία, στην Ισπανία, στη Λετονία, στην Κένυα, στις ΗΠΑ και άλλες χώρες.
Τα ειδικά «φίλτρα»
Το Facebook επεξεργάζεται, σύμφωνα με τον εκπρόσωπό του, και ορισμένες τεχνικές λύσεις για να μετριάσει όσο το δυνατόν περισσότερο την έκθεση των διαχειριστών σε βίαιο και ανάρμοστο υλικό. Αυτές οι λύσεις περιλαμβάνουν την επεξεργασία εικόνων προτού τις δει ο διαχειριστής, την επιλογή να εμφανιστεί μια εικόνα ασπρόμαυρη, ή τη χρήση εργαλείων που δείχνουν στον διαχειριστή σε ποιο ακριβώς σημείο σε ένα βίντεο έχει εντοπιστεί από κάποιον χρήστη ακατάλληλο περιεχόμενο. Σκοπός θα είναι να μη χρειάζεται να ελεγχθεί ένα βίντεο σε όλη τη διάρκειά του για να περιοριστεί και ο χρόνος που θα αφιερώνει ο «καθαριστής».
Στο πλευρό των διαχειριστών περιεχομένου με κλονισμένη υγεία
Στην αγωγή του ο Γκρέι υποστηρίζει ότι τον Μάρτιο του 2019 διαγνώστηκε με μετατραυματική διαταραχή και κατάθλιψη. Μέχρι και σήμερα ισχυρίζεται ότι αντιμετωπίζει προβλήματα ύπνου. Εκπροσωπείται στην Ιρλανδία από τη δικηγόρο Νταϊάν Τρένορ. Στο πλευρό του βρίσκεται και η αγγλική μη κυβερνητική οργάνωση Foxglove, η οποία υπερασπίζεται τα ανθρώπινα δικαιώματα στον ψηφιακό κόσμο. Τα μέλη της παροτρύνουν και άλλους νυν ή πρώην «ψηφιακούς καθαριστές», που έχουν εκτεθεί σε παρόμοιο υλικό και έχει κλονιστεί η ψυχική τους υγεία, να μιλήσουν δημοσίως για τις εμπειρίες τους. Σκοπός της οργάνωσης είναι να ασκηθεί πίεση στο Facebook ώστε να άρει το πέπλο μυστικότητας με το οποίο συχνά καλύπτει τις δραστηριότητές του και να βελτιωθούν όσο το δυνατόν περισσότερο οι συνθήκες εργασίας των υπαλλήλων του.
Η αγωγή που κατέθεσε ο πρώην διαχειριστής περιεχομένου, Κρίστοφερ Γκρέι, στις 4 Δεκεμβρίου κατά του Facebook στο Δουβλίνο.
Η Κόρι Κρίντερ, νομικός η οποία στο παρελθόν έχει εκπροσωπήσει με επιτυχία και κρατούμενους στο Γκουαντάναμο, χειρίζεται στη Foxglove τις υποθέσεις των content moderators. Οπως λέει σε τηλεφωνική της συνομιλία με την «Κ», μέχρι στιγμής έχει μιλήσει με δεκάδες ανθρώπους που είχαν αυτό το πόστο στο Facebook στην Ιρλανδία, στην Πολωνία και στην Ισπανία και παρατηρεί ότι μοιράζονται κοινά προβλήματα. Παρά το γεγονός ότι χιλιάδες άνθρωποι κάνουν αυτή τη δουλειά, δεν είναι ακόμη εύκολο για τους περισσότερους να μιλήσουν ανοιχτά. Κατά την Κρίντερ μπορεί να φοβούνται ότι δεσμεύονται από τα συμφωνητικά εχεμύθειας που συνήθως υπογράφουν – αν και αυτά δεν τους απαγορεύουν να μιλήσουν σε κάποιον δικηγόρο. Ακόμη μπορεί να ανησυχούν για το εργασιακό τους μέλλον, ή να θεωρούν ότι είναι αδύνατο να στραφούν νομικά κατά ενός τεχνολογικού κολοσσού.
Πρώην διαχειριστής περιεχομένου στο τμήμα Business Integrity του Facebook στην Ελλάδα, που μίλησε στην «Κ» τον περασμένο Οκτώβριο ζητώντας να μη δημοσιοποιηθούν τα πραγματικά του στοιχεία, ανέφερε ότι του απαγορευόταν να αποκαλύψει σε οποιονδήποτε το πόστο του. Ακόμη δεν έπρεπε να μοιραστεί σε μέσα κοινωνικής δικτύωσης (Facebook, Twitter, LinkedIn, Instagram) για ποιον εργάζεται. «Ζητούμε από αυτές τις ομάδες να υπογράψουν συμφωνία τήρησης απορρήτου για να διατηρούν τις πληροφορίες που χρήζουν διαχείρισης ασφαλείς», είχε δηλώσει τότε εκπρόσωπος του Facebook στην «Κ».
«Στη Βρετανία υπάρχουν πολύ αυστηροί κανόνες και παρέχεται πρόσβαση σε ψυχολογική υποστήριξη για τους αστυνομικούς οι οποίοι παρακολουθούν αποτρόπαιο υλικό κατά την έρευνα υποθέσεων παιδικής πορνογραφίας», λέει η Κρίντερ σε τηλεφωνική μας συνομιλία. «Οι εταιρείες κοινωνικής δικτύωσης μπορεί παλιότερα να υποστήριζαν ότι δεν γνωρίζουν ποιες είναι οι συνέπειες της μακράς έκθεσης κάποιου ανθρώπου σε ανάρμοστο υλικό. Πλέον όμως δεν έχουν καμία δικαιολογία». Οπως προσθέτει η ίδια, η προσπάθεια αξιοποίησης των αλγορίθμων και της τεχνητής νοημοσύνης για τον περιορισμό της έκθεσης των διαχειριστών σε ακατάλληλο περιεχόμενο, δεν είναι επαρκής λύση. Υποστηρίζει ότι θα υπάρχει πάντα η ανάγκη της ανθρώπινης ματιάς και φέρνει ως ενδεικτικό παράδειγμα την αδυναμία που θα είχε ένα λογισμικό στην ανίχνευση της ειρωνείας.
Πρώτη αγωγή στην Ευρώπη
Η αγωγή του Γκρέι είναι η πρώτη που κατατίθεται από πρώην διαχειριστή περιεχομένου κατά του Facebook στην Ευρωπαϊκή Ενωση. Παρόμοιες κινήσεις έχουν γίνει στο παρελθόν στις ΗΠΑ. Μια ανησυχητική πτυχή πάντως που θίγει ο Γκρέι, είναι η επίδραση που άσκησε πάνω του η επαναλαμβανόμενη έκθεση σε ρατσιστικό και «ύπουλο» ακροδεξιό υλικό. Αλλαξε σταδιακά ο βαθμός ανοχής που είχε σε παρόμοια θέματα και επηρεάστηκαν έως ένα σημείο και οι πολιτικές του απόψεις. Η περιγραφή του παραπέμπει σε «πλύση εγκεφάλου». Υπό κανονικές συνθήκες, εάν δεν το επέλεγε ο ίδιος, ως ένας απλός χρήστης της πλατφόρμας δεν θα είχε πρόσβαση σε αυτές τις πληροφορίες. Τουλάχιστον όχι σε τόσο μεγάλη έκταση.
Τον Οκτώβριο η αμερικανική ενημερωτική ιστοσελίδα The Verge έδωσε στη δημοσιότητα απομαγνητοφωνήσεις από εσωτερικές συσκέψεις στο Facebook. Σε μία από τις απαντήσεις του προς εργαζομένους της εταιρείας ο ιδρυτής του μέσου κοινωνικής δικτύωσης, Μαρκ Ζούκερμπεργκ, αν και αναγνώρισε τη σοβαρότητα του ζητήματος, χαρακτήρισε «υπερβολικά» κάποια από τα ρεπορτάζ διεθνών ΜΜΕ για τις επιπτώσεις της δουλειάς των «ψηφιακών καθαριστών» στη ψυχική τους υγεία. «Δεν βλέπουν όλοι μόνο τρομερά πράγματα κάθε μέρα», είχε πει.
Πηγή: kathimerini.gr
