Το Facebook ενθαρρύνει το μίσος με στόχο το κέρδος, σύμφωνα με whistleblower

Αποκαλύπτοντας την ταυτότητά της στην τηλεόραση, η Haugen περιέγραψε μια εταιρεία η οποία είναι τόσο αφοσιωμένη στη βελτιστοποίηση της απόδοσης των προϊόντων της που «αγκάλιασε» αλγόριθμους μέσω των οποίων ενισχύεται η ρητορική μίσους, τονίζοντας πως τα κέρδη της «πληρώνονται με την ασφάλεια μας».

Σύμφωνα με ένα προφίλ LinkedIn που έχει διαγραφεί, η Haugen ήταν διαχειρίστρια προϊόντων στη Facebook και της είχε ανατεθεί η ομάδα Civic Integrity. Επέλεξε να αποχωρήσει από την εταιρεία το 2021 μετά τη διάλυση του συγκεκριμένου group. Είπε ότι δεν «πιστεύει ότι είναι πρόθυμοι να επενδύσουν αυτό που πραγματικά πρέπει να επενδυθεί για να μην είναι επικίνδυνο το Facebook».

Κατά συνέπεια, διέρρευσε μια κρυφή εσωτερική έρευνα στην αμερικανική Επιτροπή Κεφαλαιαγοράς, με την ελπίδα να οδηγήσει σε καλύτερη ρύθμιση της εταιρείας. Σημείωσε ότι είχε εργαστεί σε πολλές εταιρείες, συμπεριλαμβανομένων των Google και Pinterest, αλλά ότι «ήταν πολύ χειρότερα στη Facebook» λόγω της επιθυμίας της εταιρείας να θέσει τα κέρδη της πάνω από την ευημερία των χρηστών της.

«Υπήρχε σύγκρουση μεταξύ του τι ήταν καλό για το κοινό και τι ήταν καλό για το Facebook», είπε η Hauge, «και η Facebook επέλεξε ξανά και ξανά να βελτιστοποιεί για τα δικά της συμφέροντα - όπως να βγάζει περισσότερα χρήματα».

Ενώ η εταιρεία έχει ισχυριστεί επανειλημμένα ότι βοηθά στην αντιμετώπιση της ρητορικής μίσους, τουλάχιστον στα δικά της προϊόντα, ένα εσωτερικό έγγραφο που διέρρευσε από την Haugen λέει: «Εκτιμούμε ότι μπορούμε να δράσουμε μόλις για το 3-5% του μίσους και του ~0,6% του V&I [βία και υποκίνηση] στο Facebook, παρά το γεγονός ότι είμαστε οι καλύτεροι στον κόσμο σε αυτό».

Ένα άλλο έγγραφο σημείωνε πως «έχουμε στοιχεία από διάφορες πηγές ότι η ρητορική μίσους, ο διχαστικός πολιτικός λόγος και η παραπληροφόρηση στο Facebook και την οικογένεια εφαρμογών του επηρεάζουν τις κοινωνίες σε όλο τον κόσμο».

Η Haugen ισχυρίζεται ότι η ρίζα του προβλήματος είναι οι αλγόριθμοι που κυκλοφόρησαν το 2018. Σύμφωνα με αυτήν, στόχος είναι να στηρίξουν το engagement. Και η εταιρεία διαπίστωσε ότι το καλύτερο engagement είναι αυτό που προκαλεί φόβο και μίσος στους χρήστες. «Είναι ευκολότερο να εμπνέεις τους ανθρώπους σε θυμό παρά σε άλλα συναισθήματα».

Εκείνη την εποχή, ο Mark Zuckerberg παρουσίασε τις αλλαγές του αλγορίθμου ως θετικές. «Αισθανόμαστε ευθύνη να βεβαιωθούμε ότι οι υπηρεσίες μας δεν είναι απλώς διασκεδαστικές στη χρήση, αλλά και καλές για την ευημερία των ανθρώπων.»

Σύμφωνα με την αναφορά της Wall Street Journal σχετικά με τις ανησυχίες της Haugen, το αποτέλεσμα ήταν μια απότομη στροφή προς το θυμό και το μίσος. «Η παραπληροφόρηση, η τοξικότητα και το βίαιο περιεχόμενο είναι υπερβολικά διαδεδομένα μεταξύ των αναδημοσιεύσεων», ανέφερε εσωτερικό σημείωμα.