Το Twitter απολογείται για τον «ρατσιστικό» αλγόριθμο περικοπής φωτογραφιών

Το Twitter περικόπτει αυτόματα τις φωτογραφίες για να μην καταλαμβάνουν πολύ χώρο στην κύρια ροή και για να επιτρέπει την εμφάνιση πολλών εικόνων στο ίδιο tweet. Η εταιρεία χρησιμοποιεί διάφορα αλγοριθμικά εργαλεία για να προσπαθήσει να επικεντρωθεί στα πιο σημαντικά μέρη της εικόνας.

Όμως, οι χρήστες άρχισαν να εντοπίζουν ελαττώματα στη λειτουργία το σαββατοκύριακο. Ο πρώτος που υπογράμμισε το ζήτημα ήταν ο φοιτητής Κόλιν Μάντλαντ, ο οποίος ανακάλυψε το πρόβλημα, επισημαίνοντας μια διαφορετική φυλετική προκατάληψη στο λογισμικό Zoom.

Όταν ο Μάντλαντ, ο οποίος είναι λευκός, δημοσίευσε μια εικόνα του εαυτού του και ενός μαύρου συναδέλφου που είχε διαγραφεί από μια κλήση Zoom, αφού ο αλγόριθμός δεν αναγνώρισε το πρόσωπό του, το Twitter έκοψε αυτόματα την εικόνα για να δείξει μόνο εκείνη του Μάντλαντ.

Άλλοι έκαναν πιο στοχευμένα πειράματα, συμπεριλαμβανομένου του επιχειρηματία Tony Arcieri, ο οποίος ανακάλυψε ότι ο αλγόριθμος περικόπτει με συνέπεια μια εικόνα του γερουσιαστή των ΗΠΑ Mitch McConnell και του Barack Obama. για να κρύψει τον πρώην πρόεδρο.

Σε μια δήλωση, εκπρόσωπος του Twitter παραδέχτηκε ότι η εταιρεία είχε ακόμη δουλειά να κάνει. «Η ομάδα μας έκανε δοκιμές πριν ενεργοποιήσει το μοντέλο και δεν βρήκε στοιχεία σχετικά με φυλετική διάκριση ή μεροληψία λόγω φύλου στις δοκιμές μας. Ωστόσο, από αυτά τα παραδείγματα είναι σαφές ότι πρέπει να κάνουμε περισσότερες αναλύσεις. Θα συνεχίσουμε να μοιραζόμαστε ό, τι μαθαίνουμε, τι ενέργειες κάνουμε και θα ανοίξουμε την ανάλυσή μας, ώστε άλλοι να μπορούν να ελέγξουν και να αναπαραγάγουν».