Deepfakes: Η Microsoft ανέπτυξε εργαλείο εντοπισμού ψεύτικων φωτογραφιών
Η Microsoft ανέπτυξε ένα νέο εργαλείο για τον εντοπισμό deepfakes - εικόνων που έχουν δημιουργηθεί από υπολογιστές, στις οποίες η ομοιότητα ενός ατόμου έχει χρησιμοποιηθεί για να αντικαταστήσει την εικόνα ενός άλλου.
Το λογισμικό αναλύει φωτογραφίες και βίντεο για να δώσει μια «βαθμολογία εμπιστοσύνης» σχετικά με το εάν το υλικό είναι πιθανό να έχει δημιουργηθεί τεχνητά. Η εταιρεία ελπίζει ότι η τεχνολογία θα βοηθήσει στην καταπολέμηση της παραπληροφόρησης.
Η Microsoft ανακοίνωσε επίσης ένα ξεχωριστό σύστημα για να βοηθήσει τους παραγωγούς περιεχομένου να προσθέσουν κρυφό κώδικα στο υλικό τους, ώστε τυχόν μεταγενέστερες αλλαγές να μπορούν να επισημανθούν εύκολα.
Τα deepfakes έφτασαν στο προσκήνιο στις αρχές του 2018, μετά από τη δημιουργία λογισμικού που άλλαζε το πρόσωπο ενός ατόμου με κάποιο άλλο.
Η διαδικασία λειτουργούσε «τροφοδοτώντας» έναν υπολογιστή με πολλές ακίνητες εικόνες και βίντεο. Στη συνέχεια, το λογισμικό χρησιμοποιούσε το υλικό για να δημιουργήσει ένα νέο βίντεο με το πρόσωπο του πρώτου στη θέση του δεύτερου, με αντίστοιχες εκφράσεις, συγχρονισμό χειλιών και άλλες κινήσεις. Από τότε, η διαδικασία απλοποιήθηκε και τώρα απαιτεί λιγότερες φωτογραφίες για να λειτουργήσει.
Στις αρχές του τρέχοντος έτους, το Facebook απαγόρευσε τις deepfakes που θα μπορούσαν να παραπλανήσουν τους χρήστες. Το Twitter και το TikTok ακολούθησαν αργότερα με παρόμοιους κανονισμούς.
Το εργαλείο Video Authenticator της Microsoft λειτουργεί προσπαθώντας να εντοπίσει σημάδια ότι μια εικόνα έχει δημιουργηθεί τεχνητά, σημάδια που μπορεί να μην είναι ορατά στο ανθρώπινο μάτι.
Σχόλια