Τεχνητή Νοημοσύνη: Η απάτη με deep fake στην Κίνα εγείρει ανησυχίες για απάτες

Η συζήτηση στον ιστότοπο κοινωνικής δικτύωσης Weibo σχετικά με την έκρηξη στον αριθμό των σαρώσεων με τεχνητή νοημοσύνη κέρδισε περισσότερες από 120 εκατομμύρια προβολές σε μια μέρα, ανέφερε το Reuters.

Με τα χρόνια, ο όρος deep fake έχει συσχετιστεί κυρίως με διασημότητες, αλλά καθώς η τεχνολογία AI γίνεται πιο τάση, έχει επίσης πυροδοτήσει φόβους ότι θα επηρεάσει το μέσο πολίτη. Πρόσφατα, ένας σύμβουλος των Ηνωμένων Εθνών προειδοποίησε για την καταστροφική χρήση της τεχνολογίας και προέτρεψε τα έθνη να θεσπίσουν κανονισμούς για την προστασία του κόσμου.

Μέσα σε λίγες μέρες από την προειδοποίηση του συμβούλου του ΟΗΕ, αναφέρθηκε μια μεγάλη ψεύτικη απάτη στη βόρεια Κίνα, όπου το θύμα δεν ήταν διασημότητα. Σύμφωνα με αναφορές από την αστυνομία στο Μπαοτού, μια περιοχή στη Μογγολία, ένας άνδρας έλαβε μια βιντεοκλήση από φίλο του όπου ο τελευταίος χρειαζόταν επειγόντως χρήματα για να κάνει κατάθεση σε μια διαδικασία υποβολής προσφορών.

Το θύμα μετέφερε αμέσως 4,3 εκατομμύρια γιουάν (622.000 δολάρια). Ωστόσο, όταν ήρθε σε επαφή, ο φίλος του διευκρίνισε ότι δεν είχε υποβάλει ποτέ τέτοιο αίτημα, γεγονός που οδήγησε στην ανακάλυψη ότι η τεχνολογία εναλλαγής προσώπου με τεχνητή νοημοσύνη είχε χρησιμοποιηθεί για να τον πλαστοπροσωπήσει κατά τη διάρκεια της βιντεοκλήσης.

Η αστυνομία έχει ήδη ανακτήσει τα περισσότερα από τα κλοπιμαία και γίνονται προσπάθειες για τον εντοπισμό και των υπόλοιπων. Ωστόσο, οι συζητήσεις στον ιστότοπο κοινωνικής δικτύωσης Weibo έχουν εκτοξευθεί, με άτομα να εκφράζουν ανησυχίες σχετικά με την απειλή του απόρρητου και της ασφάλειας στο διαδίκτυο από ισχυρή τεχνολογία, όπως η τεχνητή νοημοσύνη.

Οι χρήστες στα μέσα κοινωνικής δικτύωσης εξέφρασαν τις απόψεις τους ότι οι φωτογραφίες, οι φωνές και τα βίντεο ήταν όλα στη διάθεση των απατεώνων και ότι οι κανόνες ασφάλειας πληροφοριών δύσκολα θα μπορούσαν να συμβαδίσουν με τις τεχνικές που χρησιμοποιούνται ήδη σήμερα.

Οι χρήστες αναφέρονταν στους νεότερους κανόνες της Κίνας τον Ιανουάριο του τρέχοντος έτους, εστιάζοντας στον αυστηρότερο έλεγχο των εφαρμογών και των πιο πρόσφατων τεχνολογιών. Σύμφωνα με τους νέους κανόνες που εφαρμόστηκαν, υπάρχουν αυστηρότεροι περιορισμοί στον χειρισμό των δεδομένων φωνής και προσώπου. Ωστόσο, αυτό δεν πτόησε τους απατεώνες από το να χρησιμοποιήσουν την τεχνολογία για να εξαπατήσουν έναν αθώο άνδρα.

Μεμονωμένα άτομα, ακόμη και μεγάλες εταιρείες, έχουν βρεθεί στο άκρο των αρνητικών επιπτώσεων της deep fake τεχνολογίας. Πέρυσι, μια έκθεση από το Κέντρο Καταγγελιών Εγκλημάτων στο Διαδίκτυο του FBI έδειξε ότι τα άτομα χρησιμοποιούσαν την τεχνολογία για να συμπεριφέρονται όπως κάποιος άλλος και να λαμβάνουν απομακρυσμένες θέσεις εργασίας.

Αυτή είναι μόνο η αρχή της εποχής της τεχνητής νοημοσύνης και δεν έχει κάνεις ακόμα δει την άσχημη πλευρά της.

Πηγή: interesting engineering.