Για την ισορροπία ανάμεσα στην κρυπτογράφηση, την πρόληψη κατάχρησης και την ανθεκτικότητα της πλατφόρμας

Ο Shnell εξηγεί επίσης πώς το Viber αξιολογεί και μετριάζει κινδύνους που συνδυάζουν τεχνικές απειλές με ανθρώπινη συμπεριφορά.

Κίνδυνοι κυβερνοασφάλειας στις πλατφόρμες messaging

Οι πλατφόρμες messaging λειτουργούν ολοένα και περισσότερο ως de facto κρίσιμη υποδομή σε περιόδους κρίσεων και συγκρούσεων. Πώς επηρεάζει αυτή η πραγματικότητα τον τρόπο με τον οποίο ιεραρχείτε τις επενδύσεις ασφάλειας και τα σενάρια κινδύνου στο Viber;

Όταν ξεσπούν πόλεμοι, συμβαίνουν καταστροφές ή οι κυβερνήσεις διακόπτουν συστήματα, οι εφαρμογές ανταλλαγής μηνυμάτων δεν υποστηρίζουν απλώς την κρίσιμη υποδομή — γίνονται η ίδια η κρίσιμη υποδομή. Και όταν εκατοντάδες εκατομμύρια χρήστες βασίζονται στο Rakuten Viber, οι αποφάσεις ασφάλειας παύουν να είναι θεωρητικός κίνδυνος και γίνονται πραγματική ευθύνη.

Οι άνθρωποι χρησιμοποιούν το Viber για να ελέγξουν αν οι αγαπημένοι τους είναι ασφαλείς, να λάβουν ειδοποιήσεις, να συντονίσουν βοήθεια, να αναφέρουν κακοποιητικές συμπεριφορές και, σε ορισμένες περιπτώσεις, για να επιβιώσουν την επόμενη ώρα. Αυτή η πραγματικότητα μας αναγκάζει να αντιμετωπίζουμε τη διαθεσιμότητα, την ακεραιότητα και την ανθεκτικότητα απέναντι στην κατάχρηση ως δείκτες που επηρεάζουν ανθρώπινες ζωές — όχι ως τεχνικές λειτουργίες.

Γι’ αυτό και τα θέτουμε ως βασικούς στόχους ασφάλειας, ισότιμους με την εμπιστευτικότητα. Αντιμετωπίζουμε την παραβίαση λογαριασμών, την πλαστοπροσωπία και τη μαζική κοινωνική μηχανική ως περιστατικά υψηλού αντίκτυπου με πραγματικές ανθρώπινες συνέπειες. Για τον λόγο αυτό ενσωματώνουμε μηχανισμούς ασφάλειας απευθείας στην ροή του προϊόντος και στην υποδομή, αντί να τους προσθέτουμε εκ των υστέρων.

Η αυτοματοποίηση και η ανίχνευση σε πραγματικό χρόνο είναι κρίσιμες, καθώς οι χειροκίνητες διαδικασίες απλώς δεν κλιμακώνονται σε περιόδους κρίσης. Όταν οι χρήστες βασίζονται στην πλατφόρμα σου, η ασφάλεια παύει να είναι κέντρο κόστους — γίνεται μέρος του κοινωνικού σου συμβολαίου.

Η end-to-end κρυπτογράφηση συχνά αντιμετωπίζεται ως μια δυαδική δυνατότητα («ενεργή ή ανενεργή»). Στην πράξη, πού βρίσκονται οι πιο δύσκολες ισορροπίες ανάμεσα στην ισχυρή κρυπτογράφηση, την πρόληψη κατάχρησης και την ανθεκτικότητα της πλατφόρμας;

Στο Rakuten Viber, η end-to-end κρυπτογράφηση είναι ενεργοποιημένη από προεπιλογή από την έκδοση 6.0, χωρίς να απαιτείται καμία ενέργεια από τον χρήστη. Αυτό θέτει άμεσα ένα δύσκολο ερώτημα: πώς καταπολεμούμε την παιδική εκμετάλλευση, τον συντονισμό τρομοκρατικών ενεργειών ή τη μαζική απάτη, όταν το περιεχόμενο των μηνυμάτων είναι σκόπιμα μη προσβάσιμο;

Η ισχυρή κρυπτογράφηση δεν εξαλείφει τον κίνδυνο. Η παραβίαση λογαριασμών, η πλαστοπροσωπία και το συντονισμένο spam παραμένουν απειλές υψηλού αντίκτυπου, ακόμη και όταν το περιεχόμενο προστατεύεται. Παράλληλα, υπάρχει και η πρόκληση της ανθεκτικότητας: τα κρυπτογραφημένα συστήματα πρέπει να υποστηρίζουν ανάκτηση, μεταφορά συσκευών και ενημερώσεις χωρίς να διαταράσσουν την εμπιστοσύνη των χρηστών.

Η διαχείριση κλειδιών και οι μηχανισμοί backup είναι ιδιαίτερα ευαίσθητα σημεία όπου η ευχρηστία συγκρούεται με την ασφάλεια. Σε περιόδους κρίσης, οι επιτιθέμενοι εκμεταλλεύονται τη σύγχυση και την τριβή, ενώ οι χρήστες αναμένουν άμεση αξιοπιστία και σαφήνεια. Η αντιμετώπιση αυτών των προκλήσεων απαιτεί πολλαπλά επίπεδα προστασίας που βασίζονται σε συμπεριφορικά σήματα, μοτίβα metadata, αναφορές χρηστών και ευρύτερο πλαίσιο λειτουργίας της πλατφόρμας.

Επενδύουμε σημαντικά στην πρόληψη, στα όρια ρυθμού (rate limits), στα σήματα ταυτότητας και στις ταχείες δυνατότητες απόκρισης, που λειτουργούν εξ ολοκλήρου εκτός του περιεχομένου των μηνυμάτων. Η τεχνητή νοημοσύνη ενισχύει αυτές τις «ασπίδες», επιτρέποντάς μας να εντοπίζουμε κακόβουλη συμπεριφορά πιο γρήγορα και σε μεγαλύτερη κλίμακα, χωρίς να θίγουμε την κρυπτογράφηση ή την ιδιωτικότητα.

Η end-to-end κρυπτογράφηση δεν είναι προορισμός. Είναι το θεμέλιο που απαιτεί συνεχή εξισορρόπηση κινδύνων. Και η ευθύνη μας είναι να διασφαλίζουμε ότι η πλατφόρμα παραμένει ιδιωτική, ασφαλής και ανθεκτική σε παγκόσμια κλίμακα.

Οι εφαρμογές messaging βρίσκονται όλο και περισσότερο στην πρώτη γραμμή απάτης, deepfake επιθέσεων και κοινωνικής μηχανικής. Πώς διακρίνετε ανάμεσα σε πρόβλημα κυβερνοασφάλειας και πρόβλημα ανθρώπινης συμπεριφοράς όταν σχεδιάζετε άμυνες;

Στο Rakuten Viber, δεν αντιμετωπίζουμε τις απάτες και την κοινωνική μηχανική ως αμιγώς τεχνικά ή αμιγώς ανθρώπινα προβλήματα. Βρίσκονται στο σημείο τομής και των δύο. Οι κυβερνοεπιθέσεις εκμεταλλεύονται συστήματα, ενώ η κοινωνική μηχανική εκμεταλλεύεται ανθρώπους — όμως οι σύγχρονες επιθέσεις συνδυάζουν σκόπιμα και τα δύο.

Η απάτη με deepfake, η πλαστοπροσωπία και οι εκστρατείες εξαπάτησης συχνά πετυχαίνουν όχι επειδή οι τεχνικές άμυνες έχουν αποτύχει, αλλά επειδή χειραγωγούν την εμπιστοσύνη και το αίσθημα του επείγοντος των χρηστών. Άρα, η πρόκληση δεν είναι να διαλέξουμε ανάμεσα στην τεχνολογία και τη συμπεριφορά των χρηστών, αλλά να σχεδιάσουμε άμυνες που αντιμετωπίζουν ταυτόχρονα και τα δύο.

Εστιάζουμε στη δημιουργία συστημάτων που καθοδηγούν τους χρήστες προς ασφαλέστερη συμπεριφορά χωρίς να μετατρέπουν την ασφάλεια σε βάρος. Αυτό περιλαμβάνει ενδείξεις όταν επικοινωνεί μαζί σου κάποιος άγνωστος, καθώς και πρόσθετο πλαίσιο όταν προσκαλείσαι σε μια ομάδα από λογαριασμό που δεν γνωρίζεις. Οι χρήστες μπορούν επίσης να περιορίσουν ποιος επιτρέπεται να τους προσθέτει σε ομάδες, μειώνοντας την έκθεση από προεπιλογή και όχι μέσω διαρκούς επαγρύπνησης.

Αυτοί οι μηχανισμοί έχουν σχεδιαστεί ώστε να εισάγουν την κατάλληλη «τριβή» τη σωστή στιγμή, χωρίς να κατακλύζουν τους χρήστες με προειδοποιήσεις. Η τεχνητή νοημοσύνη μας βοηθά να προσαρμόζουμε δυναμικά αυτές τις προστασίες καθώς εξελίσσονται οι τακτικές των επιτιθέμενων, χωρίς να εξετάζουμε το περιεχόμενο των μηνυμάτων. Η καλή ασφάλεια αναγνωρίζει την ανθρώπινη συμπεριφορά αντί να απαιτεί τέλεια κρίση. Στόχος είναι μια πλατφόρμα όπου η τεχνολογία απορροφά την πολυπλοκότητα, ώστε οι χρήστες να μην χρειάζεται να το κάνουν.

Πώς δοκιμάζετε τα σενάρια απόκρισης σε περιστατικά που αφορούν παραπληροφόρηση, πλαστοπροσωπία ή συντονισμένες επιχειρήσεις επιρροής, και όχι απλώς διαρροή δεδομένων;

Προσεγγίζουμε την απόκριση σε περιστατικά επιρροής πολύ διαφορετικά από τις παραδοσιακές παραβιάσεις δεδομένων. Τα κλασικά μοντέλα επικεντρώνονται στο «περιορίζω, διερευνώ και αποκαθιστώ». Οι επιχειρήσεις επιρροής όμως απαιτούν ένα εντελώς διαφορετικό εγχειρίδιο.

Σχετικά σενάρια περιλαμβάνουν παραβιασμένους λογαριασμούς που διαδίδουν συντονισμένα αφηγήματα, deepfake περιεχόμενο που γίνεται viral σε ομαδικές συνομιλίες και πλαστοπροσωπία επίσημων καναλιών κατά τη διάρκεια εκτάκτων καταστάσεων. Σε αυτές τις περιπτώσεις, ο κύριος κίνδυνος δεν είναι η απώλεια δεδομένων, αλλά η κατάρρευση της εμπιστοσύνης και η πραγματική βλάβη στον φυσικό κόσμο.

Η αποτελεσματική δοκιμή αντοχής εστιάζει στην ταχύτητα απόκρισης και στη λήψη αποφάσεων υπό αβεβαιότητα, όχι μόνο στον τεχνικό περιορισμό. Σε κρυπτογραφημένες πλατφόρμες όπως η δική μας, υποθέτουμε εκ προοιμίου περιορισμένη ορατότητα και δοκιμάζουμε την ανίχνευση χωρίς πρόσβαση στο περιεχόμενο των μηνυμάτων.

Έτσι, τα συμπεριφορικά σήματα, τα μοτίβα δικτύου και οι δείκτες ταχύτητας γίνονται κρίσιμα δεδομένα. Η τεχνητή νοημοσύνη παίζει καθοριστικό ρόλο στον εντοπισμό συντονισμένης συμπεριφοράς σε μεγάλη κλίμακα και στη διάκριση οργανικής διάδοσης από τεχνητή ενίσχυση. Η αυτοματοποίηση λειτουργεί ως «πρώτος ανταποκριτής», με τους ανθρώπους να εστιάζουν στην κρίση, την κλιμάκωση και την επικοινωνία. Αυτό το μοντέλο είναι ζωτικής σημασίας για τον περιορισμό του αντίκτυπου και τη διατήρηση μιας ασφαλούς και αξιόπιστης εμπειρίας χρήστη.

Ποιοι δείκτες έχουν πραγματικά σημασία στην αξιολόγηση της ασφάλειας μιας παγκόσμιας πλατφόρμας messaging και ποιοι είναι παραπλανητικοί;

Για εμάς, οι πιο σημαντικοί δείκτες ασφάλειας είναι εκείνοι που αντικατοπτρίζουν τη βλάβη στους χρήστες, όχι την εσωτερική δραστηριότητα. Εξετάζουμε προσεκτικά το εύρος επίδρασης: πόσοι χρήστες εκτέθηκαν πριν ενεργοποιηθούν τα μέτρα μετριασμού; Τα ποσοστά παραβίασης λογαριασμών, οι επιτυχημένες περιπτώσεις πλαστοπροσωπίας και η επαναλαμβανόμενη κακόβουλη συμπεριφορά είναι πολύ πιο ενδεικτικά από τον ακατέργαστο όγκο επιθέσεων.

Οι δείκτες ανθεκτικότητας απέναντι στην κατάχρηση — όπως το πόσο γρήγορα απάτες, spam ή συντονισμένες εκστρατείες χάνουν την αποτελεσματικότητά τους — είναι κρίσιμοι σε παγκόσμια κλίμακα. Σημαντικά είναι επίσης τα ποσοστά ψευδώς θετικών αποτελεσμάτων, καθώς το υπερβολικό μπλοκάρισμα διαβρώνει την εμπιστοσύνη εξίσου με το ανεπαρκές μπλοκάρισμα που επιτρέπει τη βλάβη.

Ένα ακόμη κρίσιμο σήμα είναι η «τριβή ανάκτησης»: πόσο ασφαλώς και γρήγορα μπορούν οι χρήστες να ανακτήσουν την πρόσβασή τους χωρίς να ανοίγουν νέες επιφάνειες επίθεσης.
Αντίθετα, δείκτες όπως ο συνολικός αριθμός μπλοκαρισμένων μηνυμάτων ή αποτραπεισών επιθέσεων είναι συχνά δείκτες εντυπωσιασμού. Υψηλοί αριθμοί μπορεί απλώς να σημαίνουν ότι οι επιτιθέμενοι δοκιμάζουν περισσότερα, όχι ότι οι χρήστες είναι ασφαλέστεροι. Οι λίστες συμμόρφωσης και τα αποτελέσματα ελέγχων είναι απαραίτητα, αλλά λένε ελάχιστα για την πραγματική ανθεκτικότητα.

Η καλή ασφάλεια μετριέται με βάση τα αποτελέσματα για τους χρήστες — τη μειωμένη βλάβη, τη διατηρημένη εμπιστοσύνη και την ταχύτητα υπό πίεση — όχι με «τέλειες» αναφορές.