Καθηγητής ΠΑΠΕΙ: «Ένα από τα σημαντικότερα προβλήματα της ΤΝ είναι το explainability»

«Το μεγαλύτερο πρόβλημα στο AI είναι το explainability. Η Τεχνητή Νοημοσύνη μου λέει κάτι αλλά δεν μου λέει γιατί. Έτσι, λοιπόν, δεν μπορώ να την εμπιστευτώ, γιατί μπορεί να είναι biased, να είναι προκατειλημμένη» εξήγησε ο κ. Ξενάκης ο οποίος στη συνέχεια έφερε ένα παράδειγμα. «Εάν ένα σύστημα ΤΝ που λειτουργεί σε μία τράπεζα έχει καταγράψει τρεις κακοπληρωτές οι οποίοι είναι από τη Θήβα και μένουν στον Πειραιά, είναι πιθανόν κι εγώ , που δεν είμαι κακοπληρωτής, αλλά είμαι από τη Θήβα και μένω στον Πειραιά να μη μου δώσει δάνειο. Σκεφτείτε τώρα να πάμε σε μια άλλη χώρα ας πούμε, αν είμαστε λευκοί ή έγχρωμοι,» ανέφερε ο κ. Ξενάκης. Ο καθηγητής στο Πανεπιστήμιο Πειραιώς τόνισε πως είναι πολύ σημαντικό πως εκπαιδεύονται τα συστήματα ΤΝ . «Η ΤΝ λειτουργεί με βάση την πληροφορία του την "ταΐζεις", τη μαθαίνεις. Δεν υπάρχει, λοιπόν, διαφάνεια» τόνισε ο ίδιος.

Accountability

Στη συνέχεια ο κ. Ξενάκης αναφέρθηκε σε μία ακόμα πρόκληση. «Άλλο ένα χαρακτηριστικό, έχει να κάνει με το accountability. Δηλαδή, ποιος είναι υπεύθυνος για τις λανθασμένες αποφάσεις των συστημάτων ΤΝ, είναι το ΤΝ, είναι αυτός που το χρησιμοποιεί, αυτός που το έβαλε να δουλέψει, ο developer, αυτός που το εκπαίδευσε, ποιος είναι;» αναρωτήθηκε ο κ. Ξενάκης.

Ολοκληρώνοντας τις σκέψεις για τις προκλήσεις που σχετίζονται με την ΤΝ, ο κ. Ξενάκης αναφέρθηκε στους κινδύνους που εγκυμονούν καθώς τα ΤΝ συστήματα λειτουργούν με τον ίδιο τρόπο και όπως είπε ο καθηγητής σε εξαιρετικές περιπτώσεις για κάτι το οποίο δεν είναι συνηθισμένο μπορεί να λειτουργήσουν με το ίδιο αποτέλεσμα, φέρνοντας το εξής παράδειγμα: «Έγινε κάτι στην αγορά, και μπορεί να βγαίνει η συμβουλή όλοι "πουλήστε" και οι χρήστες να πουλάνε άρα, μπορεί να γίνει ένα κραχ. Εκεί θα πρέπει να βρούμε τρόπους πώς θα διαφοροποιηθούμε», κατέληξε ο καθηγητής.