Τεχνητή νοημοσύνη: Το ΕΚ ζητά «δίκαιη και ασφαλή χρήση» για τους καταναλωτές

Η Επιτροπή Εσωτερικής Αγοράς και Προστασίας των Καταναλωτών του Ευρωπαϊκού Κοινοβουλίου ενέκρινε την Πέμπτη ψήφισμα που επικεντρώνει στις διάφορες προκλήσεις που προκύπτουν από την ταχεία ανάπτυξη τεχνολογιών τεχνητής νοημοσύνης (ΑΙ) και αυτοματοποιημένης λήψης αποφάσεων (ADM).

Σύμφωνα με την Επιτροπή, «όταν οι καταναλωτές αλληλεπιδρούν με ένα σύστημα ADM, θα πρέπει να «ενημερώνονται σωστά για τον τρόπο λειτουργίας του, για τον τρόπο προσέγγισης ενός ανθρώπου με εξουσίες λήψης αποφάσεων και για τον τρόπο με τον οποίο οι αποφάσεις του συστήματος μπορούν να ελεγχθούν και να διορθωθούν».

Τα συστήματα αυτά θα πρέπει να χρησιμοποιούν μόνο υψηλής ποιότητας και αντικειμενικά σύνολα δεδομένων και «επεξηγηματικούς και αμερόληπτους αλγορίθμους», προκειμένου να ενισχυθεί η εμπιστοσύνη και η αποδοχή των καταναλωτών, αναφέρει το ψήφισμα. Θα πρέπει να δημιουργηθούν δομές επανεξέτασης για την αντιμετώπιση πιθανών λαθών στις αυτοματοποιημένες αποφάσεις. Θα πρέπει επίσης να υπάρχει η δυνατότητα για τους καταναλωτές να αναζητούν ανθρώπινη κριτική και αποκατάσταση για αυτοματοποιημένες αποφάσεις που είναι τελικές και μόνιμες.

«Οι άνθρωποι πρέπει πάντα να είναι, τελικά, υπεύθυνοι για τις αποφάσεις που λαμβάνονται μέσω των διαδικασιών της ADM, και ιδίως σε σχέση με τα ιατρικά, νομικά και λογιστικά επαγγέλματα και τον τραπεζικό τομέα», υπογραμμίζουν οι ευρωβουλευτές.

Τα προϊόντα με δυνατότητα AI μπορούν να εξελιχθούν και να ενεργήσουν με τρόπους που δεν προβλέπονται κατά την πρώτη διάθεσή τους στην αγορά. Οι ευρωβουλευτές καλούν την Επιτροπή να υποβάλει προτάσεις για την προσαρμογή των κανόνων ασφαλείας της ΕΕ για τα προϊόντα (π.χ. οδηγίες για τα μηχανήματα και την ασφάλεια των παιχνιδιών) προκειμένου να διασφαλιστεί ότι οι καταναλωτές προστατεύονται από βλάβες, οι κατασκευαστές είναι σαφείς σχετικά με τις υποχρεώσεις τους και οι χρήστες ενημερώνονται για τον τρόπο χρήσης αυτών των προϊόντων.

Η σχετική οδηγία, η οποία εγκρίθηκε πριν από 30 χρόνια, θα πρέπει επίσης να επικαιροποιηθεί ώστε να προσαρμοστούν οι έννοιες όπως η «ζημία» του προϊόντος και το «ελάττωμα» καθώς και οι κανόνες που διέπουν το βάρος της απόδειξης.

Οι ευρωβουλευτές ζητούν την εκπόνηση σχεδίου αξιολόγησης των κινδύνων για την AI και την ADM και την υιοθέτηση μιας κοινής προσέγγισης στην ΕΕ που θα συμβάλει στην εξασφάλιση των οφελών αυτών των διαδικασιών και θα μετριάσει τους κινδύνους σε ολόκληρη την ΕΕ.