NEWSFLASH...
Ειδήσεις | Έρευνες, Εκθέσεις, Μελέτες
ανάγνωση

Οι άνθρωποι δεν θα είναι σε θέση να ελέγξουν την τεχνητή νοημοσύνη, λένε οι επιστήμονες

Οι άνθρωποι δεν θα είναι σε θέση να ελέγξουν την τεχνητή νοημοσύνη, λένε οι επιστήμονες

Μια διεθνής ομάδα ερευνητών προειδοποιεί για τους πιθανούς κινδύνους από τη δημιουργία υπερβολικά ισχυρού και αυτόνομου λογισμικού.

Χρησιμοποιώντας μια σειρά θεωρητικών υπολογισμών, οι επιστήμονες διερεύνησαν πώς θα μπορούσε να τεθεί υπό έλεγχο η τεχνητή νοημοσύνη. Το συμπέρασμά τους είναι πως αυτό θα ήταν αδύνατο, σύμφωνα με μελέτη που δημοσιεύθηκε από το Journal of Artificial Intelligence Research.

«Μια υπερ-έξυπνη μηχανή που ελέγχει τον κόσμο ακούγεται σαν επιστημονική φαντασία. Ωστόσο, υπάρχουν ήδη μηχανήματα που εκτελούν συγκεκριμένα σημαντικά καθήκοντα, ανεξάρτητα, χωρίς οι προγραμματιστές να κατανοούν πλήρως πώς τα έμαθαν, μια κατάσταση που σε κάποιο σημείο θα μπορούσε να γίνει ανεξέλεγκτη και επικίνδυνη για την ανθρωπότητα» δήλωσε ο Manuel Cebrian, συν-συγγραφέας της μελέτης, από το Ινστιτούτο Max Planck.

Οι επιστήμονες πειραματίστηκαν με δύο τρόπους ελέγχου της τεχνητής νοημοσύνης. Ο ένας ήταν να την απομονώσουν από το Διαδίκτυο και άλλες συσκευές, περιορίζοντας την επαφή της με τον έξω κόσμο. Το πρόβλημα με αυτό είναι ότι μειώνει σημαντικά την ικανότητά της να εκτελεί λειτουργίες για τις οποίες δημιουργήθηκε.

Ο άλλος ήταν να σχεδιαστεί ένας "θεωρητικός αλγόριθμος περιορισμού" για να διασφαλίσει ότι η τεχνητή νοημοσύνη "δεν μπορεί να βλάψει τους ανθρώπους, σε καμία περίπτωση." Ωστόσο, μια ανάλυση του τρέχοντος υπολογιστικού παραδείγματος έδειξε ότι δεν μπορεί να δημιουργηθεί τέτοιος αλγόριθμος.

«Αν αποσυνθέσουμε το πρόβλημα σε βασικούς κανόνες της θεωρητικής πληροφορικής, αποδεικνύεται ότι ένας αλγόριθμος που δίνει εντολή σε μια AI να μην καταστρέψει τον κόσμο, θα μπορούσε να σταματήσει ακούσια τις δικές του λειτουργίες. Εάν συνέβαινε αυτό, δεν γνωρίζουμε εάν ο αλγόριθμος περιορισμού θα συνέχιζε να αναλύει την απειλή ή εάν θα σταματούσε να περιορίζει το επιβλαβές AI. Στην πραγματικότητα, αυτό κάνει τον αλγόριθμο περιορισμού άχρηστο», εξήγησε ο Iyad Rahwan, ένας από τους ερευνητές.

Με βάση αυτούς τους υπολογισμούς, το πρόβλημα είναι ότι κανένας αλγόριθμος δεν μπορεί να καθορίσει εάν μια AI θα βλάψει τον κόσμο. Οι ερευνητές επισημαίνουν, επίσης, ότι η ανθρωπότητα μπορεί να μην γνωρίζει καν πότε θα έχουν φτάσει οι υπερ-ευφυείς μηχανές.

Σχόλια

... σχόλια | Κάνε click για να σχολιάσεις
Επιχειρώ - epixeiro.gr
Επιχειρώ - epixeiro.gr