IBM: Λογισμικό για ενοποιημένη διακυβέρνηση και ασφάλεια πρακτόρων Τεχνητής Νοημοσύνης

Οι νέες δυνατότητες ενισχύουν και ενοποιούν τις λύσεις watsonx.governance και Guardium AIS ecurity, βοηθώντας τους πελάτες να διατηρούν τα συστήματα Τεχνητής Νοημοσύνης τους - συμπεριλαμβανομένων των πρακτόρων - ασφαλή και υπεύθυνα σε μεγάλη κλίμακα. Το watsonx.governance αποτελεί το ολοκληρωμένο εργαλείο της IBM για τη διακυβέρνηση της ΤΝ, ενώ το Guardium AI Security είναι η λύση της IBM για την ασφάλεια των μοντέλων ΤΝ, των δεδομένων και της χρήσης τους.

«Οι πράκτορες Τεχνητής Νοημοσύνης πρόκειται να φέρουν επανάσταση στην παραγωγικότητα των επιχειρήσεων, όμως τα ίδια τα οφέλη των πρακτόρων μπορούν επίσης να δημιουργήσουν προκλήσεις», δήλωσε η Ritika Gunnar, General Manager, Data & AI, IBM. «Όταν αυτά τα αυτόνομα συστήματα δεν διακυβερνώνται ή δεν θωρακίζονται σωστά, μπορούν να επιφέρουν σοβαρές συνέπειες».

Οι νέες λύσεις που ανακοινώθηκαν σήμερα περιλαμβάνουν:

Ενοποίηση και Αυτοματοποίηση της Ασφάλειας της Αυτόνομης Τεχνητής Νοημοσύνης

Η IBM ενισχύει την ενσωμάτωση των λύσεων IBM Guardium AI Security και watsonx.governance, προσφέροντας στις επιχειρήσεις την πρώτη ενιαία λύση για τη διαχείριση των κινδύνων ασφάλειας και διακυβέρνησης που συνδέονται με περιπτώσεις χρήσης της Τεχνητής Νοημοσύνης. Η ενσωμάτωση υποστηρίζει τις διαδικασίες των χρηστών για την επικύρωση της συμμόρφωσης με 12 διαφορετικά πρότυπα, συμπεριλαμβανομένου του Κανονισμού ΤΝ της ΕΕ (EU AI Act) και του ISO42001.

Η IBM παρουσιάζει επίσης νέες δυνατότητες στο Guardium AI Security, μέσω συνεργασίας με την AllTrue.ai, οι οποίες περιλαμβάνουν τη δυνατότητα ανίχνευσης νέων περιπτώσεων χρήσης Τεχνητής Νοημοσύνης σε περιβάλλοντα cloud, αποθετήρια κώδικα και ενσωματωμένα συστήματα, παρέχοντας ευρεία ορατότητα και προστασία σε ένα όλο και πιο αποκεντρωμένο οικοσύστημα ΤΝ. Μόλις εντοπιστούν, το IBM Guardium AI Security μπορεί αυτόματα να ενεργοποιεί τις κατάλληλες ροές ελέγχου διακυβέρνησης από το watsonx.governance.

Οι πρόσφατες ενημερώσεις στο IBM Guardium AI Security περιλαμβάνουν επίσης αυτοματοποιημένες δοκιμές ασφάλειας (red teaming), που βοηθούν τις επιχειρήσεις να εντοπίζουν και να διορθώνουν ευπάθειες και λάθη ρυθμίσεων σε διάφορες περιπτώσεις χρήσης Τεχνητής Νοημοσύνης. Για την αντιμετώπιση κινδύνων όπως η εισχώρηση κώδικα, η έκθεση ευαίσθητων δεδομένων και η διαρροή πληροφοριών, το εργαλείο δίνει τη δυνατότητα στους χρήστες να ορίζουν προσαρμοσμένες πολιτικές ασφάλειας, οι οποίες αναλύουν τόσο τα εισερχόμενα όσο και τα εξερχόμενα αιτήματα (prompts). Αυτές οι λειτουργίες είναι ήδη διαθέσιμες στο IBM Guardium AI Security, ενώ η ενσωμάτωσή τους με το watsonx.governance θα υλοποιηθεί σταδιακά κατά τη διάρκεια του υπόλοιπου έτους.

«Το μέλλον της Τεχνητής Νοημοσύνης εξαρτάται από το πόσο καλά την θωρακίζουμε σήμερα. Η ενσωμάτωση της ασφάλειας από την αρχή είναι απαραίτητη για την προστασία των δεδομένων, την υποστήριξη των υποχρεώσεων συμμόρφωσης και τη δημιουργία διαρκούς εμπιστοσύνης», δήλωσε η Suja Viswesan, Vice President, Security and Runtime Products, IBM.

«Μία από τις μεγαλύτερες προκλήσεις για τις ομάδες ασφάλειας είναι η μετατροπή των περιστατικών και των παραβάσεων συμμόρφωσης σε μετρήσιμο επιχειρηματικό κίνδυνο. Η ταχεία υιοθέτηση της Τεχνητής Νοημοσύνης και της Αυτόνομης ΤΝ (agentic AI) επιτείνει αυτό το ζήτημα», δήλωσε η Jennifer Glenn, Research Director στην IDC Security and Trust Group. «Η ενοποίηση της διακυβέρνησης ΤΝ με την ασφάλεια ΤΝ προσφέρει στους οργανισμούς το απαραίτητο πλαίσιο για να εντοπίζουν και να ιεραρχούν τους κινδύνους, καθώς και τις πληροφορίες για να επικοινωνούν με σαφήνεια τις συνέπειες της μη αντιμετώπισής τους».

Ενισχυμένη Αξιολόγηση και Διαχείριση Κύκλου Ζωής της Αυτόνομης Τεχνητής Νοημοσύνης

Το IBM watsonx.governance μπορεί πλέον να παρακολουθεί και να διαχειρίζεται τους πράκτορες Τεχνητής Νοημοσύνης καθ’ όλη τη διάρκεια του κύκλου ζωής τους, από την ανάπτυξη έως την υλοποίηση. Σημεία αξιολόγησης (evaluation nodes) μπορούν να ενσωματωθούν απευθείας στους πράκτορες, δίνοντας τη δυνατότητα στους χρήστες να επιτηρούν προσεκτικά τα δεδομένα μέτρησης όπως η σχετικότητα της απάντησης, η σχετικότητα του πλαισίου και η πιστότητα - βοηθώντας παράλληλα στον εντοπισμό της βασικής αιτίας κακής απόδοσης. Στις σχεδιαζόμενες μελλοντικές λειτουργίες περιλαμβάνονται η αξιολόγηση κινδύνου κατά την εισαγωγή πρακτόρων, τα αρχεία ελέγχου (audit trails) για τους πράκτορες και ένας κατάλογος εργαλείων πρακτόρων (agentic tool catalogue), που αναμένεται να είναι διαθέσιμα στις 27 Ιουνίου.

Έτοιμες λύσεις συμμόρφωσης

Οι IBM watsonx.governance Compliance Accelerators παρέχουν επιλεγμένους προεγκατεστημένους κανονισμούς, πρότυπα και πλαίσια από όλο τον κόσμο, δίνοντας τη δυνατότητα στους χρήστες να εντοπίζουν τις σχετικές υποχρεώσεις και να τις αντιστοιχίζουν στις δικές τους περιπτώσεις χρήσης Τεχνητής Νοημοσύνης. Το περιεχόμενο καλύπτει βασικούς κανονισμούς όπως ο Κανονισμός ΤΝ της ΕΕ (EU AI Act), το SR 11-7 της Ομοσπονδιακής Τράπεζας των ΗΠΑ (Federal Reserve), και τον Νόμο 144 της πόλης της Νέας Υόρκης, μαζί με διεθνή πρότυπα όπως το ISO/IEC 42001 και πλαίσια όπως το NIST AI RMF. Οι Compliance Accelerators του watsonx.governance είναι διαθέσιμοι τώρα ως πρόσθετο (add-on).

Για να προσφέρει αυξημένη αξία και ευκολία στους πελάτες της AWS, το watsonx.governance είναι πλέον διαθέσιμο και στο κέντρο δεδομένων της AWS στην Ινδία, με ενισχυμένες δυνατότητες παρακολούθησης μοντέλων.

Οι σημερινές νέες δυνατότητες και ενσωματώσεις παρέχουν στις επιχειρήσεις τη συνολική διακυβέρνηση και ασφάλεια που χρειάζονται για να ευημερήσουν στην εποχή της αυτόνομης (agentic) Τεχνητής Νοημοσύνης. Οι καινοτομίες αυτές εναρμονίζονται επίσης με το ευρύτερο σύνολο λύσεων IBM watsonx AI της IBM, που έχουν σχεδιαστεί για να βοηθήσουν τις εταιρείες να επιταχύνουν τον αντίκτυπο της παραγωγικής ΤΝ με υπευθυνότητα και ασφάλεια.