Anthropic - Claude: To τεχνολογικό «talk of the town» και όχι μόνο

Όλα ξεκίνησαν το 2021

Ουσιαστικά η Anthropic ιδρύθηκε το 2021 από τα αδέλφια Dario Amodei και Daniela Amodei, πρώην υψηλόβαθμα στελέχη της OpenAI οι οποίοι αποχώρησαν λόγω διαφωνιών σχετικά με την κατεύθυνση της OpenAI. Όπως έχει διατυπωθεί, θέλησαν να δώσουν μεγαλύτερη έμφαση στην έρευνα ασφάλειας AI (AI safety) και στην ανάπτυξη συστημάτων που είναι «βοηθητικά, έντιμα και ακίνδυνα». 

Όπως διατείνονται οι ιδρυτές της επίσης, η Anthropic ανέπτυξε μια μοναδική προσέγγιση εκπαίδευσης, όπου το μοντέλο AI καθοδηγείται από ένα σύνολο αρχών αντί να βασίζεται αποκλειστικά σε ανθρώπινη ανατροφοδότηση, διασφαλίζοντας μια… πιο προβλέψιμη συμπεριφορά. 

Βασικό εργαλείο για το οποίο η εταιρεία έγινε παγκοσμίως γνωστή είναι το Claude, ενώ η εταιρεία έχει πια εξασφαλίσει επενδύσεις δεκάδων δισ. δολαριών κυρίως από την Amazon και την Google. 

Για την ιστορία, το 2023 κυκλοφόρησαν τα πρώτα μοντέλα Claude 1 & 2, με έμφαση στην επεξεργασία μεγάλων κειμένων και στην ασφάλεια. Το 2024 η κυκλοφορία του Claude 3 Family - των μοντέλων Haiku, Sonnet, και Opus - ανέβασε την εταιρεία στην κορυφή της αγοράς, ανταγωνιζόμενη ευθέως το GPT-4, με το Opus να θεωρείται το πιο ισχυρό.

Σήμερα η εταιρεία βρίσκεται σε φάση ραγδαίας ανάπτυξης, αποτελεί «talk of the town» σε επίπεδο οικονομικής, πολιτικής, επιχειρηματικής και τεχνολογικής επιρροής, ενώ ιδιαίτερης σημασίας είναι και η γνωστή «κόντρα»... με την ηγεσία των ΗΠΑ. 

Περίπου στα τέλη Φεβρουαρίου αρνήθηκε στο Πεντάγωνο την χρήση των εργαλείων Τεχνητής Νοημοσύνης που έχει αναπτύξει για την μαζική παρακολούθηση των αμερικανών πολιτών και για την πλήρη αυτονόμηση οπλικών συστημάτων. Σε αντίποινα, η κυβέρνηση Τραμπ χαρακτήρισε την Anthropic «κίνδυνο» εθνικής ασφαλείας.

Αξίζει να αναφερθεί - όπως σημειώνεται στο Διεθνή Τύπο - ότι αρκετοί άνθρωποι άρχισαν να χρησιμοποιούν το Claude ακριβώς εξαιτίας της στάσης που τήρησε στο θέμα αυτό.

Από την πλευρά του Dario Amodei συνεχίζει να τονίζει την αναγκαιότητα σοβαρής συζήτησης για τους κινδύνους της Τεχνητής Νοημοσύνης, καθώς τα μοντέλα πλησιάζουν πια ικανότητες ανθρώπων, όπως ισχυρίζεται...

Η Amazon επενδύει ξανά…

Να επενδύσει έως και 25 δισ. δολ. στην Anthropic, επιπλέον των 8 δισ. δολ. που έχει «ποντάρει» στην AI startup τα τελευταία χρόνια, αποφάσισε η Amazon στο πλαίσιο μιας διευρυμένης συμφωνίας για την ανάπτυξη υποδομών τεχνητής νοημοσύνης.

Σύμφωνα με την ανακοίνωση της Anthropic, η εταιρεία έχει δεσμευτεί να δαπανήσει περισσότερα από 100 δισεκατομμύρια δολάρια τα επόμενα 10 χρόνια σε τεχνολογίες Amazon Web Services, συμπεριλαμβανομένων των τρεχουσών και μελλοντικών γενεών των τσιπ τεχνητής νοημοσύνης AWS Trainium. Η Anthropic δήλωσε επίσης ότι έχει εξασφαλίσει έως και 5 γιγαβάτ χωρητικότητας για την εκπαίδευση και την ανάπτυξη των μοντέλων Claude AI.

Η επένδυση της Amazon περιλαμβάνει άμεση χρηματοδότηση 5 δισ. δολ. στην Anthropic, ενώ αυτή δυνητικά θα φτάσει τα 20 δισ. δολ. εάν επιτευχθούν συγκεκριμένοι εμπορικοί στόχοι. Η αποτίμηση της Anthropic ανέρχεται πλέον στα 380 δισεκατομμύρια δολάρια.

Η Anthropic ανέφερε επίσης στην ανακοίνωσή της ότι μέχρι το τέλος του έτους θα έχει θέσει σε λειτουργία τις υποδομές Trainium2 και Trainium3, συνολικής ισχύος σχεδόν 1 γιγαβάτ. Η συγκεκριμένη κίνηση εντάσσεται στον ολοένα αυξανόμενο ανταγωνισμό μεταξύ των τεχνολογικών κολοσσών για την ανάπτυξη υποδομών ΑΙ, με την Amazon να ανακοινώνει τον Φεβρουάριο ότι αναμένει να δαπανήσει περίπου 200 δισεκατομμύρια δολάρια φέτος.

Η επένδυση της Amazon πραγματοποιείται μόλις δύο μήνες αφότου ο γίγαντας του ηλεκτρονικού εμπορίου συμφώνησε να επενδύσει έως και 50 δισεκατομμύρια δολάρια στην OpenAI, τον κύριο ανταγωνιστή της Anthropic. Οι δύο εταιρείες τεχνητής νοημοσύνης αγωνίζονται να πείσουν τους επενδυτές να ενισχύσουν τα χαρτοφυλάκιά τους, ενόψει πιθανών αρχικών δημόσιων προσφορών (IPO) που θα μπορούσαν να πραγματοποιηθούν από φέτος.

Η Anthropic ονόμασε την AWS ως τον κύριο πάροχο cloud το 2023, αλλά η εταιρεία έχει επίσης συνάψει συμφωνίες με ανταγωνιστικούς παρόχους, συμπεριλαμβανομένων των Microsoft και Google. Σημείωνεται πως τον Νοέμβριο, η Microsoft συμφώνησε να επενδύσει έως και 5 δισεκατομμύρια δολάρια στην Anthropic και η Anthropic δήλωσε ότι δεσμεύτηκε να αγοράσει 30 δισεκατομμύρια δολάρια σε υπολογιστική χωρητικότητα Azure. Νωρίτερα αυτόν τον μήνα, η Anthropic επέκτεινε τις συνεργασίες της με την Google και την Broadcom.

Το Mythos αποκαλύπτει σφάλματα… δεκαετιών που δεν εντόπιζε κανείς

Το Mythos αποτελεί ένα από τα πιο πρόσφατα μοντέλα της οικογένειας Claude και παρουσιάστηκε στις αρχές Απριλίου ως “Mythos Preview”. Ανταγωνίζεται συστήματα όπως το ChatGPT και το Gemini. Σύμφωνα με ερευνητές που δοκιμάζουν την ασφάλεια τέτοιων μοντέλων, το Mythos είναι «εντυπωσιακά ικανό» σε εργασίες κυβερνοασφάλειας, καθώς μπορεί να εντοπίζει παλιά, αδρανή σφάλματα σε κώδικα δεκαετιών και να τα εκμεταλλεύεται εύκολα.

Αντί να το διαθέσει ευρέως, η Anthropic έδωσε πρόσβαση σε δώδεκα μεγάλες εταιρείες μέσω της πρωτοβουλίας Project Glasswing, με στόχο την ενίσχυση της ανθεκτικότητας κρίσιμου λογισμικού. Μεταξύ αυτών περιλαμβάνονται η Amazon Web Services, η Apple, η Microsoft, η Google, καθώς και οι κατασκευαστές μικροτσίπ Nvidia και Broadcom.

Οι ανησυχίες προκύπτουν από τους ισχυρισμούς ότι το μοντέλο μπορεί να εντοπίζει χιλιάδες σοβαρά κενά ασφαλείας - ακόμη και σε βασικά λειτουργικά συστήματα και browsers - και να προτείνει τρόπους εκμετάλλευσής τους.

Όπως γίνεται γνωστό πάντως με την περιορισμένη ανάπτυξη του Mythos, η αμερικανική start-up Anthropic σκοπεύει «να βάλει στο τραπέζι» τους κινδύνους του νέου μοντέλου Τεχνητής Νοημοσύνης, οι ικανότητες του οποίου στον τομέα της κυβερνοσασφάλειας δημιουργούν φόβους για μία σημαντική ανατροπή για τα κράτη και τις εταιρείες.

Το μοντέλο αυτό «αρχίζει να ξεπερνά τις ανθρώπινες ικανότητες στον κυβερνοχώρο», επαίρεται ο Γάλλος Guillaume Princen, διεθνής διευθυντής των τεχνολογικών εταιρειών της Anthropic σε συνέντευξή του στο AFP.

«Είναι ικανό να ανακαλύψει τα κενά ασφαλείας που υπάρχουν εδώ και δεκαετίες στα συστήματα που έχουν ελεγχθεί από ανθρώπους και ρομπότ και δεν έχουν ποτέ πριν εντοπισθεί», λέει. Το Mythos κρίθηκε υπερβολικά επικίνδυνο από τους δημιουργούς του και από παράγοντες του τομέα και η κυκλοφορία του αναβλήθηκε. 

Ομως η εταιρεία που δημιούργησε το Claude κατηγορείται επίσης ότι υπερβάλλει σχετικά με τους κινδύνους μίας τεχνολογίας την οποία εμπορεύεται ενεργητικά σε ένα περιβάλλον φρενήρους ανταγωνισμού με την OpenAI και το μοντέλο Τεχνητής Νοημοσύνης ChatGPT. Πόσω μάλλον που οι ανακοινώσεις αυτές γίνονται την στιγμή που πληθύνονται οι φήμες για την πρόθεση της Anthropic να εισέλθει στο χρηματιστήριο κατά την διάρκεια του έτους.

«Να φοβόμαστε τον άνθρωπο, όχι την Τεχνητή Νοημοσύνη»

Μιλώντας πάντως στην ΕΡΤ για τις παραπάνω εξελίξεις, ο διοικητής της Εθνικής Αρχής Κυβερνοασφάλειας και ερευνητής στο MIT Media Lab, Μιχάλης Μπλέτσας εξήγησε πως το μοντέλο Mythos μοιάζει πάρα πολύ με το ChatGPT και έχει ρυθμιστεί στο να βρίσκει ευπάθειες σε λογισμικό.

«Η κίνηση της Anthropic είναι περισσότερο μια κίνηση εντυπωσιασμού. Μια κίνηση μάρκετινγκ και βασίζεται λιγότερο στην πραγματικότητα, διότι εκείνο που συνέβη είναι ότι έκαναν κάποιες δοκιμές σε εφαρμογές ανοιχτού κώδικα και το μοντέλο αυτό βρήκε πολλές ευπάθειες. Οπότε και είπαν ότι το μοντέλο αυτό είναι επικίνδυνο», σημείωσε.

Έτσι αποφασίστηκε ότι το μοντέλο αυτό δεν θα διατεθεί σε όλο τον κόσμο, όπως συνέβη με το ChatGPT, αλλά θα δοθεί σε έναν περιορισμένο αριθμό από δοκιμαστές για να δουν πώς μπορούν να το χρησιμοποιήσουν καλόβουλα. 

Δηλαδή, για να βρουν κι άλλες ευπάθειες και να τις κλείσουν πριν να τις βρουν οι “κακόβουλοι“. Στην πραγματικότητα βέβαια, όλες τις ευπάθειες που βρήκε το Mythos είχαν βρεθεί πιο πριν από άλλα μοντέλα. “Δεν πρόκειται για κάποιο επαναστατικό μοντέλο”, πρόσθεσε.

Όσον αφορά τους ενδεχόμενους κινδύνους που προκύπτουν από τη χρήση του Mythos, ανέφερε ότι «Ο κίνδυνος υπάρχει με τη χρήση αυτών των μοντέλων, καθώς άνθρωποι οι οποίοι δεν είχαν τις τεχνικές δυνατότητες για να κάνουν μία κυβερνοεπίθεση ή ένα κυβερνοέγκλημα, τώρα έχουν πολύ περισσότερες τεχνικές τεχνικές δυνατότητες. Επομένως βλέπουμε και μία αύξηση στην ποσότητα των επιθέσεων αυτών και κυρίως μία μεγάλη αύξηση στην ταχύτητά τους. Επειδή ακριβώς πολλά από τα συστατικά μίας κυβερνοεπίθεσης μπορούν να αυτοματοποιηθούν από αυτά τα μοντέλα».

Σχετικά με το που βρίσκεται η Ελλάδα σε επίπεδο κυβερνοασφάλειας και αν επιλέγουμε να χρησιμοποιούμε κάποιο μοντέλο τεχνητής νοημοσύνης για την ενίσχυση των συστημάτων μας σημείωσε: «Αρχίζει να μας γίνεται πολύ χρήσιμη σε αυτό που λέμε σύντηξη πληροφοριών (data fusion), δηλαδή όταν παίρνεις πάρα πολλές πληροφορίες από πάρα πολλές πηγές, χρειάζεσαι βοήθεια στο να ταιριάξεις ποια πληροφορία από διαφορετική πηγή έρχεται από το ίδιο γεγονός, έτσι ώστε να καταλάβεις τι γίνεται. Διότι αυτή τη στιγμή παίρνουμε ένα τεράστιο, όλο και αυξανόμενο όγκο πληροφοριών, τον οποίο δεν μπορούμε να αναλύσουμε μόνοι μας. Εκεί πιστεύουμε ότι η τεχνητή νοημοσύνη θα μας βοηθήσει πάρα πολύ».

Στα τελευταία επιχειρηματικά νέα: AI Hub από Τρ. Πειραιώς και Accenture με τεχνολογίες της Anthropic

Μόλις προχθές (20/4) η Πειραιώς και η Accenture ανακοίνωσαν τη σημαντική διεύρυνση της μακροχρόνιας στρατηγικής τους συνεργασίας, δημιουργώντας ένα εξειδικευμένο AI Hub που θα αξιοποιεί τεχνολογίες της Anthropic. Στόχος αποτελεί η επιτάχυνση του συνολικού μετασχηματισμού της Πειραιώς με τεχνολογίες τεχνητής νοημοσύνης και η δημιουργία ενός σημείου αναφοράς για την AI-driven τραπεζική στην Ελλάδα.

Το AI Hub θα λειτουργεί ως ο κεντρικός μηχανισμός σχεδιασμού και ανάπτυξης προηγμένων λύσεων τεχνητής νοημοσύνης σε μεγάλη κλίμακα και σε ολόκληρη την αλυσίδα αξίας της Πειραιώς. Βάση αυτής της πρωτοβουλίας αποτελεί ο συνδυασμός της τεχνογνωσίας της Accenture στον τραπεζικό κλάδο και στην τεχνητή νοημοσύνη, συμπεριλαμβανομένου του Κέντρου Αριστείας σε Data & AI της Accenture στην Αθήνα, με τον στρατηγικό οδικό χάρτη τεχνητής νοημοσύνης της Πειραιώς. Στην κατεύθυνση αυτή, το ΑΙ Hub θα επιταχύνει τον επανασχεδιασμό των τραπεζικών διαδικασιών στους τομείς λειτουργιών, εμπειρίας πελάτη, διαχείρισης κινδύνου και κανονιστικής συμμόρφωσης, καθώς και στον εκσυγχρονισμό της τεχνολογικής υποδομής.

Παράλληλα, το ΑΙ Hub θα ενισχύσει τις μακροπρόθεσμες δυνατότητες τεχνητής νοημοσύνης της Πειραιώς, προσελκύοντας, αναπτύσσοντας και αναβαθμίζοντας εξειδικευμένο στελεχιακό δυναμικό. Αυτό θα καταστεί εφικτό μέσω στοχευμένων προσλήψεων και δομημένων προγραμμάτων εκπαίδευσης, συμπεριλαμβανομένης της Udacity, της AI-native πλατφόρμας εκπαίδευσης και κατάρτισης της Accenture. Η προσέγγιση αυτή υποστηρίζει τη φιλοδοξία της Τράπεζας να ενσωματώσει δεξιότητες τεχνητής νοημοσύνης και νέους τρόπους εργασίας σε ολόκληρο τον οργανισμό.

Κεντρικό άξονα της συνεργασίας αποτελεί η ανάπτυξη ασφαλών, υπεύθυνων και ανθρωποκεντρικών λύσεων τεχνητής νοημοσύνης, οι οποίες θα υποστηρίζουν την αυτόνομη λήψη αποφάσεων, θα απλοποιούν σύνθετες διαδικασίες και θα αναβαθμίζουν την εμπειρία τόσο των πελατών όσο και των εργαζομένων. Η Πειραιώς και η Accenture, μέσω του νεοσύστατου Accenture Anthropic Business Group, θα αξιοποιήσουν τα μοντέλα και τις πλατφόρμες τεχνητής νοημοσύνης της Anthropic, καθώς και τη δέσμευσή αυτής στις αρχές της ηθικής τεχνητής νοημοσύνης. 

Με τον τρόπο αυτό θα προωθήσουν την καινοτομία με υπεύθυνο τρόπο, διασφαλίζοντας ότι οι προηγμένες λύσεις που αναπτύσσονται ευθυγραμμίζονται με τις αξίες της Τράπεζας και τις κανονιστικές απαιτήσεις.

«Το AI Hub αποτελεί ένα στρατηγικό ορόσημο για την Πειραιώς», δήλωσε ο Χάρης Μαργαρίτης, Group Chief Operating Officer της Πειραιώς. «Μεταβαίνουμε από μεμονωμένες εφαρμογές σε έναν ενιαίο μηχανισμό τεχνητής νοημοσύνης σε όλο το εύρος του οργανισμού, πλήρως ενσωματωμένου στον τρόπο λειτουργίας της Τράπεζας. Η συνεργασία μας με την Accenture, σε συνδυασμό με την ενσωμάτωση της τεχνολογίας τεχνητής νοημοσύνης της Anthropic, μας επιτρέπει να αξιοποιούμε σε μεγάλη κλίμακα προηγμένες λύσεις τεχνητής νοημοσύνης με υπευθυνότητα, στηριζόμενοι σε ισχυρή διακυβέρνηση, διαφάνεια και ανθρώπινο έλεγχο. Η πρωτοβουλία αυτή ενδυναμώνει τους ανθρώπους μας, ενισχύει την εμπιστοσύνη των πελατών και των ρυθμιστικών αρχών και δημιουργεί μια ισχυρή βάση για την τραπεζική στην Ελλάδα με το βλέμμα στραμμένο στο μέλλον.»

«Η συνεργασία αυτή αντικατοπτρίζει τη βαθιά και μακροχρόνια σχέση εμπιστοσύνης μεταξύ της Πειραιώς και της Accenture, βασισμένη στο κοινό μας όραμα και τη δημιουργία αξίας», δήλωσε ο Γιώργος Παλλιούδης, Financial Services Lead της Accenture. «Αυτή η πρωτοβουλία επιβεβαιώνει στην πράξη τη δέσμευση της Διοίκησης της Πειραιώς στην υιοθέτηση της τεχνητής νοημοσύνης καθώς και τον ηγετικό ρόλο της Accenture στην επανεφεύρεση του τρόπου λειτουργίας των επιχειρήσεων στη νέα ψηφιακή εποχή.»

Ο Thomas Remy, Head of Southern Europe, Middle East & Africa της Anthropic, δήλωσε: «Η τεχνητή νοημοσύνη μετασχηματίζει τον τρόπο με τον οποίο λειτουργούν οι τράπεζες και είναι κρίσιμο τα σύγχρονα συστήματα τεχνητής νοημοσύνης να πληρούν υψηλές απαιτήσεις διακυβέρνησης και κανονιστικής συμμόρφωσης. Το Claude έχει σχεδιαστεί με γνώμονα την ασφάλεια, την αξιοπιστία και τη διαφάνεια που απαιτούν ιδιαίτερα ρυθμιζόμενοι κλάδοι, όπως ο τραπεζικός. Μέσα από τη συνεργασία με την Anthropic για την ανάπτυξη ενός νέου AI Hub για τον ελληνικό τραπεζικό κλάδο, η Πειραιώς και η Accenture επιβεβαιώνουν τη κοινή μας δέσμευση για την ασφαλή και υπεύθυνη αξιοποίηση της τεχνητής νοημοσύνης.»