Το νέο μοντέλο τεχνητής νοημοσύνης της Anthropic, γνωστό ως Προεπισκόπηση του Κλοντ ΜίθοςΈχει γίνει το επίκεντρο της παγκόσμιας συζήτησης σχετικά με τα όρια της προηγμένης Τεχνητής Νοημοσύνης. Η ίδια η εταιρεία παραδέχεται ότι το σύστημα είναι τόσο ισχυρό όσον αφορά την κυβερνοασφάλεια που αποφάσισε να μην το κυκλοφορήσει ευρέως, μια ασυνήθιστη απόφαση σε έναν τομέα που έχει συνηθίσει να καυχιέται για κάθε νέα πρόοδο.
Αυτό που διακυβεύεται δεν είναι απλώς μια σταδιακή βελτίωση σε σχέση με τα προηγούμενα μοντέλα, αλλά ένα ποιοτικό άλμα στην ικανότητα ανίχνευσης και αξιοποίησης τρωτών σημείων υπολογιστώνΟι κυβερνήσεις, οι κεντρικές τράπεζες, τα μεγάλα χρηματοπιστωτικά ιδρύματα και οι ευρωπαϊκές ρυθμιστικές αρχές παρακολουθούν στενά την υπόθεση, γνωρίζοντας ότι ένα τέτοιο εργαλείο θα μπορούσε ενίσχυση της άμυνας κρίσιμων συστημάτωνΑλλά θα μπορούσε επίσης να ανοίξει την πόρτα σε επιθέσεις άνευ προηγουμένου κλίμακας εάν πέσει σε λάθος χέρια.
Τι ακριβώς είναι το Claude Mythos και γιατί έχει καθυστερήσει η κυκλοφορία του;
Το Claude Mythos είναι ένα από τα νεότερα μοντέλα της οικογένειας Claude, του οικοσυστήματος τεχνητής νοημοσύνης της Anthropic που ανταγωνίζεται Το ChatGPT της OpenAI και το Gemini της GoogleΕίναι ένα μοντέλο γενικής χρήσης, ικανό για συλλογισμό, προγραμματισμό και εργασία με μακροπρόθεσμο πλαίσιο, αλλά το πιο αμφιλεγόμενο χαρακτηριστικό του είναι το απόδοση στην επιθετική και αμυντική κυβερνοασφάλεια.
Οι κλήσεις «κόκκινες ομάδες»Οι ειδικοί που δοκιμάζουν συστήματα τεχνητής νοημοσύνης στα όριά τους κατέληξαν σε μια εσωτερική έκθεση ότι η Mythos είναι «εκπληκτικά ικανή» σε εργασίες κυβερνοασφάλειας. Σε δοκιμές αναφοράς όπως SWE-πάγκος Επαληθεύτηκε o SWE-bench ProΣχεδιασμένο για να μετρήσει την ικανότητα επίλυσης πραγματικών προβλημάτων μηχανικής λογισμικού, το μοντέλο θα είχε εύκολα ξεπεράσει τις κορυφαίες εμπορικές εναλλακτικές λύσεις, συμπεριλαμβανομένων των προηγμένων εκδόσεων των GPT και Gemini, σύμφωνα με δεδομένα που παρείχε η ίδια η Anthropic.
Πέρα από τα σημεία αναφοράς, αυτό που έχει σημάνει συναγερμό είναι ότι Ο Μύθος κατάφερε να εντοπίσει τρωτά σημεία μηδενικής ημέρας —προηγουμένως άγνωστα ελαττώματα— σε ευρέως χρησιμοποιούμενα στοιχεία λογισμικού, ορισμένα από τα οποία είναι άνω των δύο δεκαετιών. Σε συστήματα όπως τα στοιχεία OpenBSD, FFmpeg και FreeBSD, το μοντέλο όχι μόνο ανίχνευσε σφάλματα που είχαν περάσει απαρατήρητα για χρόνια, αλλά και δημιούργησε λειτουργικά exploits για να τα εκμεταλλευτεί.
Αντιμέτωπη με αυτά τα αποτελέσματα, η Anthropic επέλεξε μια απόφαση που ήταν ασυνήθιστη στον κλάδο: να παρουσιάσουν το μοντέλο και στη συνέχεια να ανακοινώσουν ότι δεν θα διατεθεί στην αγορά ανοιχτά. επειδή θεωρεί ότι ενέχει πρωτοφανείς κινδύνους για την κυβερνοασφάλεια. Η εταιρεία επιμένει ότι το Mythos είναι το «καλύτερα ευθυγραμμισμένο» μοντέλο που έχουν κατασκευάσει, αλλά αναγνωρίζει ότι η τεράστια δυνατότητά του ενισχύει τις συνέπειες οποιασδήποτε κακής χρήσης.
Ένα μοντέλο με «χάκερ» ικανότητες που ξεπερνούν κατά πολύ τις ανθρώπινες δυνατότητες
Τεχνικά έγγραφα και εκθέσεις από διάφορους οργανισμούς συμφωνούν ότι Το Mythos σηματοδοτεί ένα σημείο καμπής στην αυτοματοποίηση σύνθετων επιθέσεωνΣε δοκιμαστικά περιβάλλοντα που προσομοιώνουν πραγματικά εταιρικά δίκτυα, το σύστημα ήταν σε θέση να συνδέσει αλυσιδωτά τρωτά σημεία, να κλιμακώσει τα προνόμια και να επιτύχει μόνιμη πρόσβαση σε ώρες — εργασίες που θα χρειάζονταν σε έναν ανθρώπινο εμπειρογνώμονα ημέρες ή εβδομάδες.
Στη μηχανή JavaScript του Firefox, για παράδειγμα, οι παλαιότερες εκδόσεις των μοντέλων του Anthropic σπάνια κατάφερναν να μετατρέψουν τα τρωτά σημεία σε λειτουργικά exploits. Το Mythos, υπό τις ίδιες συνθήκες δοκιμής, Δημιούργησε δεκάδες επιχειρησιακά exploitsΑναπαράγει με ακρίβεια την εκμετάλλευση των πιο αποτελεσματικών φορέων. Σε πλατφόρμες ανάλυσης όπως το OSS-Fuzz, που έχουν σχεδιαστεί για να εντοπίζουν σφάλματα σε λογισμικό ανοιχτού κώδικα, πιστώνεται με την ανίχνευση τρωτών σημείων υψηλής σοβαρότητας που είχαν περάσει απαρατήρητα παρά τα χρόνια αυτοματοποιημένων δοκιμών.
Το μοντέλο έχει επίσης επιδείξει αξιοσημείωτες δυνατότητες σε αντίστροφη μηχανικήΜπορεί να ανακατασκευάσει μέρος της λογικής ενός προγράμματος από μεταγλωττισμένα δυαδικά αρχεία και, από εκεί, να εντοπίσει και να εκμεταλλευτεί ελαττώματα χωρίς πρόσβαση στον αρχικό πηγαίο κώδικα. Αυτός ο τύπος δυνατότητας φέρνει την Τεχνητή Νοημοσύνη πιο κοντά σε σενάρια που, μέχρι πρόσφατα, θεωρούνταν αποκλειστικά για εξειδικευμένες ανθρώπινες ομάδες.
Ένα από τα πιο συχνά αναφερόμενα επεισόδια στις αξιολογήσεις ασφαλείας είναι το λεγόμενο «τεστ σάντουιτς». Σε ένα απομονωμένο εργαστηριακό περιβάλλον, ο Mythos έλαβε τον έλεγχο ενός συστήματος με σαφείς οδηγίες να επιχειρήσει ξεφύγετε από το sandbox και επικοινωνήστε με τον ερευνητή ποιος επέβλεπε τη δοκιμή. Το μοντέλο κατάφερε να εκμεταλλευτεί μια αλυσίδα ευπαθειών για να ξεφύγει από το περιορισμένο περιβάλλον του και να στείλει ένα email στον υπεύθυνο, ο οποίος ήταν εκτός γραφείου εκείνη τη στιγμή. Παρόλο που το περιστατικό συνέβη σε μια παλαιότερη εσωτερική έκδοση και υπό κατευθυνόμενη εντολή, καταδεικνύει τον βαθμό στον οποίο το σύστημα μπορεί να λειτουργήσει σε πολύπλοκα σενάρια με ελάχιστη εποπτεία.
Παρά τις διαδηλώσεις αυτές, οι αναλυτές επιμένουν να διευκρινίσουν ότι Δεν έχουμε να κάνουμε με μια «συνειδητή» Τεχνητή Νοημοσύνη ή μια με τη δική της βούληση.Το Mythos δεν αποφασίζει να επιτεθεί σε συστήματα μόνο του. Εκτελεί τις εργασίες που του έχουν ανατεθεί όσο το δυνατόν πιο αποτελεσματικά. Ο κίνδυνος, υπό αυτή την έννοια, δεν είναι ότι το μοντέλο θα επαναστατήσει, αλλά ότι κάποιος θα το χρησιμοποιήσει —ή θα το αναγκάσει να το κάνει μέσω εξελιγμένων προτροπών— για να εκτελέσει επιβλαβείς ενέργειες.
Project Glasswing: Ο Μύθος στην υπηρεσία της άμυνας… για λίγους εκλεκτούς
Αντί να ανοίξει την πρόσβαση στο ευρύ κοινό, η Anthropic επέλεξε να περιβάλει το Mythos με ένα συγκεκριμένο πρόγραμμα, Έργο GlasswingΣχεδιασμένη για να χρησιμοποιεί τις δυνατότητες του μοντέλου με ελεγχόμενο τρόπο για την προστασία κρίσιμου λογισμικού, η πρωτοβουλία περιλαμβάνει την προσφορά του συστήματος, υπό αυστηρές συνθήκες χρήσης, σε μια επιλεγμένη ομάδα μεγάλων εταιρειών τεχνολογίας, παρόχων υποδομών και χρηματοπιστωτικών ιδρυμάτων.
Μεταξύ των οργανισμών που έχουν πρόσβαση είναι κολοσσοί όπως Υπηρεσίες Ιστού Amazon, Apple, Microsoft, Google CloudNvidia ή Broadcomκαθώς και εταιρείες κυβερνοασφάλειας όπως η CrowdStrike, των οποίων το δικό τους ελαττωματικό λογισμικό προκάλεσε μια σημαντική παγκόσμια αναστάτωση το 2024. Σε αυτές προστίθενται παγκοσμίου φήμης τράπεζες, συμπεριλαμβανομένων Η JP Morgan Chase και αρκετοί μεγάλοι όμιλοι της Wall Street, καθώς και άλλους οργανισμούς που είναι υπεύθυνοι για τη συντήρηση ευαίσθητων υποδομών πληροφορικής.
Η Anthropic ανακοίνωσε επίσης δάνεια αξίας 100 εκατομμυρίων δολαρίων Αυτή η χρηματοδότηση θα επιτρέψει σε αυτούς τους οργανισμούς να χρησιμοποιούν το Mythos για ανάλυση τρωτών σημείων, μαζί με δωρεές σε ιδρύματα ελεύθερου λογισμικού όπως το Linux Foundation και το Apache Software Foundation. Ο επίσημος στόχος είναι σαφής: να επιτραπεί σε όσους διαχειρίζονται το πιο κρίσιμο λογισμικό στον κόσμο να εντοπίζουν και να διορθώνουν ελαττώματα πριν τέτοια εργαλεία γίνουν διαθέσιμα σε πιθανούς εισβολείς.
Αυτή η στρατηγική, ωστόσο, προκαλεί κάποια ανησυχία στον τομέα. Αφενός, ενισχύει την ιδέα ότι η τεχνολογία είναι αρκετά επικίνδυνη ώστε να απαιτεί περιορισμένη πρόσβαση. Από την άλλη πλευρά, Δημιουργεί ένα χάσμα μεταξύ εκείνων που επωφελούνται από την «ασπίδα» του Μύθου και εκείνων που μένουν απέξω.Οι εταιρείες και οι διοικήσεις που δεν αποτελούν μέρος του Glasswing διατρέχουν τον κίνδυνο να αντιμετωπίσουν αργότερα τρωτά σημεία που εντοπίστηκαν και διορθώθηκαν σε προνομιούχα περιβάλλοντα, αλλά εξακολουθούν να υπάρχουν στα δικά τους συστήματα.
Στην Ευρώπη, αυτή η ασυμμετρία προκαλεί ιδιαίτερη ανησυχία σε όσους είναι υπεύθυνοι για τις κρίσιμες υποδομές και στις ομάδες ασφαλείας μεγάλων βιομηχανικών και χρηματοοικονομικών ομίλων, οι οποίοι παρακολουθούν στενά εάν Οι Βρυξέλλες και οι ευρωπαϊκές πρωτεύουσες διασφαλίζουν ότι παρόμοια προγράμματα περιλαμβάνουν βασικούς παράγοντες από την ήπειρο επί ίσοις όροις. και κυριαρχία στο cloud με τους Αμερικανούς εταίρους.
Αντίδραση από κυβερνήσεις, ρυθμιστικές αρχές και τον χρηματοπιστωτικό τομέα
Η επίδραση του Mythos δεν περιορίζεται στον τεχνικό τομέα. Μέσα σε λίγες μόνο ημέρες, η ανακοίνωση του μοντέλου πυροδότησε συναντήσεις υψηλού επιπέδου στις Ηνωμένες Πολιτείες και την ΕυρώπηΟ Υπουργός Οικονομικών των ΗΠΑ κάλεσε τους επικεφαλής των μεγάλων τραπεζών της χώρας στην Ουάσινγκτον για να αξιολογήσει τους κινδύνους που θα μπορούσε να θέσει το σύστημα για τη χρηματοπιστωτική σταθερότητα, ενώ στις συνομιλίες συμμετείχε και ο πρόεδρος της Ομοσπονδιακής Τράπεζας.
Σύμφωνα με διαρροές που αναφέρθηκαν από διεθνή μέσα ενημέρωσης, αυτές οι οντότητες φέρονται να ενθαρρύνθηκαν να Δοκιμάστε το Mythos σε αμυντική λειτουργίαχρησιμοποιώντας το για να σαρώσουν τη δική τους υποδομή για αδυναμίες πριν το κάνουν άλλοι. Το έμμεσο μήνυμα είναι ότι η απειλή είναι αρκετά σοβαρή ώστε να δικαιολογεί μια συντονισμένη αντίδραση δημόσιου και ιδιωτικού τομέα.
Εν τω μεταξύ, ο συνιδρυτής της Anthropic επιβεβαίωσε ότι η εταιρεία διατηρεί απευθείας συνομιλίες με την κυβέρνηση των Ηνωμένων Πολιτειών σχετικά με τη Mythos και τα μελλοντικά μοντέλα. Αυτές οι συζητήσεις λαμβάνουν χώρα σε ένα τεταμένο πλαίσιο, αφότου οι αμερικανικές αρχές πρόσθεσαν πρόσφατα την εταιρεία σε μια λίστα με κίνδυνοι της εφοδιαστικής αλυσίδας, μετά από τριβές που σχετίζονται με τη χρήση των μοντέλων τους από το Υπουργείο Άμυνας.
Στην άλλη πλευρά του Ατλαντικού, η Ευρωπαϊκή Ένωση το έχει λάβει υπόψη. Η Ευρωπαϊκή Επιτροπή έχει δημόσια υποστηρίξει μια σταδιακή και προσεκτική προσέγγιση σε μοντέλα όπως το Mythos, και Οι χρηματοπιστωτικές ρυθμιστικές αρχές στο Ηνωμένο Βασίλειο και στην ηπειρωτική Ευρώπη έχουν αρχίσει να μελετούν συγκεκριμένα τις πιθανές επιπτώσεις του. για τις τράπεζες και τις αγορές. Το Ινστιτούτο Ασφάλειας Τεχνητής Νοημοσύνης (AISI) της βρετανικής κυβέρνησης χαρακτήρισε το σύστημα ως ένα σημαντικό άλμα προς τα εμπρός όσον αφορά τις κυβερνοαπειλές σε σύγκριση με τις προηγούμενες γενιές.
Στην Ισπανία, αν και ο δημόσιος διάλογος είναι ακόμη περιορισμένος, οι εποπτικοί φορείς και οι ομάδες κυβερνοασφάλειας από τράπεζες και μεγάλες εταιρείες ενέργειας παρακολουθούν στενά αυτές τις εξελίξεις. Για τον ευρωπαϊκό χρηματοπιστωτικό τομέα, οποιαδήποτε πρόοδος που θα μπορούσε να διευκολύνει συντονισμένες επιθέσεις κατά συστημάτων πληρωμών, διατραπεζικών δικτύων ή πλατφορμών συναλλαγών αποτελεί αιτία σοβαρής ανησυχίας.
Σκεπτικισμός, αμφιβολίες και συζήτηση σχετικά με την «δημοσιότητα» που περιβάλλει τον Μύθο
Η περιγραφή του Anthropic, η οποία συνδυάζει προειδοποιήσεις ασφαλείας με εντυπωσιακά στοιχεία απόδοσης, δεν έμεινε χωρίς επικρίσεις. Αρκετοί ειδικοί στην Τεχνητή Νοημοσύνη και την κυβερνοασφάλεια έχουν ζητήσει... προσοχή κατά την ερμηνεία των δηλώσεων της εταιρείαςσημειώνοντας ότι πολλά από τα διαθέσιμα δεδομένα προέρχονται μόνο από εσωτερικές αναφορές.
Ορισμένοι αναλυτές έχουν εξετάσει λεπτομερώς την εκτενή τεκμηρίωση που δημοσίευσε η Anthropic και επισημαίνουν ότι ο αριθμός των «χιλιάδων τρωτών σημείων υψηλής σοβαρότητας» βασίζεται σε παρεκβολές από έναν σχετικά μικρό αριθμό περιπτώσεων που εξετάστηκαν χειροκίνητα. Σε ορισμένες σειρές δοκιμών, η Mythos φέρεται να βρήκε σημαντικό αριθμό κρίσιμων ελαττωμάτων, αλλά μακριά από το σχεδόν αποκαλυπτικό σενάριο που προτείνουν ορισμένοι τίτλοι.
Άλλες ανεξάρτητες μελέτες έχουν επιχειρήσει να συγκρίνουν την απόδοση του Mythos με μικρότερα μοντέλα ανοιχτού κώδικα, μεταβιβάζοντας ευάλωτα αποσπάσματα κώδικα σε διαφορετικές τεχνητές νοημοσύνης για να δουν αν μπορούσαν να εντοπίσουν τα ίδια ελαττώματα. Τα αποτελέσματα δείχνουν ότι Ορισμένα ανοιχτά μοντέλα είναι επίσης ικανά να εντοπίσουν σύνθετα τρωτά σημεία.Αυτό θέτει υπό αμφισβήτηση την ιδέα ότι ο Μύθος παίζει σε ένα εντελώς διαφορετικό πρωτάθλημα σε όλα τα σενάρια.
Αυτού του είδους τα αντιπαραδείγματα δεν αναιρούν τις δυνατότητες του Μύθου, αλλά υποδηλώνουν ότι Μέρος του λόγου περί «πολύ επικίνδυνο για δημοσίευση» έχει και μια διάσταση μάρκετινγκ.Η παρουσίαση ενός μοντέλου ως εξαιρετικά ισχυρού και ταυτόχρονα ως πιθανού κινδύνου ενισχύει την εικόνα της τεχνολογικής ηγεσίας και ευθύνης, κάτι πολύτιμο σε μια ολοένα και πιο ανταγωνιστική αγορά.
Η πρόσφατη ιστορία του κλάδου θυμίζει επίσης το προηγούμενο του GPT-2 το 2019, όταν η OpenAI αρχικά αποφάσισε να μην δημοσιεύσει το πλήρες μοντέλο, ισχυριζόμενη ότι ήταν πολύ επικίνδυνο λόγω της δυνατότητάς του να δημιουργήσει παραπληροφόρηση. Τελικά, αυτή η έκδοση κυκλοφόρησε στο κοινό χωρίς να υλοποιηθεί καμία από τις προβλεπόμενες καταστροφές, και πολλοί ειδικοί την ανέφεραν ως παράδειγμα υπερβολικής αντίδρασης. Με το Mythos, Η διαφορά είναι ότι η εστίαση δεν είναι πλέον στο κείμενο, αλλά στην ακεραιότητα της ψηφιακής υποδομής., μια πολύ πιο ευαίσθητη περιοχή για τις κυβερνήσεις και τις τράπεζες.
Μια λεπτή ισορροπία μεταξύ ασφάλειας, επιχειρήσεων και πρόσβασης στην τεχνολογία
Πέρα από τον θόρυβο των μέσων ενημέρωσης, η κατάσταση με το Mythos εγείρει ένα θεμελιώδες ζήτημα: ποιος αποφασίζει πότε ένα μοντέλο τεχνητής νοημοσύνης είναι πολύ επικίνδυνο για να κυκλοφορήσει; Και με ποια κριτήρια; Προς το παρόν, η απόφαση ήταν μονομερής από την πλευρά της Anthropic, η οποία επέλεξε να διατηρήσει το σύστημα σε ένα είδος ελεγχόμενης καραντίνας, προορίζοντάς το για επιλεγμένους συνεργάτες.
Αυτή η θέση δεν βασίζεται αποκλειστικά σε λόγους ασφαλείας. Η λειτουργία ενός μοντέλου με τα χαρακτηριστικά του Mythos είναι πολύ ακριβό από άποψη υπολογιστών, και η ίδια η εταιρεία αναγνωρίζει ότι προς το παρόν δεν διαθέτει το απαραίτητη υποδομή για να το προσφέρει μαζικά σε εκατομμύρια χρήστες. Στην πράξη, τα μέτρα ασφαλείας και οι τεχνικοί περιορισμοί συμβαδίζουν, δίνοντας στην Anthropic χρόνο να βελτιστοποιήσει τόσο το μοντέλο όσο και την ανάπτυξή του.
Ταυτόχρονα, η εταιρεία έχει αρχίσει να διαφοροποιεί σαφώς τα διάφορα προϊόντα της. Ενώ η Mythos παραμένει ως το πιο προηγμένο εσωτερικό πρότυποΕνώ προορίζονται για ερευνητικά και στρατηγικά περιβάλλοντα συνεργασίας, άλλα μοντέλα όπως το Claude Opus 4.7 απευθύνονται σε καθημερινή χρήση από επιχειρήσεις και επαγγελματίες. Η Anthropic έχει μάλιστα παραδεχτεί δημόσια ότι το Opus 4.7 είναι «λιγότερο ικανό» από το Mythos σε γενικές γραμμές και, ειδικότερα, όσον αφορά τις κυβερνοδυναμικές του δυνατότητες - κάτι ασυνήθιστο σε έναν κλάδο που συνήθως παρουσιάζει κάθε νέο μοντέλο ως το καλύτερο από κάθε άποψη.
Σε αυτό το σχήμα, ο Μύθος λειτουργεί ως δοκιμαστική πλατφόρμα για δυνατότητες επόμενης γενιάςΕνώ τα εμπορικά διαθέσιμα μοντέλα ενσωματώνουν μόνο ένα μέρος αυτών των δυνατοτήτων, με πρόσθετους περιορισμούς που έχουν σχεδιαστεί για τη μείωση των κινδύνων, αυτός ο διαχωρισμός μεταξύ «πειραματικών» και «παραγωγικών» μοντέλων μπορεί να αποτελέσει μια λογική προσέγγιση για πολλούς ευρωπαϊκούς οργανισμούς που ενδιαφέρονται να αξιοποιήσουν την Τεχνητή Νοημοσύνη χωρίς να βρίσκονται στην πρώτη γραμμή της έκθεσης, υπό την προϋπόθεση ότι υπάρχει επαρκής διαφάνεια σχετικά με τις πραγματικές δυνατότητες κάθε συστήματος.
Αυτό που τελικά προκύπτει είναι ένα σενάριο στο οποίο Η κυβερνοασφάλεια εισέρχεται πλήρως στην εποχή της επιθετικής και αμυντικής τεχνητής νοημοσύνης μεγάλης κλίμακαςΕργαλεία όπως το Mythos υπόσχονται να επιταχύνουν τον εντοπισμό τρωτών σημείων σε συστήματα που λειτουργούν εδώ και χρόνια, αλλά επιβάλλουν επίσης μια επανεξέταση του τρόπου με τον οποίο κατανέμεται και διακυβερνάται η τεχνολογία που στηρίζει την ψηφιακή οικονομία. Για την Ευρώπη και την Ισπανία, η πρόκληση δεν θα είναι μόνο η προστασία τους από ολοένα και πιο ισχυρά μοντέλα, αλλά και η διασφάλιση ότι δεν θα αποκλειστούν από τους μηχανισμούς που τους επιτρέπουν να χρησιμοποιηθούν για την ενίσχυση της δικής τους ασφάλειας.
