Η επέκταση του αυτόνομα drones με τεχνητή νοημοσύνη Αλλάζει εντελώς το τοπίο της ασφάλειας, της επιτήρησης, ακόμη και του σύγχρονου πολέμου. Αυτό που φαινόταν επιστημονική φαντασία πριν από λίγα χρόνια είναι πλέον ρουτίνα: μη επανδρωμένα αεροσκάφη ικανά να παρακολουθούν ανθρώπους, να περιπολούν τα σύνορα ή να καταγράφουν οποιαδήποτε κίνηση λεπτομερώς, ουσιαστικά χωρίς ανθρώπινη παρέμβαση.
Σε αυτό το τόσο γεμάτο τεχνολογία αιχμής, είναι σχεδόν σουρεαλιστικό να ανακαλύψεις ότι ένα ένα αντικείμενο τόσο συνηθισμένο όσο μια ομπρέλα Μπορεί να αποτελέσει πρόκληση για ορισμένα από αυτά τα προηγμένα συστήματα. Μια ομάδα ερευνητών από το Πανεπιστήμιο της Καλιφόρνια στο Irvine (UC Irvine) απέδειξε ότι, με το σωστό οπτικό μοτίβο, μια απλή ομπρέλα μπορεί να «ξεγελάσει», να προσελκύσει, ακόμη και να εξουδετερώσει ορισμένα μοντέλα εμπορικών drones που χρησιμοποιούν αυτόνομη παρακολούθηση με βάση την όραση υπολογιστή.
Η άνοδος των αυτόνομων drones και γιατί προκαλούν τόση ανησυχία
Τα τελευταία χρόνια η χρήση του μη επανδρωμένα αεροσκάφη παγκοσμίως. Δεν μιλάμε πλέον μόνο για μικρά drones αναψυχής για την καταγραφή εντυπωσιακών βίντεο, αλλά για πολύ πιο σοβαρές πλατφόρμες που χρησιμοποιούνται για την επιτήρηση πόλεων, την παρακολούθηση κρίσιμων υποδομών, τον έλεγχο των συνόρων ή την υποστήριξη αστυνομικών και στρατιωτικών επιχειρήσεων.
Σε σενάρια όπως το πόλεμος μεταξύ Ρωσίας και Ουκρανίας Έχει γίνει σαφές πόσο απαραίτητα έχουν γίνει τα drones. Υπάρχουν μοντέλα καμικάζι, συσκευές εξειδικευμένες στην παρακολούθηση στόχων, συστήματα συνδεδεμένα με οπτικές ίνες για να διασφαλίζεται σταθερή επικοινωνία και, ολοένα και περισσότερο, συσκευές που ενσωματώνουν τεχνητή νοημοσύνη για να λαμβάνουν μόνες τους αποφάσεις εν μέσω πτήσης.
Αυτή η αυτονομία βασίζεται στη χρήση προηγμένοι οπτικοί αισθητήρες και αλγόριθμοι υπολογιστικής όρασης Αυτά τα χαρακτηριστικά επιτρέπουν στο drone να αναγνωρίζει άτομα ή αντικείμενα, να τα παρακολουθεί και να αντιδρά στις κινήσεις τους χωρίς ο πιλότος να χρειάζεται να διορθώνει συνεχώς την τροχιά. Στα καταναλωτικά προϊόντα, αυτό είναι που διατίθεται στην αγορά ως λειτουργίες «ενεργού ίχνους» ή «δυναμικού ίχνους».
Το πρόβλημα είναι ότι, καθώς η χρήση αυτών των συστημάτων επεκτείνεται για επιτήρησης, περιπολίας και επιχειρήσεων ασφαλείαςΥπάρχει επίσης ένας αυξανόμενος κίνδυνος κακής χρήσης: παρενόχληση, κατασκοπεία, παραβίαση της ιδιωτικής ζωής ή μυστική παρακολούθηση σε χώρους όπου οι άνθρωποι δεν γνωρίζουν καν ότι παρακολουθούνται.
Ερευνητές και ειδικοί στον τομέα της κυβερνοασφάλειας προειδοποιούν εδώ και καιρό ότι η προστασία αυτών των συστημάτων δεν μπορεί να περιοριστεί στα ηλεκτρονικά εξαρτήματα (ραδιοσυνδέσεις, κρυπτογραφημένες επικοινωνίες, τείχη προστασίας). οπτική αντίληψη και αλγόριθμοι τεχνητής νοημοσύνης Όσοι λαμβάνουν αποφάσεις με βάση αυτό που «βλέπουν» μπορούν επίσης να αποτελέσουν αδύναμο σημείο, και ακριβώς εδώ μπαίνει στο παιχνίδι το περίεργο πείραμα της ομπρέλας.
Το έργο FlyTrap: όταν μια ομπρέλα γίνεται αμυντικό όπλο
Μια ομάδα ειδικών σε θέματα ασφάλειας και υπολογιστικής όρασης από Πανεπιστήμιο της Καλιφόρνια, Ίρβιν Αποφάσισαν να μην ακολουθήσουν τη συνήθη πορεία σχεδιασμού ολοένα και πιο εξελιγμένων και επιθετικών drones. Αντ' αυτού, έθεσαν ένα διαφορετικό ερώτημα: Είναι δυνατόν προστασία από αυτόνομα drones χρησιμοποιώντας απλά αντικείμενα, χωρίς να καταφεύγουν σε παρεμβολείς συχνότητας, hacking ή ακριβό στρατιωτικό εξοπλισμό;
Από αυτή την ιδέα γεννήθηκε το FlyTrap, ένα μέθοδος φυσικής επίθεσης εναντίον αυτόνομων αλγορίθμων παρακολούθησης Βασίζεται σε ένα γραφικό μοτίβο ειδικά σχεδιασμένο για να μπερδεύει το σύστημα όρασης του drone. Αντί να απενεργοποιεί ηλεκτρονικά τη συσκευή, ο στόχος είναι να χειραγωγήσει αυτό που «νομίζει» ότι συμβαίνει μπροστά στην κάμερά του.
Οι ερευνητές επικεντρώθηκαν στην ανάλυσή τους σε drones που χρησιμοποιούν παρακολούθηση στόχων με βάση την όραση υπολογιστήΠρόκειται για συσκευές που ανιχνεύουν και παρακολουθούν ένα άτομο ή ένα αντικείμενο με βάση τις οπτικές πληροφορίες που καταγράφονται από τις κάμερές τους. Μεταξύ των μοντέλων που αναλύθηκαν είναι μερικά πολύ δημοφιλή στην αγορά, όπως το DJI Mini 4 Pro, το DJI Neo και το HoverAir X1.
Αφού μελέτησε τον τρόπο με τον οποίο αυτά τα συστήματα ερμηνεύουν την κίνηση του στόχου, η ομάδα ανακάλυψε μια βασική αδυναμία: υπό ορισμένες συνθήκες, ο αλγόριθμος μπορεί να χειραγωγηθεί εάν παρουσιαστεί με ένα προσεκτικά σχεδιασμένο οπτικό μοτίβο που μεταβάλλει την αντίληψή τους για την απόσταση και την κατεύθυνση της κίνησης.
Αυτό το μοτίβο, που ονομάστηκε FlyTrap, τυπώθηκε στην επιφάνεια μιας συνηθισμένης ομπρέλας. Το αποτέλεσμα ήταν ένα εκπληκτικά φθηνό και προσιτό αμυντικό όπλο ενάντια σε αυτόνομα drones, το οποίο, σε χαρτί, θα έπρεπε να είναι πολύ δύσκολο να ξεπεραστεί χωρίς εξελιγμένα τεχνικά μέσα.
Πώς ακριβώς λειτουργεί το οπτικό κόλπο με την ομπρέλα;
Ο πυρήνας του FlyTrap έγκειται στον τρόπο με τον οποίο οι αλγόριθμοι αυτόνομη παρακολούθηση βασισμένη σε νευρωνικά δίκτυα Ερμηνεύουν τι καταγράφουν οι κάμερες του drone. Αυτά τα συστήματα αναλύουν την εικόνα καρέ-καρέ και υπολογίζουν πώς κινείται ο στόχος στην οθόνη για να αποφασίσουν πού πρέπει να κινηθεί το αεροσκάφος και με ποια ταχύτητα.
Το γραφικό σχέδιο που είναι τυπωμένο στην ομπρέλα κάνει το drone να «διαβάσει» μια κατάσταση που δεν αντιστοιχεί στην πραγματικότητα: το μοτίβο έχει σχεδιαστεί έτσι ώστε το σύστημα όρασης να συμπεραίνει ότι ο στόχος είναι απομακρύνομαι από το drone, ενώ στην πραγματικότητα, το άτομο που κρατά την ομπρέλα βρίσκεται ουσιαστικά ακόμα στο ίδιο σημείο.
Αντιμέτωπο με αυτή την εσφαλμένη ερμηνεία, το λογισμικό παρακολούθησης κάνει αυτό που είναι προγραμματισμένο να κάνει: προσπαθεί να μειώστε την απόσταση μέχρι να φτάσει στον στόχο του, διατηρώντας τον εντός της βέλτιστης εμβέλειας παρακολούθησης. Με άλλα λόγια, το drone πλησιάζει σταδιακά, διορθώνοντας συνεχώς την τροχιά του σε μια προσπάθεια να «αντισταθμίσει» αυτήν την αντιληπτή απόσταση.
Αυτή η συμπεριφορά δημιουργεί μια γνήσια επίθεση έλξης από απόστασηΑντί να αποπροσανατολίζει το drone και να το κάνει να χάσει το ίχνος του, η ομπρέλα στην πραγματικότητα το δελεάζει να πλησιάζει όλο και περισσότερο. Η συσκευή μπορεί να πλησιάσει τόσο κοντά στο άτομο που κρατά την ομπρέλα που να γίνει εύκολος στόχος για σύλληψη με δίχτυ ή ακόμα και για ελεγχόμενη σύγκρουση.
Το μεγάλο πλεονέκτημα αυτής της προσέγγισης είναι ότι δεν απαιτεί ηλεκτρομαγνητικές παρεμβολές ή πρόσβαση στο λογισμικό του droneΔεν χρειάζεται να το χακάρετε, να υποκλέψετε το σήμα ελέγχου ή να χρησιμοποιήσετε στρατιωτικό εξοπλισμό. Το μόνο που χρειάζεται είναι μια ομπρέλα με τον σωστό σχεδιασμό για να εκμεταλλευτείτε μια πολύ συγκεκριμένη αδυναμία στους αλγόριθμους της υπολογιστικής όρασης.
Δοκιμές με εμπορικά drones και αποτελέσματα μελετών
Για να επαληθεύσει ότι η ιδέα ήταν κάτι περισσότερο από μια απλή εργαστηριακή περιέργεια, η ομάδα του UC Irvine πραγματοποίησε συστηματικά πειράματα με εμπορικά drones που ενσωματώνουν αυτόνομες λειτουργίες παρακολούθησης που χρησιμοποιούνται ευρέως σήμερα.
Οι ερευνητές επέλεξαν τρία αντιπροσωπευτικά μοντέλα από την καταναλωτική αγορά: το DJI Mini 4 Pro, Η DJI Neo και HoverAir X1Όλα διαθέτουν λειτουργίες «ενεργής παρακολούθησης» ή «δυναμικής παρακολούθησης» που έχουν σχεδιαστεί για να επιτρέπουν στη συσκευή να ακολουθεί ένα άτομο χωρίς να χρειάζεται να χειρίζεται συνεχώς το τηλεχειριστήριο.
Στις δοκιμές, ένα άτομο στεκόταν σε ανοιχτό χώρο με την ομπρέλα FlyTrap ανοιχτή, ενώ το drone ενεργοποίησε τη λειτουργία αυτόματης παρακολούθησης για το συγκεκριμένο θέμα. Στη συνέχεια, το αυτόνομο σύστημα αφέθηκε να κάνει τη δουλειά του, χωρίς χειροκίνητες διορθώσεις, παρατηρώντας πώς αντιδρούσε στο γραφικό μοτίβο ομπρέλας.
Τα αποτελέσματα ήταν οριστικά: και στα τρία μοντέλα drone που αναλύθηκαν, το Η μέθοδος FlyTrap προσέλκυσε με επιτυχία το αεροσκάφος σε πολύ μικρές αποστάσεις, αρκετές για να το συλλάβουν φυσικά με ένα δίχτυ ή να το αναγκάσουν να συντριβεί σε άλλη κατασκευή ή συσκευή, εάν το επιθυμείτε.
Οι ερευνητές επανέλαβαν τα πειράματα υπό διαφορετικές συνθήκες φωτισμού και καιρού, επιτυγχάνοντας πολύ υψηλά ποσοστά επιτυχίας. Σύμφωνα με δεδομένα που παρουσιάστηκαν σε φόρουμ ασφαλείας, όπως το συνέδριο NDSS, το σύστημα διατήρησε την αποτελεσματικότητά του ακόμη και με διακυμάνσεις στο φως του περιβάλλοντος και στο περιβάλλον, γεγονός που ενισχύει την πρακτική του βιωσιμότητα.
Στο πλαίσιο της διαδικασίας υπεύθυνης αποκάλυψης, η ομάδα κοινοποίησε την ευπάθεια στο κατασκευαστές των εμπλεκόμενων drones, συμπεριλαμβανομένων των DJI και HoverAir, πριν δημοσιοποιήσουν όλες τις τεχνικές λεπτομέρειες. Στόχος ήταν να δοθεί στις εταιρείες χρόνος να διερευνήσουν πιθανούς μετριασμούς ή ενημερώσεις υλικολογισμικού που θα ενίσχυαν την ανθεκτικότητα των αλγορίθμων τους έναντι αυτού του είδους των φυσικών επιθέσεων.
Κίνδυνοι και περιπτώσεις χρήσης: από τη δημόσια ασφάλεια έως την παρενόχληση
Πέρα από την ιστορία της δυνατότητας «κυνήγι» ενός drone με ομπρέλα, η μελέτη FlyTrap φέρνει στο προσκήνιο σοβαρές επιπτώσεις στην ασφάλεια και η μαζική ανάπτυξη αυτόνομων συστημάτων. Ο καθηγητής Άλφρεντ Τσεν, συν-συγγραφέας της έρευνας και καθηγητής πληροφορικής στο UC Irvine, τονίζει ότι η αυτόματη παρακολούθηση είναι δίκοπο μαχαίρι.
Από τη μία πλευρά, αυτές οι λειτουργίες είναι πολύ χρήσιμες για επιχειρήσεις δημόσιας ασφάλειας, συνοριακές περιπολίες ή επιτήρηση υποδομώνΕπιτρέπουν σε ένα drone να παρακολουθεί μεγάλες περιοχές ή να ακολουθεί έναν ύποπτο χωρίς την ανάγκη συνεχούς πλοήγησης, εξοικονομώντας πόρους και βελτιώνοντας την ικανότητα αντίδρασης των αρχών.
Από την άλλη πλευρά, η ίδια τεχνολογία μπορεί να χρησιμοποιηθεί για πολύ λιγότερο ευγενείς σκοπούς: Ατομική παρενόχληση, κατασκοπεία, παραβίαση της ιδιωτικής ζωής σε δημόσιους ή ιδιωτικούς χώρους, μη εξουσιοδοτημένη παρακολούθηση ατόμων κ.λπ. Όταν ο καθένας μπορεί να αγοράσει ένα drone με αυτόνομη παρακολούθηση και να το χρησιμοποιήσει για αμφισβητήσιμους σκοπούς, η ισορροπία μεταξύ ασφάλειας και κινδύνου γίνεται περίπλοκη.
Ο Shaoyuan Xie, επικεφαλής συγγραφέας της μελέτης και επίσης επιστήμονας υπολογιστών, υπογραμμίζει την ευκολία με την οποία μια απλή ομπρέλα μπορεί για τον έλεγχο της συμπεριφοράς ορισμένων αυτόνομων drones Αυτό μας αναγκάζει να επανεξετάσουμε τη χρήση αυτών των συσκευών σε ευαίσθητα περιβάλλοντα. Εάν είναι τόσο εύκολο να χειραγωγηθούν φυσικά, ίσως η ανάπτυξή τους θα πρέπει να περιοριστεί ή να ρυθμιστεί σε σενάρια όπου μια παραβίαση ασφαλείας θα μπορούσε να έχει σοβαρές συνέπειες.
Επιπλέον, η επίθεση δεν μπορεί να χρησιμοποιηθεί μόνο για εξουδετερώνουν εχθρικά ή εισβολικά dronesαλλά και για να αποφύγουν την νόμιμη επιτήρηση. Μια οργανωμένη ομάδα θα μπορούσε να χρησιμοποιήσει παραλλαγές του μοτίβου FlyTrap για να κρυφτεί από αστυνομικά ή στρατιωτικά drones, δημιουργώντας ζώνες σκιάς ή αναγκάζοντας τα αεροσκάφη να πλησιάσουν πολύ κοντά και να γίνουν ευάλωτα.
Μια φυσική επίθεση που ανοίγει ξανά τη συζήτηση για την κυβερνοασφάλεια με drones
Μία από τις πιο εντυπωσιακές πτυχές της υπόθεσης FlyTrap είναι ότι περιλαμβάνει ένα φυσική επίθεση εναντίον αλγορίθμων αντίληψηςΔεν πρόκειται για ψηφιακή εισβολή. Δεν υπάρχει hacking στο firmware, δεν υπάρχει απομακρυσμένη πρόσβαση στο σύστημα και δεν υπάρχει παραβίαση των ραδιοεπικοινωνιών. Όλα συμβαίνουν στον πραγματικό κόσμο, μπροστά στην κάμερα του drone.
Αυτοί οι τύποι ευπαθειών, γνωστοί ως φυσικές εχθρικές επιθέσεις, καταδεικνύουν ότι Ασφάλεια συστημάτων τεχνητής νοημοσύνης Πηγαίνει πολύ πιο πέρα από το λογισμικό ελέγχου και τα δίκτυα δεδομένων. Εάν ο αλγόριθμος που ερμηνεύει την πραγματικότητα μπορεί να ξεγελαστεί από οπτικά μοτίβα στο περιβάλλον, ο αδύναμος κρίκος θα μπορούσε να είναι κάτι τόσο ασήμαντο όσο ένα μοτίβο ομπρέλας.
Στην περίπτωση του FlyTrap, το μοτίβο έχει σχεδιαστεί ειδικά για να εκμεταλλεύεται ελλείψεις στον τρόπο με τον οποίο τα νευρωνικά δίκτυα υπολογίζουν την κίνηση και την απόσταση από τον στόχο. Αντί να κρύβεται το άτομο, η αντίληψη χειραγωγείται έτσι ώστε το drone να πιστεύει ότι το άτομο απομακρύνεται.
Αυτή η προσέγγιση υπογραμμίζει ότι τα τυπικά μέτρα ασφαλείας - κρυπτογράφηση επικοινωνίας, ισχυρός έλεγχος ταυτότητας, έλεγχοι πρόσβασης - δεν επαρκούν για την προστασία ενός Σύστημα UAS με αυτόνομες λειτουργίεςΕίναι επίσης απαραίτητο να ενισχυθεί η ανθεκτικότητα των αλγορίθμων υπολογιστικής όρασης έναντι κακόβουλων οπτικών μοτίβων.
Καθώς η χρήση drones με τεχνητή νοημοσύνη γίνεται όλο και πιο διαδεδομένη αστικά περιβάλλοντα, κρίσιμες υποδομές και αστυνομικές επιχειρήσειςΗ αγνόηση αυτών των τύπων κινδύνων μπορεί να ανοίξει την πόρτα σε σοβαρά περιστατικά. Δεν πρόκειται μόνο για την κατάρριψη ενός εμπορικού drone από κάποιον, αλλά και για την εφαρμογή παρόμοιων στρατηγικών σε πλαίσια μεγαλύτερης στρατηγικής ευαισθησίας.
Αμυντικές εφαρμογές και περιορισμοί της μεθόδου ομπρέλας
Από την οπτική γωνία του κοινού, η ανακάλυψη του UC Irvine προσφέρει επίσης μια πιθανή αμυντικό εργαλείο χαμηλού κόστουςΈνα άτομο που ακολουθείται από ένα drone σε λειτουργία αυτόνομης παρακολούθησης θα μπορούσε, θεωρητικά, να χρησιμοποιήσει μια ομπρέλα με μοτίβο FlyTrap για να προσελκύσει τη συσκευή και να την εξουδετερώσει, πάντα εντός των νόμιμων ορίων της χώρας του.
Αυτή η πιθανότητα ανοίγει τη συζήτηση για την δικαίωμα αυτοάμυνας κατά της εναέριας επιτήρησηςΕιδικά σε περιπτώσεις παρενόχλησης, κατασκοπείας ή παράνομης εισβολής στην ιδιωτική ζωή. Αντιμέτωποι με τεχνολογίες επιτήρησης που φαίνονται ανέφικτες για τον μέσο πολίτη, ένα απλό αντικείμενο όπως μια ομπρέλα γίνεται ένα είδος προσβάσιμου αντιμέτρου.
Ωστόσο, η ίδια η ερευνητική ομάδα προειδοποιεί ότι το FlyTrap δεν είναι μαγική λύση που εφαρμόζεται σε οποιοδήποτε droneΗ αποτελεσματικότητά του εξαρτάται από τη χρήση ορισμένων αλγορίθμων παρακολούθησης που βασίζονται στην όραση υπολογιστή από τη συσκευή και από την ενεργοποίηση της αυτόνομης λειτουργίας παρακολούθησης.
Επιπλέον, η αναπαραγωγή του μοτίβου χωρίς βαθιά κατανόηση του τρόπου με τον οποίο τα νευρωνικά δίκτυα επεξεργάζονται εικόνες μπορεί να μην αποφέρει το ίδιο αποτέλεσμα. Η απλή εκτύπωση ενός εντυπωσιακού σχεδίου και η αναμονή ότι θα λειτουργήσει δεν επαρκεί: η επιτυχία της μεθόδου έγκειται στο μαθηματική και πειραματική βελτιστοποίηση του γραφικού μοτίβου.
Πρέπει επίσης να ληφθεί υπόψη το νομικό πλαίσιο: η κατάρριψη ή η σύλληψη ενός drone μπορεί να ρυθμίζεται ή ακόμη και να απαγορεύεται, ανάλογα με τη χώρα και τον τύπο της επιχείρησης που εκτελεί η συσκευή. Πριν από τη χρήση οποιασδήποτε τεχνικής εξουδετέρωσης, όσο απλή κι αν φαίνεται, είναι απαραίτητο να... κατανοήστε τους κανονισμούς για τον αέρα και την ιδιωτικότητα ρεύμα.
Αυτό που είναι σαφές είναι ότι αυτό το είδος έρευνας είναι χρήσιμο για πιέζοντας τους κατασκευαστές και τους ρυθμιστές Όσον αφορά τη βελτίωση των προτύπων ασφαλείας, τόσο για την αποτροπή καταχρήσεων στη χρήση των drones όσο και για την αποτροπή της εύκολης χειραγώγησής τους από κάποιο φυσικό αντικείμενο.
Συνολικά, η υπόθεση FlyTrap καταδεικνύει ότι η τεχνολογική πολυπλοκότητα των αυτόνομων drones δεν τα καθιστά άτρωτα. ομπρέλα με το σωστό σχέδιοΣε συνδυασμό με την καλή κατανόηση του πώς η ενσωματωμένη τεχνητή νοημοσύνη «βλέπει» τον κόσμο, μπορεί να μετατρέψει μια απλή βόλτα στη βροχή στο χειρότερο σενάριο για ένα drone που νόμιζε ότι είχε τα πάντα υπό έλεγχο.
