Στον στρατό του Κανένα, ένας οδηγός πεδίου για τον ερχόμενο κόσμο αυτόνομου πολέμου


Το στρατιωτικό βιομηχανικό συγκρότημα Silicon Valley είναι ολοένα και περισσότερο στα διασταυρώσεις των μηχανικών τεχνητής νοημοσύνης. Πριν από λίγες εβδομάδες, το Google αναφέρθηκε ότι υποστηρίζει μια σύμβαση Pentagon γύρω από το Project Maven, το οποίο θα χρησιμοποιήσει την αναγνώριση εικόνας για την αυτόματη αξιολόγηση φωτογραφιών. Νωρίτερα φέτος, οι ερευνητές του AI σε όλο τον κόσμο εντάχθηκαν σε αναφορές που ζητούσαν μποϋκοτάζ οποιασδήποτε έρευνας που θα μπορούσε να χρησιμοποιηθεί σε αυτόνομο πόλεμο.

Ωστόσο, για τον Paul Scharre, τέτοιες αναφορές αγγίζουν ελάχιστα τη βαθιά πολυπλοκότητα, , και μια ασάφεια που θα καταστήσει την αξιολόγηση των αυτόνομων όπλων μια σημαντική ανησυχία για τους αμυντικούς σχεδιαστές αυτού του αιώνα. Στον στρατό του Κανένα ο Scharre υποστηρίζει ότι οι προκλήσεις γύρω από τους ορισμούς αυτών των μηχανών θα καταβάλουν τεράστιες προσπάθειες για την επεξεργασία μεταξύ των εθνών, πόσο μάλλον το χειρισμό των αποτελεσμάτων τους. Είναι μια ανησυχητική, προσεκτική, αν και κατά καιρούς παρατεταμένη ματιά σε αυτό το κρίσιμο θέμα.

Η Scharre πρέπει να γνωρίζει. Ένας πρώην στρατιωτικός φυγός, εντάχθηκε στο Πεντάγωνο που εργάστηκε στο Γραφείο του Υπουργού Άμυνας, όπου ανέπτυξε μερικές από τις πρώτες πολιτικές του Τμήματος Άμυνας γύρω από την αυτονομία. Αφήνοντας το 2013, προσχώρησε στο κέντρο σκέψης DC για μια νέα αμερικανική ασφάλεια, όπου διευθύνει ένα κέντρο τεχνολογίας και εθνικής ασφάλειας. Εν κατακλείδι, έχει περάσει περίπου μια δεκαετία σε αυτή την αναδυόμενη τεχνολογία και η εμπειρογνωμοσύνη του δείχνει σαφώς σε όλο το βιβλίο.

Η πρώτη πρόκληση που παραβιάζει αυτές τις αναφορές επί των αυτόνομων όπλων είναι ότι αυτά τα συστήματα υπάρχουν ήδη και έχουν ήδη αναπτυχθεί στον τομέα . Τεχνολογίες όπως το σύστημα μάχης Aegis, το βλήμα υψηλής ταχύτητας κατά της ακτινοβολίας (HARM) και το Harpy περιλαμβάνουν ήδη εξελιγμένα αυτόνομα χαρακτηριστικά. Όπως γράφει ο Scharre, "Ο άνθρωπος που εκτοξεύει το Harpy αποφασίζει να καταστρέψει οποιαδήποτε ραντάρ μέσα σε μια γενική περιοχή στο χώρο και στο χρόνο, αλλά η ίδια η Harpy επιλέγει το συγκεκριμένο ραντάρ που καταστρέφει." Το όπλο μπορεί να χαλαρώσει για 2.5 ώρες (19659002) Η Scharre χρησιμοποιεί επανειλημμένα τον βρόχο OODA του στρατού (για να παρατηρεί, να προσανατολίζει, να αποφασίζει και να ενεργεί) ως πλαίσιο για τον προσδιορισμό του επιπέδου αυτονομίας ενός συγκεκριμένου μηχανήματος. Οι άνθρωποι μπορούν να είναι "στο βρόχο", όπου καθορίζουν τις ενέργειες του μηχανήματος, "στον βρόχο" όπου έχουν τον έλεγχο, αλλά το μηχάνημα λειτουργεί ως επί το πλείστον ανεξάρτητα και "έξω από το βρόχο" όταν οι μηχανές είναι εντελώς ανεξάρτητες από την ανθρώπινη απόφαση

Το πλαίσιο βοηθά στην εκκαθάριση της σύγχυσης μεταξύ διαφορετικών συστημάτων, αλλά δεν αρκεί. Όταν οι μηχανές καταπολεμούν τα μηχανήματα, για παράδειγμα, η ταχύτητα της μάχης μπορεί να γίνει τόσο μεγάλη ώστε οι άνθρωποι μπορεί να κάνουν περισσότερη βλάβη, τότε καλή παρέμβαση. Εκατομμύρια κύκλοι του βρόχου OODA θα μπορούσαν να υποβληθούν σε επεξεργασία από ένα δράκο πριν ένας άνθρωπος ακόμα καταγράψει τι συμβαίνει στο πεδίο της μάχης. Ένας άνθρωπος από τον βρόχο, επομένως, θα μπορούσε να οδηγήσει σε ασφαλέστερα αποτελέσματα. Είναι ακριβώς αυτά τα είδη παραδόξων που κάνουν το θέμα τόσο δύσκολο να αναλυθεί.

Εκτός από τα παράδοξα, οι περιορισμοί είναι ένα τεράστιο θέμα και στο βιβλίο. Η ταχύτητα είναι μία – και η τιμή του στρατιωτικού εξοπλισμού είναι άλλη. Οι βίαιοι βλήτοι είναι φθηνοί και η προσθήκη αυτοματοποίησης έχει προσθέσει σταθερά στην τιμή του υλικού. Όπως σημειώνει ο Scharre, "Οι σύγχρονοι πυραύλοι μπορούν να κοστίζουν πάνω από ένα εκατομμύριο δολάρια ανά τεμάχιο. Ως πρακτικό θέμα, οι στρατιωτικοί θα θέλουν να γνωρίζουν ότι υπάρχει στην πραγματικότητα ένας έγκυρος εχθρικός στόχος στην περιοχή πριν χρησιμοποιήσουν ένα ακριβό όπλο. "

Ένας άλλος περιορισμός είναι απλώς ο πολιτισμός. Ο συγγραφέας γράφει: "Υπάρχει έντονη πολιτιστική αντίσταση εντός του στρατού των Η.Π.Α. για την παράδοση θέσεων εργασίας σε ακατοίκητα συστήματα". Αντίθετα με την αυτοματοποίηση του εργατικού δυναμικού των πολιτών, οι άνθρωποι στην εξουσία θέλουν να τοποθετήσουν ανθρώπους σάρκας και αίματος στις πιο σύνθετες εργασίες. Οι περιορισμοί αυτοί είναι σημαντικοί, διότι η Scharre προβλέπει έναν κλασικό αγώνα εξοπλισμών γύρω από αυτά τα όπλα, καθώς δεκάδες χώρες ακολουθούν αυτές τις μηχανές

Οι άνθρωποι "στο βρόχο" μπορεί να είναι η προεπιλογή σήμερα, αλλά για πόσο καιρό

περίπου το ένα τρίτο του βιβλίου είναι αφιερωμένο στην ιστορία της αυτοματοποίησης, (γενικευμένη) AI, και το δυναμικό για αυτονομία, θέματα που πρέπει να είναι γνωστά σε κάθε τακτικό αναγνώστη της TechCrunch. Ένα άλλο τρίτο του βιβλίου είναι ένας διαλογισμός σχετικά με τις προκλήσεις της τεχνολογίας από μια διπλή χρήση και στρατηγική προοπτική, καθώς και την αμφίβολη πορεία προς μια διεθνή απαγόρευση

. Ωστόσο, αυτό που βρήκα πολύτιμη στο βιβλίο ήταν το κεφάλαιο για την ηθική, κατέθεσε αρκετά αργά στην αφήγηση του βιβλίου. Ο Scharre κάνει μια θαυμάσια δουλειά που καλύπτει το έδαφος των διάφορων σχολών σκέψης γύρω από την ηθική του αυτόνομου πολέμου και πώς διασταυρώνονται και ανταγωνίζονται. Αναλύει και αναφέρει εκτενώς τον Ron Arkin, έναν ρομποτικό που έχει περάσει αρκετό καιρό σκέψης για την αυτονομία στον πόλεμο. Ο Arkin λέει στον Scharre ότι «έχουμε υπερβολική πίστη στους ανθρώπινους πολεμιστές» και υποστηρίζει ότι τα αυτόνομα όπλα θα μπορούσαν θεωρητικά να προγραμματιστούν ποτέ να μην διαπράξουν έγκλημα πολέμου σε αντίθεση με τον άνθρωπο. Άλλοι ακτιβιστές, όπως η Jody Williams, πιστεύουν ότι μόνο μια ολοκληρωμένη απαγόρευση μπορεί να εξασφαλίσει ότι τέτοια όπλα δεν αναπτύσσονται ποτέ κατά πρώτο λόγο.

Η Scharre εκφράζει τη λύπη της για το γεγονός ότι περισσότερες από αυτές τις συνομιλίες δεν λαμβάνουν υπόψη τις στρατηγικές θέσεις του στρατού. Σημειώνει ότι οι διεθνείς συζητήσεις σχετικά με τις απαγορεύσεις καθοδηγούνται από ΜΚΟ και όχι από εθνικά κράτη, ενώ όλα τα παραδείγματα επιτυχών απαγορεύσεων είναι αντίθετα.

Μια άλλη πρόκληση είναι απλά ότι ο αντιπολεμικός ακτιβισμός και ο αντι-αυτόνομος όπλων ακτιβισμός είναι όλο και περισσότερο συγχωνευμένοι . Ο Scharre γράφει: "Μία από τις προκλήσεις για τη στάθμιση της ηθικής των αυτόνομων όπλων είναι να ξεδιπλώσει ποιες επικρίσεις αφορούν τα αυτόνομα όπλα και ποια είναι πραγματικά για τον πόλεμο." Αναφερόμενος στον Sherman, ο οποίος πέρασε τον αμερικανικό νότο στον εμφύλιο πόλεμο σε μια επιθετική λεηλασία, ο συγγραφέας υπενθυμίζει στον αναγνώστη ότι «ο πόλεμος είναι κόλαση» και ότι οι στρατιωτικοί δεν επιλέγουν τα όπλα σε κενό αλλά σχετικά εναντίον άλλων εργαλείων στο οπλοστάσιό τους και τους ανταγωνιστές τους

Το βιβλίο είναι μια συλλογή των διαφόρων θεμάτων γύρω από το αυτόνομο αν και υποφέρει λίγο από το κλασικό πρόβλημα του να είναι υπερβολικά μακρύ σε ορισμένα θέματα (σμήνη συρμών), ενώ προσφέρει περιορισμένες πληροφορίες για τους άλλους (διαπραγματεύσεις για τον έλεγχο των όπλων). Επίσης, το βιβλίο παραβιάζεται με λάθη, όπως οι "κανόνες ειδήσεων εμπλοκής" που αλλιώς αλλοιώνουν το άμεσο και ενεργό κείμενο. Η αυστηρότερη επεξεργασία θα είχε βοηθήσει και στις δύο περιπτώσεις. Λόγω της καθυστερημένης φύσης του θέματος, το βιβλίο λειτουργεί ως επισκόπηση, μολονότι δεν παρουσιάζει μια κατανοητή αφήγηση για το πού πρέπει να γίνει η αυτονομία και ο στρατός στο μέλλον, ένα μη ικανοποιητικό χάσμα, δεδομένου του εκτεταμένου και μοναδικού ιστορικού του συγγραφέα επί του θέματος. 19659002] Το μόνο που είπε, ο Στρατός του Κανένα δεν είναι ένα βιβλίο οδηγιών μιας διαδρομής στις συζητήσεις, τις προκλήσεις και ναι, τις ευκαιρίες που μπορεί να προκύψουν από αυτόνομο πόλεμο. Ο Scharre τελειώνει με τη σωστή σημείωση, υπενθυμίζοντας ότι τελικά όλα αυτά τα μηχανήματα ανήκουν σε εμάς και αυτό που επιλέγουμε να χτίσουμε είναι υπό τον έλεγχό μας. "Ο κόσμος που δημιουργούμε είναι αυτός που θα έχει έξυπνα μηχανήματα σε αυτό, αλλά δεν είναι για αυτούς. Είναι ένας κόσμος για εμάς. "Πρέπει να συνεχίσουμε να ασχολούμαστε και να συζητούμε αλλά πάντα με ένα όραμα για το μέλλον που θέλουμε να συνειδητοποιήσουμε

>Μεταφρασμένο από την Google <
Source link