Carnegie Europe: Πώς η τεχνητή νοημοσύνη μπορεί να "χαλάσει" συμμαχίες

του Tomas Valasek

Οι δυτικές δημοκρατίες  σπανίως πολεμούν μόνες τους πολέμους. Το κάνουν σε συμμαχίες ή συνασπισμούς διότι όσο πιο πολλές χώρες συμμετέχουν, τόσο πιο νόμιμοι φαίνονται οι λόγοι για την διεξαγωγή πολέμου, και τα έθνη που ηγούνται πρέπει να μοιραστούν το ανθρώπινο και οικονομικό κόστος. Αλλά ένας έξυπνος εχθρός θα αναγνωρίσει ότι οι συμμαχίες είναι ευαίσθητες. Απαιτούν εμπιστοσύνη, συνεχή διαβούλευση και αποτελεσματική επίλυση διαφωνιών ώστε να λειτουργούν σωστά. Εκτός από τα στρατεύματα που διεξάγουν τις επιθέσεις στο πεδίο της μάχης, ένας έξυπνος αντίπαλος θα επιδιώξει επίσης να ανατρέψει την ίδια τη συμμαχία: να σπείρει διχόνοια στη λήψη αποφάσεων. Με λίγη τύχη και ικανότητα, αυτό θα προκαλέσει τη συμμαχία να χάσει ευκαιρίες για να κερδίσει στρατιωτικό πλεονέκτημα στο πεδίο μάχης ή για να χάσει την επιθυμία να πολεμήσουν όλοι μαζί.

Η τεχνητή νοημοσύνη (ΑΙ) θα μπορούσε σύντομα να διευκολύνει τους αντιπάλους να διαιρέσουν και να αποθαρρύνουν συμμαχίες. Αυτή η στιγμή ίσως να μην είναι μακριά. Ενώ η τεχνητή γενική νοημοσύνη -ικανή να προσομοιώνει το ανθρώπινο μυαλό με όλη του την πολυπλοκότητα- κάνει τεράστια, αν όχι αμφιλεγόμενα βήμα, είναι ακόμη δεκαετίες μακριά. Αλλά πιο περιορισμένες εφαρμογές της ΑΙ χρησιμοποιούνται ήδη. Οι μηχανές είναι ικανές να μάθουν αυτομάτως και βελτιώνουν την εμπειρία τους χωρίς να προγραμματίζονται αυστηρά για κάθε προσαρμογή. Αυτό συνήθως λειτουργεί εντός ενός στενού πεδίου (όπως μία παρτίδα σκάκι), αλλά η εκμάθηση των μηχανών επιτρέπει τη δραματική βελτίωση μέσα σε μια σειρά διαφορετικών γραμμών δραστηριότητας, με διάφορες πιθανές επιπτώσεις για στρατιωτικές συμμαχίες.

Για παράδειγμα, η ΑΙ μπορεί αποτελεσματικά να αναπτυχθεί για να υπονομεύσει την εμπιστοσύνη μεταξύ των χωρών που βρίσκονται στην ίδια πλευρά, με τη δυσφήμιση της εμπιστοσύνης τους. Πριν και κατά τη διάρκεια μιας επιχείρησης, τα μέλη της συμμαχίας ανταλλάσσουν βίντεο και ηχητικά ντοκουμέντα με τις ενέργειες του εχθρού, για να υπάρξει η βάση για μία συγκεκριμένη στρατηγική. Αλλά η ΑΙ είναι έτοιμη να επιτρέψει υψηλής ποιότητας και εύκολα παραγόμενα δεδομένα ήχου και εικόνας. Όταν μια χώρα χρησιμοποιεί μια υποτιθέμενη ραδιοφωνική επικοινωνία ως στοιχείο, ένας εχθρός θα μπορούσε να απελευθερώσει μια δομημένη έκδοση που να μοιάζει τόσο αξιόπιστη και ρεαλιστική ώστε να υπονομεύει την πίστη στην αρχική νοημοσύνη. Αυτή η τακτική δεν είναι νέα αλλά οι προσπάθειες μέχρι σήμερα δεν είχαν καλά αποτελέσματα διότι -μέχρι στιγμής- τα ψεύτικα αρχεία ήχου και εικόνας ήταν ακατέργαστα και ήταν εύκολο να αποκαλυφθούν. Η τεχνητή νοημοσύνη θα μπορούσε να το καταστήσει πιο δύσκολο το να διακριθεί η αλήθεια από το ψέμα.

Η ίδια τεχνολογία θα μπορούσε να χρησιμοποιηθεί για να επιβραδύνει τη λήψη αποφάσεων. Φανταστείτε ένα βίντεο που να μοιάζει ρεαλιστικό, να εμφανίζεται και να δείχνει έναν από τους πολιτικούς ηγέτης μιας στρατιωτικής συμμαχίας να αμφισβητεί το σκεπτικό για τον πόλεμο ή να ασκεί κριτική σε ομολόγους του συμμάχους. Τελικά, θα αποδειχθεί ότι είναι πλαστό. Αλλά εάν η χρονική συγκυρία που θα δημοσιευθεί ένα τέτοιο βίντεο είναι κατάλληλη -για παράδειγμα, να συμπίπτει με την προώθηση του εχθρού στο πεδίο μάχης- το βίντεο θα μπορούσε να προκαλέσει σύγχυση στους συμμάχους, αρκετή ώστε ο εχθρός να καταγράψει μη αναστρέψιμη πρόοδο.

Η ΑΙ επίσης παρουσιάζει νέα μέσα για τους εξειδικευμένους επιτιθέμενους ώστε να διεισδύουν σε δίκτυα και να ανατρέψουν τις δικτυακές άμυνες. Όταν οι συμμαχίες διεξάγουν πολέμους, ανταλλάσσουν σε καθημερινή βάση ένα τεράστιο ποσό πληροφοριών -αναλύσεις, αιτήματα για οδηγίες- μεταξύ των πολιτικών αρχηγείων, στρατιωτικών διοικητηρίων και πρωτευουσών. Τα περισσότερα από αυτά είναι κρυπτογραφημένα, για να αποτρέπουν τους εχθρούς από το να αποκτήσουν πρόσβαση σε πληροφορίες και να προετοιμαστούν ώστε να αντιμετωπίσουν τις ενέργειες των συμμάχων. Αλλά η ΑΙ θα προσφέρει νέα πλεονεκτήματα για τους επιτιθέμενους που προσπαθούν να διεισδύσουν στην κωδικοποίηση και στα δίκτυα, επιταχύνοντας σημαντικά την ικανότητά τους να ψάχνουν για αδυναμίες. Η ίδια τεχνολογία που επιτρέπει για πιο ρεαλιστικές ενδείξεις βίντεο και ήχου, θα επιτρέψει επίσης πιο εξελιγμένες επιθέσεις κοινωνικής μηχανικής για παράδειγμα, μέσω της αξιόπιστης προσομοίωσης της φωνής του επόπτη ή μέσω της βοήθειας για τη δημιουργία ρεαλιστικών τύπων emails, χρησιμοποιώντας το ύφος και τις εκφράσεις ενός ανθρώπους γνωστού στο θύμα..

Στο παρελθόν, οργανισμοί όπως το ΝΑΤΟ και η ΕΕ έχουν προσαρμοστεί για να αντιμετωπίσουν τις λιγότερο περίπλοκες προσπάθειες διαίρεσης τους, για παράδειγμα δημιουργώντας μία μονάδα για την καταπολέμηση της ρωσικής προπαγάνδας. Θα χρειαζόταν επανεξέταση για την πιο αποτελεσματική αντιμετώπιση των επιθέσεων. Το ΝΑΤΟ και η ΕΕ ίσως χρειαζόταν να επιμείνουν σε υψηλότερα standard για την προστασία των εθνικών απόρρητων συνδέσεων επικοινωνίας και για τη χρήση απειλής απόσυρσης της πιστοποίησης για να αναγκάσουν τα κράτη-μέλη να εντείνουν τις προσπάθειές τους. Τα standards για τα οπλικά συστήματα ίσως χρειαστεί να αναβαθμιστούν για να εξασφαλίσουν ότι η επόμενη γενιά είναι ανθεκτική στις κυβερνοεπιθέσεις από ΑΙ. Πολλές περισσότερες γραμμές εργασίας από αυτές που αναδείχθηκαν πιο πάνω θα μπορούσαν επίσης να επηρεαστούν από την ενσωμάτωση της τεχνητής νοημοσύνης. Μια διεξοδική αναθεώρηση της επίδρασης της ΑΙ θα βοηθούσε να εντοπιστούν περιοχές όπου χρειάζεται επειγόντως ο μετριασμός.

Η τεχνητή νοημοσύνη από μόνη της θα είναι μέρος της απάντησης: για παράδειγμα, μπορεί να βοηθήσει τους υπερασπιστές να εντοπίσουν και να διορθώσουν τα τρωτά σημεία του λογισμικού πριν από την επίθεση. Η ΑΙ μπορεί επίσης να βοηθήσει στον εντοπισμό και την αποτροπή upload προπαγανδιστικών βίντεο.

Αλλά η ανάπτυξη των ΑΙ από τους συμμάχους φέρει τον δικό της πολιτικό κίνδυνο. Ενώ η χρήση της να υπερασπιστεί δίκτυα ή την ακεραιότητα των πληροφοριών είναι ευρέως αποδεκτή, οι στρατιωτικές εφαρμογές της AI θα οδηγήσουν σε νέες εντάσεις τους συμμάχους. Η αίσθηση της ισότητας και της συναπόφασης μεταξύ των μελών της θα μπορούσε να είναι σε κίνδυνο εξαιτίας ανησυχιών για την ευθύνη.

Όταν οι χώρες πολεμούν σαν ομάδα, θέλουν να έχουν λόγο στο πώς αυτή η συμμαχία διεξάγει τον πόλεμο. Αλλά αυτό γίνεται αδύνατο εάν η μάχη στο μέλλον γίνεται από μηχανές. Ενώ για τώρα οι ΗΠΑ έχουν μια πολιτική όπου ο άνθρωπος λαμβάνει τις αποφάσεις που απαιτούν τη χρήση θανατηφόρων δυνάμεων, οι στρατιωτικές τακτικές και η τεχνολογία συνεχίζουν να εξελίσσονται. Καθώς η τεχνητή νοημοσύνη καταφέρνει να αντιμετωπίσει πιο πολύπλοκα καθήκοντα, στο μέλλον οι δολοφονίες ίσως να μην γίνεται από ένα ενιαίο μη επανδρωμένο εναέριο όχημα (UAV) αλλά μεσοπρόθεσμα, από σμήνη UAVs που χρησιμοποιούν την ΑΙ για να υιοθετούν συνεχώς τακτικές και να στοχεύουν σε πραγματικό χρόνο, αφήνοντας λίγο χρόνο και χώρο για ανθρώπινη παρέμβαση. Αυτή η εξέλιξη θα μπορούσε να καταστήσει τους συμμάχους πιο απρόθυμους να συμμετάσχουν στη μάχη κατά πρώτο λόγο. Θα ανησυχούσαν ότι εάν τα όπλα καθοδηγούμενα από ΑΙ σκοτώσουν αμάχους κατά λάθος ή προκαλέσουν δυσανάλογες σφαγές οι κυβερνήσεις θα κατηγορηθούν παρά το ότι δεν είχαν κανένα έλεγχο της ενέργειας.

Το δίλημμα δεν είναι νέο. Ακόμη και σήμερα, οι πρωτεύουσες μεταβιβάζουν ορισμένες αποφάσεις στους διοικητές και αναλαμβάνουν τον πολιτικό κίνδυνο εάν μια επιχείρηση πάει στραβά. Αλλά σε τέτοιες περιπτώσεις, η ευθύνη μπορεί να αποδοθεί μετά το γεγονός και ο ένοχος μπορεί να τιμωρηθεί -δεν υπάρχει τέτοια περίπτωση με την ΑΙ. Επίσης, ενώ οι λαοί κατανοούν και λαμβάνουν υπόψη τις ανθρώπινες παρατυπίες, αισθάνονται άσχημα για τα λάθη από μηχανές. Αυτό βάζει τις δημοκρατίες σε μειονεκτική θέση. Οι μη δημοκρατικές κυβερνήσεις που δεν ενδιαφέρονται για τις αντιδράσεις των πολιτών θα έχουν λιγότερους ενδοιασμούς για την απομάκρυνση των ανθρώπων από τη λήψη αποφάσεων. Αυτό ενισχύει το ενδεχόμενο για μια ευρεία διεθνή συμφωνία σχετικά με τις επιθετικές στρατιωτικές χρήσεις της ΑΙ, για να καθησυχαστεί το αγχωμένο κοινό και, ιδανικά, να αποτρέψει τις πιο έντονες εφαρμογές της τεχνητής νοημοσύνης στον πόλεμο. Εν ολίγοις, ήρθε η ώρα να τοποθετήσουν την ΑΙ πιο έντονα στην ημερήσια διάταξη του ΝΑΤΟ και της ΕΕ.

Μπορείτε να δείτε το κείμενο εδώ: http://carnegieeurope.eu/strategiceurope/72966?lang=en

http://www.capital.gr/carnegieeurope-eu/3236871/pos-i-texniti-noimosuni-mporei-na-xalasei-summaxies

ΠΗΓΗ: http://protagorasnews.blogspot.gr/2017/09/carnegie-europe.html
 Ανάρτηση από:geromorias.blogspot.com