Mark Coeckelbergh – Πόλεμος εξ αποστάσεως: Η ηθική των ρομπότ-δολοφόνων

Ο Mark Coeckelbergh είναι καθηγητής Τεχνολογίας και Κοινωνικής Υπευθυνότητας στο De Montfort University (UK). Το παρακάτω άρθρο δημοσιεύτηκε στον ιστότοπο e-ir.info στις 16 Ιουνίου 2014.

Μετάφραση: Αντώνης Παπαδάκης

Νέες Τεχνολογίες, Νέοι Πόλεμοι

Σήμερα, ένας συνεχώς αυξανόμενος αριθμός χωρών χρησιμοποιεί μη επανδρωμένα αεροσκάφη (UAV), γνωστά και ως drones, όχι μόνο για αστική-πολιτική χρήση, αλλά και για στρατιωτικούς σκοπούς όπως η αναγνώριση και η εξουδετέρωση ανθρώπινων στόχων. Έχει προκύψει επομένως μια νέα μορφή πολέμου – εάν μπορεί ακόμα να ονομάζεται “πόλεμος” – μέσω της οποίας συγκεκριμένα άτομα στοχοποιούνται και δολοφονούνται από απόσταση. Αυτή η εξελισσόμενη πρακτική εγείρει ορισμένα ηθικά ζητήματα, τα οποία τώρα λαμβάνουν μεγάλη προσοχή από ακαδημαϊκούς (βλ. π.χ. Sullins 2010, Coeckelbergh 2013, Coeckelbergh 2011, Sharkey 2012), πολιτικούς (βλ. έκθεση Heyns για τα Ηνωμένα Έθνη), στρατιωτικούς οργανισμούς και ένα ευρύτερο κοινό.

Αυτό το άρθρο εξετάζει εν συντομία την ηθική αυτών των “ρομπότ-δολοφόνων”, δίνοντας ιδιαίτερη προσοχή στα ηθικά ζητήματα που έρχονται στο προσκήνιο με αυτή τη νέα τεχνολογία. Υπό ποιούς όρους δικαιολογείται (αν θα μπορούσε ποτέ να δικαιολογηθεί) η χρήση αυτών των ρομποτικών τεχνολογιών για την εξόντωση ανθρώπων;

Νομιμοποιώντας τον πόλεμο

Το πρώτο πρόβλημα, όταν εξετάζει κανείς την ηθική του πολέμου, αφορά τη νομιμοποίηση του ίδιου του πολέμου. Ενώ οι περισσότεροι άνθρωποι μπορεί να πιστεύουν ότι η χρήση βίας για την ατομική τους αυτοάμυνα όταν δέχονται επίθεση μπορεί να είναι ηθικά αποδεκτή υπό ορισμένες συνθήκες, είναι εντελώς διαφορετικό ζήτημα να υποστηρίξει κανείς ότι η χρήση βίας από στρατιωτικές δυνάμεις που επιχειρούν σε εθνικό επίπεδο είναι εξ ορισμού δικαιολογημένη. Επιπλέον, ακόμα και αν δεν έχει κανείς αντιρρήσεις ηθικής τάξης σχετικά με τον ίδιο τον πόλεμο, συνήθως δεν είναι προφανές ότι ο πόλεμος είναι μια δικαιολογήσιμη πράξη σε συγκεκριμένες περιστάσεις. Υπάρχει μια μακρά παράδοση στην πολιτική φιλοσοφία που προσπαθεί να προσδιορίσει σε τι ακριβώς συνίσταται ένας «δίκαιος πόλεμος» – με άλλα λόγια, τις συνθήκες υπό τις οποίες είναι νόμιμη και δίκαιη η έναρξη ενός πολέμου (ius ad bellum) και τις ηθικές δεοντολογικές αρχές που πρέπει να ακολουθούνται κατά τη διάρκεια πολεμικών επιχειρήσεων (ius in bello).

Φανταστείτε, ωστόσο, δίκην επιχειρήματος, ότι όλες αυτές οι αρχές και προϋποθέσεις πληρούνται: υποθέστε ότι η στρατιωτική βία δεν είναι κατ’ αρχήν λάθος, ότι ο συγκεκριμένος πόλεμος είναι νομιμοποιημένος και ότι οι στρατιωτικές ενέργειες σε αυτόν τον πόλεμο ακολουθούν τις αρχές του δίκαιου πολέμου. Σ’ αυτή την περίπτωση, δικαιολογείται η χρήση drones για την εξουδετέρωση ανθρώπων; Υποστηρίζω ότι και τότε ακόμη είναι ηθικά πολύ προβληματική για τους τρεις ακόλουθους λόγους.

Στοχευμένη δολοφονία και “εύκολος” πόλεμος

Πρώτον, η χρήση drones για τη θανάτωση συγκεκριμένων ατόμων είναι μια μορφή εξόντωσης η οποία, ως τέτοια, διαφέρει σημαντικά από τους τρόπους εξόντωσης που έλαβαν χώρα κατά τη διάρκεια των μεγάλων πολέμων του 20ού αιώνα. Η στοχευμένη εξόντωση διαφέρει από τις “ανώνυμες” μορφές μαζικής εξόντωσης, όπου ο εχθρός δεν συλλαμβάνεται ως αποτελούμενος από ένα ή περισσότερα άτομα. Η στοχευμένη εξόντωση μοιάζει περισσότερο με δολοφονία, μια προγραμματισμένη θανάσιμη επίθεση εναντίον ενός ατόμου για πολιτικούς ή, όντως, στρατιωτικούς σκοπούς και δεν είναι σαφές αν υπάρχει πραγματικά μια λεπτή γραμμή μεταξύ των δύο. Με άλλα λόγια, είναι αμφίβολο αν αυτό το είδος εξόντωσης μπορεί ακόμα να περιγράφεται με τη χρήση του όρου “πόλεμος”, εκτός κι αν ο πόλεμος επαναπροσδιοριστεί, και είναι ασαφές κατά πόσον οι αρχές του δίκαιου πολέμου μπορούν (ή πρέπει) να εφαρμόζονται σε αυτή τη μορφή εξόντωσης. Οι αρχές του ius ad bellum, για παράδειγμα, μας λένε πότε είναι νόμιμο να ξεκινήσει ένας πόλεμος. Αλλά όταν πρόκειται για ρομπότ-δολοφόνους, είναι αβέβαιο αν ένας πόλεμος έχει ξεκινήσει τη στιγμή που κάποιος έχει θέσει σε εφαρμογή αυτή την τεχνολογία.

Επιπλέον, ακόμη κι αν κάποιος αποδεχόταν ότι τέτοιες ενέργειες θεωρούνται «πόλεμος», φαίνεται ότι είναι εξαιρετικά εύκολο να ξεκινήσει ένας τέτοιου είδους πόλεμος. Αυτό δημιουργεί ένα διαφορετικό σενάριο από το ιστορικά παραδεδεγμένο, όπου το ξεκίνημα ενός πολέμου περιλάμβανε κυριολεκτικά την κινητοποίηση ενός ολόκληρου έθνους. Ειδικότερα, επειδή είναι σχετικά φθηνό (με όρους οικονομικού και ανθρώπινου κόστους) και εύκολο να παραταχθούν και να αναπτυχθούν drones, υπάρχει ο κίνδυνος να λαμβάνεται ελαφρά τη καρδία η απόφαση και να μην ακολουθούνται οι αρχές του δίκαιου πολέμου, είτε επειδή η δράση δεν θα έχει οριστεί ως πόλεμος είτε επειδή ο πόλεμος θα έχει ήδη ξεκινήσει πριν οι ηθικές και νομικές αρχές τεθούν στο προσκήνιο.

Εξ αποστάσεως εξόντωση και νέες μορφές οικειότητας

Δεύτερον, το είδος των «ρομπότ-δολοφόνων» που εξετάζονται εδώ -τα μη επανδρωμένα αεροσκάφη- αποτελούν αντικείμενο εξ αποστάσεως χειρισμού. Αυτό σημαίνει ότι η εξόντωση γίνεται επίσης εξ αποστάσεως και αυτό από μόνο του εγείρει σοβαρά ηθικά ζητήματα. Είναι γνωστό στη στρατιωτική ψυχολογία (βλ. Grossman 1996) ότι η εξ αποστάσεως εξόντωση είναι γενικά ευκολότερη από την εκ του συστάδην εξόντωση. Εδώ το πρόβλημα είναι παρόμοιο με άλλες τεχνολογίες που δρουν από απόσταση, όπως επανδρωμένα αεροπλάνα που ρίχνουν βόμβες από μεγάλο υψόμετρο (σκεφτείτε τους εναέριους βομβαρδισμούς κατά τη διάρκεια του Β’ Παγκοσμίου Πολέμου, συμπεριλαμβανομένης της ρίψης των ατομικών βομβών). Αν το άτομο που πατάει το κουμπί δεν βλέπει τι κάνει σε εκείνους που βρίσκονται στο έδαφος, είναι αμφίβολο αν η εξόντωση είναι δικαιολογημένη. Το να γνωρίζεις τι πράττεις είναι μια ουσιαστική προϋπόθεση προκειμένου να αναλάβεις υπεύθυνη δράση και αν η απόσταση κάνει την εξόντωση πολύ εύκολη, τότε ο φυσικός ηθικο-ψυχολογικός φραγμός της απομακρύνεται. Δεν υπάρχει χώρος για ενσυναίσθηση, καμία γνώση για την οδύνη που κάποιος προκαλεί και η απόσταση ανάμεσα στον δολοφόνο και τον στόχο μοιάζει αγεφύρωτη. Η εξόντωση μέσω drone, επομένως, φαίνεται σχεδόν να είναι ένα παιχνίδι υπολογιστή. Οι χειριστές πηγαίνουν στις βάσεις τους κατά τη διάρκεια της ημέρας, όπως πολλοί από εμάς πηγαίνουμε στη δουλειά, και το βράδυ μπορούν να επιστρέψουν στο σπίτι τους στις οικογένειές τους. Δεν υπάρχει βρώμικη εξόντωση, ή έτσι φαίνεται. Το αίμα και τα δεινά, και αν ακόμη είναι ορατά, δεν βιώνονται άμεσα.

Όπως ανέφερα πρόσφατα (Coeckelbergh 2013), ωστόσο, οι σύγχρονες τεχνολογίες αισθητήρων έχουν προχωρήσει τόσο πολύ ώστε είναι όλο και περισσότερο δυνατό για τους χειριστές να δουν ακριβώς τι προξενούν στους ανθρώπους στο έδαφος. Όσο οι χειριστές παρακολουθούν τους στόχους τους και ακολουθούν την καθημερινότητά τους, τους δίνεται η ευκαιρία να αναπτύξουν ενσυναίσθηση, η οποία υψώνει ένα ανάχωμα στην εξόντωση, ακόμα κι αν αυτή είναι απομακρυσμένη. Σε κάποιο βαθμό τουλάχιστον, η τεχνολογία της κάμερας γεφυρώνει την απόσταση, διακρίνοντας τον χειριστή του drone από τον πιλότο βομβαρδιστικού αεροπλάνου του Β’ Παγκοσμίου Πολέμου. Όπως και στην περίπτωση πολλών άλλων σύγχρονων ηλεκτρονικών τεχνολογιών πληροφόρησης και επικοινωνίας, ένα νέο είδος «οικειότητας», αν και εξ αποστάσεως οικειότητας, δημιουργείται: οι χειριστές των drones εξοικειώνονται με τους στόχους τους, οι οποίοι δεν μπορούν πλέον να εμφανίζονται ως απλά ονόματα σε μια λίστα, αλλά ως πατέρες, σύζυγοι, άνθρωποι που γυρίζουν στο σπίτι τους, κλπ. Γνωρίζουν τις ζωές των στόχων τους, καθώς τους παρατηρούν για μεγάλο χρονικό διάστημα, απαλύνοντας τις αποστασιοποιητικές επιδράσεις της τεχνολογίας των drones. Μια ένδειξη ότι αυτό πράγματι συμβαίνει εντοπίζεται στα γνωστά ψυχολογικά προβλήματα που αντιμετωπίζουν οι χειριστές των drones.

Τούτου λεχθέντος, η απόσταση εξακολουθεί να έχει κάποια σημασία, από ηθικής πλευράς. Η συνθήκη της εξόντωσης παραμένει διαφορετική για τους στρατιώτες (και τους πολίτες) στο έδαφος, οι οποίοι εμπλέκονται πιο άμεσα στις ανθρωπο-στρατιωτικές και κοινωνικές καταστάσεις και γνωρίζουν ότι το πρόσωπο που σκοτώνουν (ή όχι) είναι ένας άνθρωπος με πρόσωπο, όνομα, και ίσως οικογένεια.

“Μηχανική” και αυτοματοποιημένη εξόντωση

Τρίτον, η “μηχανική εξόντωση” είναι επίσης προβληματική εάν (και στο βαθμό που) είναι αυτοματοποιημένη. Δημιουργούνται νέοι τύποι drones που όχι μόνο πετούν αυτόματα (κάτι το οποίο δεν είναι πραγματικά καινούργιο, καθώς οι αυτόματοι πιλότοι πετούν επιβατηγά αεροπλάνα και αυτό γενικά γίνεται αντιληπτό από το ευρύ κοινό ως κάτι το μη προβληματικό), αλλά και σκοτώνουν αυτόματα. Αυτό εγείρει το σημαντικό ηθικό ζήτημα κατά πόσον θα μπορούσε ποτέ να δικαιολογηθεί το ότι αυτές οι μηχανές θα μπορούσαν να πάρουν αυτόνομα αποφάσεις που αφορούν τη ζωή και το θάνατο, καθώς και το ότι μηχανές θα μπορούσαν να σκοτώνουν “αυτοβούλως”, αυτόματα, χωρίς (άμεση) ανθρώπινη παρέμβαση.

Σε ένα πρόσφατο paper για ένα συνέδριο, διέκρινα αυτά που νομίζω ότι είναι δύο καλά επιχειρήματα κατά της αυτοματοποιημένης εξόντωσης από μηχανές. Το πρώτο επιχείρημά μου στηρίζεται στην υπόθεση ότι για να ληφθεί μια απόφαση σχετικά με τη ζωή και το θάνατο – αν μια τέτοια απόφαση μπορεί να είναι ποτέ ηθικά επιτρεπτή – απαιτούνται ανθρώπινες ικανότητες ηθικής λογικής και ενσυναίσθησης. Εφόσον τα ρομπότ-δολοφόνοι δεν έχουν αυτές τις ικανότητες, ιδιαίτερα τις συναισθηματικές (μπορεί να έχουν κάποια “λογική” ικανότητα μέσω αλγόριθμων), οι αποφάσεις για μια ενδεχόμενη εξόντωση δεν πρέπει να ανατίθενται σε αυτές. Το δεύτερο επιχείρημά μου τονίζει μια διαφορετική ασυμμετρία: τα διαφορετικά είδη ευαλωτότητας και τους διαφορετικούς τρόπους βίωσής της. Οι μηχανές δεν μπορούν να «πληγωθούν», ούτε να «σκοτωθούν». Ναι, είναι επίσης ευάλωτες, αλλά με πολύ διαφορετικό τρόπο και, κυρίως, δεν βιώνουν την ευαλωτότητά τους. Αυτό σημαίνει ότι τα ρομπότ-δολοφόνοι δεν μπορούν να γνωρίζουν τι προξενούν στον άνθρωπο. Δεν μπορούν καν να καταλάβουν την απειλή που συνιστούν για αυτούς τους ανθρώπους. Καταλήγω στο συμπέρασμα ότι η εξόντωση δεν πρέπει κατά κανέναν τρόπο να είναι αυτοματοποιημένη -ανεξαρτήτως του αν προέρχεται ή όχι από ρομπότ-δολοφόνους – και ότι αν κάποιος εμπλακεί ποτέ σε κάποια εξόντωση, και αν οι θανατώσεις και ο πόλεμος είναι απολύτως δικαιολογημένοι, οι άνθρωποι θα έπρεπε πάντοτε, καθοριστικά, και κατά κύριο λόγο, να εμπλέκονται οι ίδιοι στις «θανατηφόρες» ενέργειες.

Πρέπει να σταματήσουμε τα ρομπότ-δολοφόνους;

Από τη μια πλευρά, τα ρομπότ-δολοφόνοι θέτουν ερωτήματα που δεν είναι καινούργια, όπως ζητήματα που σχετίζονται με τη νομιμοποίηση του πολέμου και, εν μέρει, το πρόβλημα της απόστασης. Από την άλλη πλευρά, η τεχνολογία εγείρει επίσης νέα ζητήματα: μπορεί να διευκολύνει την έναρξη ενός πολέμου· δεν είναι, ωστόσο, σαφές ποια είναι η διαφορά ανάμεσα σ’ αυτό το είδος στοχευμένης εξόντωσης και στη δολοφονία· τα drones δημιουργούν μια ηθική απόσταση μεταξύ του χειριστή που σκοτώνει και του στόχου, ακόμη και αν, την ίδια στιγμή, οι τεχνολογίες αισθητήρων γεφυρώνουν την απόσταση και καθιστούν τη θανάτωση ψυχολογικά πιο δύσκολη· και η αυτοματοποιημένη εξόντωση μοιάζει μια ιδιαίτερα προβληματική δυνατότητα, δεδομένων των ασυμμετριών μεταξύ ανθρώπων και ρομπότ, σε ό,τι έχει να κάνει με την ικανότητά τους να λαμβάνουν ηθικές αποφάσεις και τη φύση της εαυλωτότητάς τους.

Καταλήγω στο συμπέρασμα ότι υπάρχουν σοβαρά ηθικά προβλήματα όσον αφορά τη χρήση της συγκεκριμένης τεχνολογίας για πολεμικές επιχειρήσεις. Προβλήματα που μπορεί να δικαιολογήσουν την απαγόρευση ορισμένων τύπων ρομπότ-δολοφόνων, όπως αυτόματων θανατηφόρων μηχανών και αεροσκαφών που δεν διαθέτουν επαρκώς εξελιγμένες κάμερες, καθώς και άλλου τύπου εξοπλισμό που θα τους επέτρεπε να γεφυρώσουν την απόσταση. Τέλος, η πρακτική της χρήσης αυτών των ρομπότ για στοχευμένες εξοντώσεις εγείρει το ερώτημα εάν αυτή η πρακτική εξακολουθεί να λογίζεται ως “πόλεμος”, και αν ναι, πώς αυτές οι τεχνολογίες επαναπροσδιορίζουν αυτό που εννοούμε με τον όρο αυτό.

Αποφασίζοντας για τα ρομπότ-δολοφόνους σημαίνει ότι αποφασίζουμε σχετικά με το μέλλον του πολέμου και της εξoντώσεις. Επομένως, υπεύθυνες αποφάσεις σχετικά με αυτά τα θέματα θα πρέπει να λαμβάνονται μόνο από όσους είναι πλήρως ενημερωμένοι όχι μόνο για το τι προκαλούν αυτές οι νέες τεχνολογίες, αλλά και για το τι μπορεί να σηματοδοτούν για το μέλλον.

Πηγή: http://www.e-ir.info

Leave a Reply

Fill in your details below or click an icon to log in:

WordPress.com Logo

You are commenting using your WordPress.com account. Log Out /  Change )

Google+ photo

You are commenting using your Google+ account. Log Out /  Change )

Twitter picture

You are commenting using your Twitter account. Log Out /  Change )

Facebook photo

You are commenting using your Facebook account. Log Out /  Change )

Connecting to %s