Η τεχνητή νοημοσύνη αντιμετωπίζει τη «στιγμή Οπενχάιμερ»

Στο διεθνές συνέδριο «Η ανθρωπότητα στο σταυροδρόμι: Η ανθρωπότητα και η πρόκληση της ρύθμισης» στη Βιέννη, έγιναν εκκλήσεις για τη ρύθμιση της χρήσης της τεχνητής νοημοσύνης στα αυτόνομα οπλικά συστήματα (AWS), ενώ η τεχνολογία βρίσκεται ακόμη στα σπάργανα.

Κατά τη διάρκεια των αιώνων, η πρόοδος της τεχνολογίας έχει οδηγήσει σε δραματικές αλλαγές στον τρόπο διεξαγωγής των πολέμων. Εξελίξεις όπως ο χάλυβας, η πυρίτιδα και τελικά η ατομική βόμβα βρήκαν όλες τις αρχικές τους εφαρμογές στον πόλεμο προτού περάσουν σε πολιτικές εφαρμογές.

Η τεχνητή νοημοσύνη αντιστάθηκε στην τάση αυτή. Οι αρχικές εφαρμογές αφορούσαν σε μεγάλο βαθμό εμπορικές εφαρμογές, αλλά οι αμυντικές δυνάμεις είδαν γρήγορα τις δυνατότητες της ΤΝ να μεταμορφώσει και πάλι το πεδίο της μάχης.

Αναφερόμενος στην πρώτη ατομική βόμβα, ο υπουργός Εξωτερικών της Αυστρίας Alexander Schallenberg δήλωσε στους παρευρισκόμενους από 143 χώρες ότι ο κόσμος βρίσκεται μπροστά σε μια «στιγμή Oppenheimer» για να αποφασίσει εάν και πώς η ΤΝ θα πρέπει να χρησιμοποιηθεί σε αυτόνομα όπλα.

Η ώθηση πίσω από την επείγουσα ανάγκη για κανονισμούς δεν ήταν μόνο η πρόβλεψη πιθανών μελλοντικών απειλών, αλλά και η απάντηση στη χρήση της ΤΝ σε τρέχουσες συγκρούσεις.

Ο Schallenberg δήλωσε ότι «τα αυτόνομα οπλικά συστήματα θα γεμίσουν σύντομα τα πεδία μάχης του κόσμου», προειδοποιώντας ότι τώρα είναι «η ώρα να συμφωνήσουμε σε διεθνείς κανόνες και νόρμες για να διασφαλίσουμε τον ανθρώπινο έλεγχο». Προέτρεψε για την ανάγκη περιορισμού της αυτονομίας των όπλων τεχνητής νοημοσύνης, λέγοντας: «Τουλάχιστον ας διασφαλίσουμε ότι η πιο βαθιά και εκτεταμένη απόφαση -ποιος ζει και ποιος πεθαίνει- θα παραμείνει στα χέρια των ανθρώπων και όχι των μηχανών».

Σε δήλωση της αυστριακής κυβέρνησης αναφέρεται: «Τα αυτόνομα οπλικά συστήματα (ΑΟ) εγείρουν βαθιά ερωτήματα από νομικής, ηθικής, ανθρωπιστικής και ασφάλειας πλευράς. Η ανθρωπότητα βρίσκεται σε ένα σταυροδρόμι και πρέπει να ενωθεί για να αντιμετωπίσει τη θεμελιώδη πρόκληση της ρύθμισης αυτών των όπλων».

Αμυντικά δολάρια έναντι της ανθρωπότητας

Οι συνεχιζόμενες συγκρούσεις έχουν οδηγήσει σε αύξηση των αμυντικών προϋπολογισμών σε παγκόσμιο επίπεδο, με τις τιμές των μετοχών αρκετών εταιρειών αμυντικής τεχνολογίας με τεχνητή νοημοσύνη να αυξάνονται σε απάντηση. Οι τεχνολογίες AWS μπορεί να είναι πολύ κερδοφόρες για να απαγορευτούν.

Ο Jaan Tallinn, πρώτος επενδυτής της DeepMind Technologies της Google, δήλωσε ότι «τα κίνητρα της Silicon Valley μπορεί να μην ευθυγραμμίζονται με την υπόλοιπη ανθρωπότητα».

Στην εναρκτήρια ομιλία του στο συνέδριο, ο Ταλίν είπε: «Σας εκλιπαρώ να είστε επιφυλακτικοί απέναντι σε όσους υπόσχονται ακρίβεια και προβλεψιμότητα στα συστήματα που χρησιμοποιούν τεχνητή νοημοσύνη. Έχουμε ήδη δει την Τεχνητή Νοημοσύνη να κάνει λάθη επιλογής με μικρούς και μεγάλους τρόπους.

«Πρέπει να είμαστε εξαιρετικά προσεκτικοί στο να βασιζόμαστε στην ακρίβεια αυτών των συστημάτων, είτε στον στρατιωτικό είτε στον πολιτικό τομέα. Τα τυχαία σφάλματα που προκαλούνται από αυτόνομα όπλα έχουν τη δυνατότητα να πυροδοτήσουν πολέμους που δεν θα έπρεπε ποτέ να διεξάγονται».

Το Ταλίν επεσήμανε ότι ο σχεδιασμός όπλων τεχνητής νοημοσύνης που είναι πιο αξιόπιστα δεν είναι η λύση. Εξήγησε ότι «ακόμη και όταν τα αυτόνομα όπλα γίνουν ικανά να διακρίνουν τέλεια τους ανθρώπους, θα διευκολύνουν σημαντικά τη διεξαγωγή γενοκτονιών και στοχευμένων δολοφονιών που επιδιώκουν συγκεκριμένα ανθρώπινα χαρακτηριστικά».

Σε τελική δήλωση που θα αποσταλεί στον Γενικό Γραμματέα του ΟΗΕ, η ομάδα επιβεβαίωσε την «ισχυρή δέσμευσή της να εργαστεί επειγόντως και με όλους τους ενδιαφερόμενους φορείς για ένα διεθνές νομικό μέσο για τη ρύθμιση των αυτόνομων οπλικών συστημάτων».

Στη δήλωση προστίθεται: «Έχουμε την ευθύνη να δράσουμε και να θέσουμε σε εφαρμογή τους κανόνες που χρειαζόμαστε για την προστασία της ανθρωπότητας… Ο ανθρώπινος έλεγχος πρέπει να υπερισχύει στη χρήση βίας».

Περισσότερα από 115 κράτη-μέλη του ΟΗΕ συμφωνούν στην ανάγκη δεσμευτικών κανονισμών που θα διέπουν τα AWS, αλλά η αποφυγή βέτο από τη Ρωσία, την Κίνα ή τις ΗΠΑ φαίνεται απίθανη.