Κορυφαίες εταιρείες τεχνητής νοημοσύνης συμφώνησαν σε μια νέα σειρά εθελοντικών δεσμεύσεων για την ασφάλεια, οι οποίες ανακοινώθηκαν από τις κυβερνήσεις του Ηνωμένου Βασιλείου και της Νότιας Κορέας πριν από μια διήμερη σύνοδο κορυφής για την τεχνητή νοημοσύνη στη Σεούλ. Στο πλαίσιο αυτό εντάχθηκαν 16 εταιρείες τεχνολογίας, μεταξύ των οποίων οι Amazon, Google, Meta, Microsoft, OpenAI, xAI και Zhipu AI.

Είναι το πρώτο πλαίσιο που συμφωνήθηκε από εταιρείες στη Βόρεια Αμερική, την Ευρώπη, τη Μέση Ανατολή (The Technology Innovation Institute) και την Ασία, συμπεριλαμβανομένης της Κίνας (Zhipu AI).

Μεταξύ των δεσμεύσεων, οι εταιρείες δεσμεύονται “να μην αναπτύξουν ή να μην αναπτύξουν καθόλου ένα μοντέλο” εάν δεν μπορούν να διαχειριστούν οι σοβαροί κίνδυνοι.

Οι εταιρείες συμφώνησαν επίσης να δημοσιεύσουν τον τρόπο με τον οποίο θα μετρήσουν και θα μετριάσουν τους κινδύνους που σχετίζονται με τα μοντέλα τεχνητής νοημοσύνης.

Οι νέες δεσμεύσεις έρχονται μετά τη δημοσίευση από διακεκριμένους ερευνητές ΤΝ, συμπεριλαμβανομένων των Yoshua Bengio, Geoffrey Hinton, Andrew Yao και Yuval Noah Harari, ενός άρθρου στο Science με τίτλο Managing extreme AI risks amid rapid progress.

Το εν λόγω έγγραφο διατύπωσε διάφορες συστάσεις που βοήθησαν στην καθοδήγηση του νέου πλαισίου ασφαλείας:

• Εποπτεία και ειλικρίνεια: Ανάπτυξη μεθόδων για να διασφαλιστεί ότι τα συστήματα τεχνητής νοημοσύνης είναι διαφανή και παράγουν αξιόπιστα αποτελέσματα.
• Ανθεκτικότητα: Διασφάλιση της προβλέψιμης συμπεριφοράς των συστημάτων ΤΝ σε νέες καταστάσεις.
• Ερμηνευσιμότητα και διαφάνεια: Κατανόηση των διαδικασιών λήψης αποφάσεων ΤΝ.
• Ανάπτυξη ΤΝ χωρίς αποκλεισμούς: Μετριασμός των προκαταλήψεων και ενσωμάτωση διαφορετικών αξιών.
• Αξιολόγηση για επικίνδυνες ενέργειες: Ανάπτυξη αυστηρών μεθόδων για την αξιολόγηση των δυνατοτήτων της ΤΝ και την πρόβλεψη των κινδύνων πριν από την ανάπτυξη.
• Αξιολόγηση της ευθυγράμμισης της ΤΝ: Διασφάλιση της ευθυγράμμισης των συστημάτων ΤΝ με τους επιδιωκόμενους στόχους και της μη επιδίωξης επιβλαβών στόχων.
• Αξιολογήσεις κινδύνων: Ολοκληρωμένη αξιολόγηση των κοινωνικών κινδύνων που συνδέονται με την ανάπτυξη της ΤΝ.
• Ανθεκτικότητα: Δημιουργία άμυνας έναντι απειλών που βασίζονται στην ΤΝ, όπως οι κυβερνοεπιθέσεις και η κοινωνική χειραγώγηση.

Η Anna Makanju, αντιπρόεδρος των παγκόσμιων υποθέσεων του OpenAI, δήλωσε σχετικά με τις νέες συστάσεις: “Ο τομέας της ασφάλειας της τεχνητής νοημοσύνης εξελίσσεται γρήγορα και είμαστε ιδιαίτερα χαρούμενοι που υποστηρίζουμε την έμφαση που δίνουν οι δεσμεύσεις στη βελτίωση των προσεγγίσεων παράλληλα με την επιστήμη. Παραμένουμε προσηλωμένοι στη συνεργασία με άλλα ερευνητικά εργαστήρια, εταιρείες και κυβερνήσεις για να διασφαλίσουμε ότι η τεχνητή νοημοσύνη είναι ασφαλής και ωφελεί όλη την ανθρωπότητα”.

Ο Michael Sellitto, επικεφαλής του τμήματος παγκόσμιων υποθέσεων της Anthropic, σχολίασε παρόμοια: “Οι δεσμεύσεις για την ασφάλεια της Frontier AI υπογραμμίζουν τη σημασία της ασφαλούς και υπεύθυνης ανάπτυξης των μοντέλων των συνόρων. Ως οργανισμός με επίκεντρο την ασφάλεια, έχουμε θέσει ως προτεραιότητα την εφαρμογή αυστηρών πολιτικών, τη διεξαγωγή εκτεταμένων κόκκινων ομάδων και τη συνεργασία με εξωτερικούς εμπειρογνώμονες για να διασφαλίσουμε ότι τα μοντέλα μας είναι ασφαλή. Αυτές οι δεσμεύσεις αποτελούν ένα σημαντικό βήμα προς τα εμπρός για την ενθάρρυνση της υπεύθυνης ανάπτυξης και ανάπτυξης της τεχνητής νοημοσύνης”.

Ένα άλλο εθελοντικό πλαίσιο

Αυτό αντικατοπτρίζει τις “εθελοντικές δεσμεύσεις” που αναλήφθηκαν στο Λευκό Οίκο τον Ιούλιο του περασμένου έτους από τις Amazon, Anthropic, Google, Inflection AI, Meta, Microsoft και OpenAI για την ενθάρρυνση της ασφαλούς, ασφαλούς και διαφανούς ανάπτυξης της τεχνολογίας τεχνητής νοημοσύνης. Αυτοί οι νέοι κανόνες αναφέρουν ότι οι 16 εταιρείες θα “παρέχουν δημόσια διαφάνεια” σχετικά με τις εφαρμογές τους για την ασφάλεια, εκτός εάν αυτό μπορεί να αυξήσει τους κινδύνους ή να αποκαλύψει ευαίσθητες εμπορικές πληροφορίες δυσανάλογα προς τα κοινωνικά οφέλη.

Ο πρωθυπουργός του Ηνωμένου Βασιλείου Ρίσι Σουνάκ δήλωσε: “Είναι παγκόσμια πρωτοτυπία να έχουμε τόσες πολλές κορυφαίες εταιρείες τεχνητής νοημοσύνης από τόσα διαφορετικά μέρη του πλανήτη, οι οποίες συμφωνούν στις ίδιες δεσμεύσεις για την ασφάλεια της τεχνητής νοημοσύνης”. Πρόκειται για παγκόσμια πρωτοτυπία, διότι επιχειρήσεις πέραν της Βόρειας Αμερικής, όπως η Zhipu.ai, προσχώρησαν σε αυτήν.

Ωστόσο, οι εθελοντικές δεσμεύσεις για την ασφάλεια της ΤΝ είναι στη μόδα εδώ και αρκετό καιρό. Υπάρχει μικρός κίνδυνος για τις εταιρείες ΤΝ να συμφωνήσουν σε αυτές, καθώς δεν υπάρχουν μέσα για την επιβολή τους. Αυτό δείχνει επίσης πόσο αμβλύ εργαλείο είναι όταν έρθει η ώρα της πίεσης.

Ο Dan Hendrycks, σύμβουλος ασφάλειας της νεοφυούς επιχείρησης xAI του Elon Musk, σημείωσε ότι οι εθελοντικές δεσμεύσεις θα βοηθήσουν “να τεθούν τα θεμέλια για συγκεκριμένες εγχώριες ρυθμίσεις”. Δίκαιο σχόλιο, αλλά σύμφωνα με την ίδια την παραδοχή του, δεν έχουμε ακόμη “θέσει τα θεμέλια” όταν επίκεινται ακραίοι κίνδυνοι, σύμφωνα με ορισμένους κορυφαίους ερευνητές.

Δεν συμφωνούν όλοι για το πόσο επικίνδυνη είναι πραγματικά η τεχνητή νοημοσύνη, αλλά το θέμα παραμένει ότι το συναίσθημα πίσω από αυτά τα πλαίσια δεν ευθυγραμμίζεται ακόμη με τις δράσεις.

Τα έθνη σχηματίζουν δίκτυο ασφάλειας ΤΝ

Καθώς η μικρότερη σύνοδος κορυφής για την ασφάλεια της ΤΝ βρίσκεται σε εξέλιξη στη Σεούλ της Νότιας Κορέας, δέκα έθνη και η Ευρωπαϊκή Ένωση (ΕΕ) συμφώνησαν να δημιουργήσουν ένα διεθνές δίκτυο “Ινστιτούτων Ασφάλειας ΤΝ” που υποστηρίζονται από το δημόσιο. Στη συμφωνία “Δήλωση προθέσεων της Σεούλ για διεθνή συνεργασία στην επιστήμη της ασφάλειας της τεχνητής νοημοσύνης” συμμετέχουν χώρες όπως το Ηνωμένο Βασίλειο, οι Ηνωμένες Πολιτείες, η Αυστραλία, ο Καναδάς, η Γαλλία, η Γερμανία, η Ιταλία, η Ιαπωνία, η Νότια Κορέα, η Σιγκαπούρη και η ΕΕ.

Αξιοσημείωτα απούσα από τη συμφωνία ήταν η Κίνα. Ωστόσο, η κινεζική κυβέρνηση συμμετείχε και η κινεζική εταιρεία Zhipu.ai υπέγραψε το πλαίσιο που περιγράφεται παραπάνω. Η Κίνα έχει προηγουμένως εκφράσει την προθυμία της να συνεργαστεί για την ασφάλεια της τεχνητής νοημοσύνης και βρίσκεται σε “μυστικές” συνομιλίες με τις ΗΠΑ.

Αυτή η μικρότερη ενδιάμεση σύνοδος κορυφής έγινε με λιγότερες φανφάρες από την πρώτη, που πραγματοποιήθηκε στο Bletchley Park του Ηνωμένου Βασιλείου τον περασμένο Νοέμβριο.

Ωστόσο, συμμετείχαν αρκετές γνωστές προσωπικότητες της τεχνολογίας, όπως ο Elon Musk, ο πρώην διευθύνων σύμβουλος της Google Eric Schmidt και ο ιδρυτής της DeepMind Sir Demis Hassabis.

Περισσότερες δεσμεύσεις και συζητήσεις θα έρθουν στο φως τις επόμενες ημέρες.