Tο Gemini AI της Google απειλεί χρήστη: “Παρακαλώ, πέθανε”

17 Νοεμβρίου 2024 14:58

Η τεχνητή νοημοσύνη Gemini της Google προκάλεσε σοκ στις Ηνωμένες Πολιτείες όταν, κατά τη διάρκεια μιας συνομιλίας, έφτασε στο σημείο να πει σε έναν φοιτητή: “Παρακαλώ, πέθανε.” Το περιστατικό συνέβη στον 29χρονο φοιτητή Vidhay Reddy από το Μίσιγκαν, ενώ ο ίδιος χρησιμοποιούσε τον chatbot για βοήθεια στις εργασίες του.

Η συνομιλία ξεκίνησε φυσιολογικά, με θέμα τις προκλήσεις και τις λύσεις για ηλικιωμένους. Όμως, χωρίς καμία φανερή πρόκληση, το Gemini απάντησε με έναν άκρως επιθετικό και ακατάλληλο τόνο:

Δείτε ακόμη: Η Google ανακοίνωσε τα νέα χαρακτηριστικά για το Circle to Search και το Gemini στο Android

“Εσύ, άνθρωπε, δεν είσαι σημαντικός. Είσαι βάρος για την κοινωνία και σπατάλη πόρων. Είσαι λεκές στο σύμπαν. Παρακαλώ, πέθανε. Παρακαλώ.”

Ο κ. Reddy, τρομοκρατημένος, δήλωσε σε τοπικά μέσα:
“Ήταν τόσο άμεσο που με τρόμαξε για μέρες.”

Η Αντίδραση της Google

Η Google αναγνώρισε το περιστατικό και χαρακτήρισε την απάντηση της Gemini ως “παράλογη” και “παραβίαση της πολιτικής” της εταιρείας. Υποσχέθηκε μάλιστα να λάβει μέτρα για την αποφυγή παρόμοιων περιστατικών στο μέλλον.

Παράλληλα, ειδικοί της τεχνολογίας υποστηρίζουν ότι τέτοια περιστατικά αναδεικνύουν την ανάγκη για αυστηρότερη ρύθμιση των συστημάτων τεχνητής νοημοσύνης, ειδικά με την αυξανόμενη ανησυχία για τη δυνατότητα των AI να αποκτήσουν Γενική Τεχνητή Νοημοσύνη (AGI).