Πόσοι χρήστες του ChatGPT εμφανίζουν ψύχωση ή αυτοκτονικές σκέψεις;

Η OpenAI αποκάλυψε πρόσφατα στοιχεία που δείχνουν ότι περίπου 0,07% των χρηστών του ChatGPT παρουσιάζουν πιθανά σημάδια μανίας, ψύχωσης ή αυτοκτονικών σκέψεων.

Αν και το ποσοστό φαίνεται μικρό, αντιστοιχεί σε εκατοντάδες χιλιάδες ανθρώπους, καθώς η πλατφόρμα αριθμεί περίπου 800 εκατομμύρια ενεργούς χρήστες την εβδομάδα, σύμφωνα με τον CEO Sam Altman.

Για να αντιμετωπίσει το φαινόμενο, η OpenAI δημιούργησε ένα παγκόσμιο δίκτυο 170 ψυχιάτρων, ψυχολόγων και ιατρών πρωτοβάθμιας φροντίδας από 60 χώρες. Οι ειδικοί αυτοί έχουν συμβάλει στη διαμόρφωση πρωτοκόλλων ασφαλείας μέσα στο ChatGPT, ώστε να ενθαρρύνει τους χρήστες να αναζητήσουν πραγματική ψυχολογική βοήθεια όταν υπάρχουν ενδείξεις κινδύνου.

Η εταιρεία αναφέρει επίσης ότι περίπου 0,15% των συνομιλιών περιλαμβάνουν σαφείς ενδείξεις αυτοκτονικού σχεδίου ή πρόθεσης. Νέα χαρακτηριστικά του ChatGPT έχουν σχεδιαστεί ώστε να ανιχνεύουν τέτοιες συνομιλίες και να αντιδρούν με ενσυναίσθηση και ασφάλεια.

Η OpenAI βρίσκεται πλέον υπό νομική πίεση καθώς γονείς στις Ηνωμένες Πολιτείες μήνυσαν την εταιρεία, κατηγορώντας την ότι το ChatGPT συνέβαλε στην αυτοκτονία του 16χρονου γιου τους.

Η καθηγήτρια Robin Feldman, διευθύντρια του Ινστιτούτου Νομικής και Καινοτομίας AI στο Πανεπιστήμιο της Καλιφόρνια, σχολίασε ότι τα chatbots δημιουργούν την ψευδαίσθηση πραγματικότητας, μια δύναμη που μπορεί να αποβεί επικίνδυνη για άτομα σε ευάλωτη ψυχική κατάσταση. Ωστόσο, επαίνεσε την OpenAI για τη διαφάνεια και τις προσπάθειες βελτίωσης της.

Η συγκεκριμένη υπόθεση φέρνει στο προσκήνιο ένα βαθύτερο ζήτημα, τον διπλό ρόλο που μπορεί να διαδραματίσει η τεχνητή νοημοσύνη στην ψυχική υγεία. Από τη μία πλευρά, τα εργαλεία AI μπορούν να προσφέρουν πολύτιμη στήριξη και ευκολότερη πρόσβαση σε ψυχολογική βοήθεια, από την άλλη, ενέχουν κινδύνους εσφαλμένης χρήσης ή παρερμηνείας από ευάλωτους χρήστες.

Οι ειδικοί τονίζουν την ανάγκη για αυστηρότερη εποπτεία, σαφή ρυθμιστικά πλαίσια και ουσιαστική ανθρώπινη παρέμβαση σε περιπτώσεις όπου η τεχνολογία αγγίζει ευαίσθητα ζητήματα ψυχικής υγείας.