Κατευθυντήριες γραμμές για την Τεχνητή Νοημοσύνη στον χώρο της υγειονομικής περίθαλψης

Σύμφωνα με μια νέα μελέτη, οι ηθικές κατευθυντήριες γραμμές απουσιάζουν επιδεικτικά, καθώς η τεχνητή νοημοσύνη συνεχίζει να μεταμορφώνει την υγειονομική περίθαλψη, από την ανακάλυψη φαρμάκων έως την ανάλυση ιατρικών εικόνων.

Η μελέτη των Joschka Haltaufderheide και Robert Ranisch από το Πανεπιστήμιο του Πότσνταμ, που δημοσιεύθηκε στο njp Digital Communications, ανέλυσε 53 άρθρα για να χαρτογραφήσει το ηθικό τοπίο γύρω από τα μεγάλα γλωσσικά μοντέλα (LLM) στην ιατρική και την υγειονομική περίθαλψη.

Διαπίστωσε ότι η τεχνητή νοημοσύνη χρησιμοποιείται ήδη σε διάφορους τομείς της υγειονομικής περίθαλψης, μεταξύ άλλων:

• Ερμηνεία διαγνωστικών απεικονίσεων
• Ανάπτυξη και ανακάλυψη φαρμάκων
• Εξατομικευμένος σχεδιασμός θεραπείας
• Διαλογή ασθενών και αξιολόγηση κινδύνου
• Ιατρική έρευνα και ανάλυση βιβλιογραφίας

Τα πρόσφατα επιτεύγματα της τεχνητής νοημοσύνης στην υγειονομική περίθαλψη και την ιατρική είναι εντυπωσιακές.

Μόλις πρόσφατα, ερευνητές δημιούργησαν ένα μοντέλο για την έγκαιρη ανίχνευση της νόσου Αλτσχάιμερ που μπορεί να προβλέψει με ακρίβεια 80% αν κάποιος θα διαγνωστεί με τη νόσο μέσα σε έξι χρόνια.

Τα πρώτα φάρμακα που παράγονται από την ΤΝ κατευθύνονται ήδη σε κλινικές δοκιμές, ενώ οι εξετάσεις αίματος που λειτουργούν με την ΤΝ μπορούν να ανιχνεύσουν τον καρκίνο από μεμονωμένα μόρια DNA.

Όσον αφορά τα LLM, η OpenAI και η Color Health ανακοίνωσαν πρόσφατα ένα σύστημα για τη βοήθεια των κλινικών ιατρών στη διάγνωση και τη θεραπεία του καρκίνου.

Αν και καταπληκτικές, αυτές οι εξελίξεις δημιουργούν ενθουσιασμό. Μήπως οι κίνδυνοι περνούν απαρατήρητοι;

Εξετάζοντας συγκεκριμένα τα LLM, οι ερευνητές αναφέρουν: “Με την εισαγωγή του ChatGPT, τα Μεγάλα Γλωσσικά Μοντέλα (LLM) έχουν λάβει τεράστια προσοχή στην υγειονομική περίθαλψη. Παρά τα πιθανά οφέλη, οι ερευνητές έχουν υπογραμμίσει διάφορες ηθικές επιπτώσεις“.

Τα πλεονεκτήματα της χρήσης των LLM αποδίδονται στην ικανότητά τους στην ανάλυση δεδομένων, στην παροχή πληροφοριών, στην υποστήριξη της λήψης αποφάσεων ή στον μετριασμό της απώλειας πληροφοριών και στην ενίσχυση της προσβασιμότητας των πληροφοριών.

Ωστόσο, επισημαίνουν επίσης σημαντικές ηθικές ανησυχίες: “Η μελέτη μας εντοπίζει επίσης επαναλαμβανόμενες δεοντολογικές ανησυχίες που συνδέονται με τη δικαιοσύνη, την προκατάληψη, τη διαφάνεια και την ιδιωτικότητα. Μια ξεχωριστή ανησυχία είναι η τάση παραγωγής επιβλαβούς ή πειστικού αλλά ανακριβούς περιεχομένου”.

Αυτό το ζήτημα των “hallucinations”, όπου οι LLM παράγουν αληθοφανείς αλλά πραγματικά ανακριβείς πληροφορίες, είναι ιδιαίτερα ανησυχητικό σε ένα πλαίσιο υγειονομικής περίθαλψης. Στις χειρότερες περιπτώσεις, θα μπορούσε να οδηγήσει σε εσφαλμένες διαγνώσεις ή θεραπεία.

Οι προγραμματιστές τεχνητής νοημοσύνης συχνά δεν μπορούν να εξηγήσουν πώς λειτουργούν τα μοντέλα τους, γνωστό ως “πρόβλημα του μαύρου κουτιού“, οπότε αυτές οι λανθασμένες συμπεριφορές είναι εξαιρετικά δύσκολο να διορθωθούν.

Η μελέτη εγείρει ανησυχητικές ανησυχίες σχετικά με τη μεροληψία στα LLM.

Αναφέρουν ένα συγκεκριμένο παράδειγμα του ChatGPT και του Foresight NLP που δείχνουν φυλετική προκατάληψη έναντι των μαύρων ασθενών. Μια πρόσφατη μελέτη του Yale διαπίστωσε φυλετική μεροληψία στον χειρισμό των ακτινογραφικών εικόνων από το ChatGPT, όταν δόθηκαν φυλετικές πληροφορίες σχετικά με τις σαρώσεις.

Η μεροληψία της LLM έναντι μειονοτικών ομάδων είναι γνωστή και μπορεί να έχει ύπουλες συνέπειες σε ένα πλαίσιο υγειονομικής περίθαλψης.

Οι ανησυχίες για την προστασία της ιδιωτικής ζωής αποτελούν έναν άλλο κίνδυνο: “Η επεξεργασία δεδομένων ασθενών εγείρει ηθικά ζητήματα σχετικά με την εμπιστευτικότητα, την ιδιωτικότητα και την ασφάλεια των δεδομένων”.

Όσον αφορά την αντιμετώπιση των κινδύνων, η ανθρώπινη εποπτεία είναι υψίστης σημασίας. Οι ερευνητές ζητούν επίσης την ανάπτυξη καθολικών ηθικών κατευθυντήριων γραμμών σχετικά με την τεχνητή νοημοσύνη στην υγειονομική περίθαλψη, ώστε να αποφευχθεί η ανάπτυξη επιζήμιων σεναρίων.

Το τοπίο της ηθικής της ΤΝ στην υγειονομική περίθαλψη επεκτείνεται με ταχείς ρυθμούς, καθώς οι ανακαλύψεις συνεχίζουν να έρχονται.