Το AI μπορεί να αποτελέσει χρήσιμο εργαλείο ενημέρωσης, αλλά δεν είναι γιατρός και δεν πρέπει να αντιμετωπίζεται ως υποκατάστατο της ιατρικής εξέτασης. Οι ειδικοί προειδοποιούν ότι μια λανθασμένη ή ελλιπής απάντηση μπορεί να οδηγήσει σε καθυστέρηση της διάγνωσης, ακατάλληλη θεραπεία ή επικίνδυνη αυτοθεραπεία.
Το AI δεν καταλαβαίνει πραγματικά τι διαβάζει
Τα σύγχρονα συστήματα τεχνητής νοημοσύνης έχουν εκπαιδευτεί σε τεράστιες ποσότητες κειμένων και δημιουργούν απαντήσεις προβλέποντας ποιες λέξεις είναι πιθανότερο να ακολουθήσουν η μία την άλλη. Αυτό σημαίνει ότι μπορούν να παράγουν ένα κείμενο που ακούγεται επιστημονικό, χωρίς να έχουν πραγματική κατανόηση της κατάστασης του ανθρώπου που βρίσκεται απέναντί τους.
Η πειστική διατύπωση δεν αποτελεί εγγύηση ορθότητας. Ένα σύστημα μπορεί να συνδυάσει σωστές πληροφορίες με ανακριβή στοιχεία και να παρουσιάσει ολόκληρη την απάντηση με την ίδια αυτοπεποίθηση, δυσκολεύοντας τον χρήστη να ξεχωρίσει το αξιόπιστο από το λανθασμένο.
Οι λεγόμενες «παραισθήσεις» μπορεί να γίνουν επικίνδυνες
Ένα από τα σοβαρότερα προβλήματα είναι οι απαντήσεις που φαίνονται αληθινές, αλλά περιλαμβάνουν κατασκευασμένα δεδομένα, ανύπαρκτες μελέτες ή λάθος ιατρικούς ισχυρισμούς.
Ο Παγκόσμιος Οργανισμός Υγείας έχει επισημάνει ότι τα μεγάλα μοντέλα τεχνητής νοημοσύνης μπορεί να παράγουν ψευδείς, ανακριβείς, μεροληπτικές ή ελλιπείς πληροφορίες. Στην υγεία, ένα τέτοιο λάθος δεν είναι απλώς μια αστοχία. Μπορεί να κάνει έναν ασθενή να υποτιμήσει ένα επείγον σύμπτωμα, να διακόψει μια θεραπεία ή να πάρει ένα φάρμακο που δεν είναι κατάλληλο για εκείνον.
Το ίδιο σύμπτωμα μπορεί να σημαίνει πολλά διαφορετικά πράγματα
Ένας πονοκέφαλος μπορεί να σχετίζεται με κούραση, αφυδάτωση ή ημικρανία, αλλά σε ορισμένες περιπτώσεις μπορεί να αποτελεί ένδειξη ενός σοβαρότερου προβλήματος. Η ιατρική διάγνωση δεν βασίζεται μόνο σε μια περιγραφή. Ο γιατρός αξιολογεί την ηλικία, το ιστορικό, τα φάρμακα, τις συνυπάρχουσες παθήσεις, τη διάρκεια των συμπτωμάτων και τα ευρήματα της κλινικής εξέτασης. Παρατηρεί επίσης τον ασθενή, μετρά ζωτικά σημεία και ζητά τις κατάλληλες εξετάσεις. Καμία συνομιλία με ένα ψηφιακό εργαλείο δεν μπορεί να αντικαταστήσει αυτή τη σύνθετη διαδικασία.
Ο κίνδυνος της καθυστερημένης διάγνωσης
Η πιο σοβαρή συνέπεια μπορεί να μην είναι μια λανθασμένη διάγνωση, αλλά μια καθησυχαστική απάντηση που καθυστερεί την επίσκεψη στον γιατρό. Ένας άνθρωπος με πόνο στο στήθος μπορεί να θεωρήσει ότι πρόκειται για άγχος ή δυσπεψία.
Μια γυναίκα με ασυνήθιστη αιμορραγία μπορεί να πειστεί ότι ευθύνονται οι ορμόνες. Ένας γονιός μπορεί να αντιμετωπίσει στο σπίτι συμπτώματα ενός παιδιού που χρειάζεται άμεση εξέταση. Όταν υπάρχει έντονος πόνος, δυσκολία στην αναπνοή, λιποθυμία, σύγχυση, ξαφνική αδυναμία, σοβαρή αιμορραγία ή γρήγορη επιδείνωση, η αναζήτηση επείγουσας ιατρικής βοήθειας δεν πρέπει να αναβάλλεται.
Οι οδηγίες μπορεί να μην ταιριάζουν στον συγκεκριμένο ασθενή
Ακόμη και όταν μια πληροφορία είναι γενικά σωστή, μπορεί να είναι ακατάλληλη για ένα συγκεκριμένο άτομο. Η δοσολογία ενός φαρμάκου επηρεάζεται από την ηλικία, το βάρος, τη λειτουργία των νεφρών και του ήπατος, τις αλλεργίες και τη λήψη άλλων σκευασμάτων.
Το AI μπορεί να μην εντοπίσει μια επικίνδυνη αλληλεπίδραση ή να μην κατανοήσει ότι μια συνηθισμένη θεραπεία απαγορεύεται κατά την εγκυμοσύνη ή εξαιτίας μιας χρόνιας πάθησης. Κανείς δεν πρέπει να ξεκινά, να διακόπτει ή να αλλάζει τη δόση ενός φαρμάκου βασιζόμενος αποκλειστικά σε απάντηση τεχνητής νοημοσύνης.
Οι προκαταλήψεις περνούν και στους αλγορίθμους
Τα συστήματα μαθαίνουν από δεδομένα που μπορεί να μην εκπροσωπούν ισότιμα όλες τις ηλικίες, τα φύλα και τις πληθυσμιακές ομάδες. Αν οι πληροφορίες εκπαίδευσης περιέχουν ανισότητες ή στερεότυπα, αυτά μπορεί να εμφανιστούν και στις απαντήσεις.
Έτσι, ορισμένα συμπτώματα είναι πιθανό να υποτιμηθούν ή να ερμηνευτούν διαφορετικά ανάλογα με το φύλο, την καταγωγή ή την ηλικία του χρήστη. Η τεχνητή νοημοσύνη δεν είναι αυτομάτως ουδέτερη επειδή βασίζεται σε υπολογισμούς. Η ανθρώπινη εποπτεία παραμένει απαραίτητη για την αναγνώριση και τη διόρθωση αυτών των στρεβλώσεων.
Τα προσωπικά δεδομένα υγείας χρειάζονται ιδιαίτερη προσοχή
Πολλοί χρήστες γράφουν σε εφαρμογές λεπτομέρειες για διαγνώσεις, φάρμακα, ψυχικές δυσκολίες, σεξουαλική υγεία ή αποτελέσματα εξετάσεων, χωρίς να γνωρίζουν πώς αποθηκεύονται και χρησιμοποιούνται αυτές οι πληροφορίες.
Τα δεδομένα υγείας είναι εξαιρετικά ευαίσθητα και η αποκάλυψή τους μπορεί να έχει σοβαρές συνέπειες. Δεν πρέπει να κοινοποιούμε ονοματεπώνυμο, αριθμούς μητρώου, διεύθυνση, φωτογραφίες εγγράφων ή άλλα αναγνωριστικά στοιχεία σε ένα σύστημα, αν δεν γνωρίζουμε με σαφήνεια τους όρους προστασίας και επεξεργασίας των δεδομένων.
Η ενσυναίσθηση δεν δημιουργείται από έναν αλγόριθμο
Ένας γιατρός δεν μεταδίδει μόνο πληροφορίες. Ακούει τον φόβο πίσω από μια ερώτηση, αντιλαμβάνεται τη διστακτικότητα, εξηγεί τις επιλογές και βοηθά τον ασθενή να λάβει μια δύσκολη απόφαση. Το AI μπορεί να μιμηθεί έναν συμπονετικό τόνο, αλλά δεν βιώνει ενσυναίσθηση και δεν αναλαμβάνει ευθύνη για όσα προτείνει. Η θεραπευτική σχέση χτίζεται με εμπιστοσύνη, ανθρώπινη κρίση και λογοδοσία, στοιχεία που δεν μπορούν να αντικατασταθούν από μια καλογραμμένη ψηφιακή απάντηση.
Πώς μπορεί να χρησιμοποιηθεί με μεγαλύτερη ασφάλεια
Η τεχνητή νοημοσύνη μπορεί να βοηθήσει τον ασθενή να κατανοήσει έναν ιατρικό όρο, να οργανώσει τις ερωτήσεις του πριν από ένα ραντεβού ή να ζητήσει μια απλούστερη εξήγηση για γενικές πληροφορίες.
Χρειάζεται, όμως, να ελέγχουμε τις απαντήσεις σε αξιόπιστες πηγές και να ζητάμε από τον γιατρό ή τον φαρμακοποιό να επιβεβαιώσει όσα αφορούν διάγνωση και θεραπεία. Ακόμη και τα επαγγελματικά συστήματα υποστήριξης αποφάσεων πρέπει να επιτρέπουν στον γιατρό να εξετάζει ανεξάρτητα τη βάση των προτάσεών τους και να μην εξαρτάται αποκλειστικά από αυτές, όπως υπογραμμίζει και η αμερικανική Υπηρεσία Τροφίμων και Φαρμάκων.
Βοηθός του γιατρού, όχι αντικαταστάτης του
Η τεχνητή νοημοσύνη έχει τη δυνατότητα να βελτιώσει την ενημέρωση, την έρευνα και την οργάνωση της περίθαλψης. Το πρόβλημα αρχίζει όταν η ευκολία μετατρέπεται σε τυφλή εμπιστοσύνη και ο χρήστης αναθέτει σε ένα σύστημα αποφάσεις που απαιτούν εξέταση, επιστημονική κρίση και προσωπική ευθύνη. Το AI μπορεί να μας βοηθήσει να κάνουμε καλύτερες ερωτήσεις. Τις κρίσιμες απαντήσεις για την υγεία μας, όμως, οφείλουμε να τις αναζητούμε από τον κατάλληλο επαγγελματία.