Πολλοί άνθρωποι, όταν αισθανθούν ένα σύμπτωμα, ανοίγουν ένα AI chatbot και ζητούν μια πρώτη εξήγηση. Είναι όμως ασφαλές να βασιστεί κανείς στις απαντήσεις του; Nέα επιστημονική μελέτη, που δημοσιεύθηκε στο περιοδικό Nature Medicine, δείχνει ότι η απάντηση είναι «όχι».
Στη μελέτη συμμετείχαν 1.298 άτομα από το Ηνωμένο Βασίλειο. Οι συμμετέχοντες κλήθηκαν να αντιμετωπίσουν δέκα διαφορετικά ιατρικά σενάρια, όπως θα συνέβαινε στην πραγματική ζωή.
- Έπρεπε να απαντήσουν σε δύο βασικά ερωτήματα:
- Ποια πάθηση θα μπορούσε να προκαλεί τα συμπτώματα;
Τι πρέπει να κάνουν στη συνέχεια; Να μείνουν στο σπίτι, να επικοινωνήσουν με γιατρό ή να πάνε άμεσα στο νοσοκομείο;
Μερικοί χρησιμοποίησαν εργαλεία τεχνητής νοημοσύνης, ενώ άλλοι αναζήτησαν πληροφορίες με τον τρόπο που θα έκαναν συνήθως, όπως μέσω ιστοσελίδων υγείας ή μιας απλής αναζήτησης στο διαδίκτυο.
Η AI έχει γνώσεις, αλλά η γνώση δεν αρκεί
Τα γλωσσικά μοντέλα απέδειξαν ότι διαθέτουν μεγάλη ιατρική γνώση. Όταν είχαν στη διάθεσή τους όλα τα στοιχεία μιας περίπτωσης, μπορούσαν να αναγνωρίσουν πιθανές παθήσεις σχεδόν στο 95% των περιπτώσεων.
Ωστόσο, όταν έπρεπε να προτείνουν τη σωστή ενέργεια, η επίδοσή τους έπεσε σημαντικά. Οι σωστές συστάσεις δόθηκαν μόλις στο 56% περίπου των περιπτώσεων.
Με απλά λόγια, μπορεί να αναγνώριζαν μια πιθανή διάγνωση, αλλά δεν ήταν πάντα σε θέση να καθοδηγήσουν σωστά τον χρήστη για το τι πρέπει να κάνει.
Το πρόβλημα με τη συνομιλία
Οι ερευνητές διαπίστωσαν ότι το πρόβλημα δεν βρίσκεται μόνο στην AI, αλλά και στον τρόπο που οι άνθρωποι τη χρησιμοποιούν.
Ένας άνθρωπος χωρίς ιατρικές γνώσεις συχνά δεν ξέρει ποια συμπτώματα έχουν σημασία. Μπορεί να ξεχάσει να αναφέρει σημαντικές πληροφορίες ή να κάνει ερωτήσεις που οδηγούν τη συζήτηση προς λάθος κατεύθυνση.
Από την άλλη πλευρά, το chatbot δεν καταλαβαίνει πάντα τι είναι πραγματικά σημαντικό. Σε ορισμένες περιπτώσεις έδινε διαφορετικές συμβουλές σε χρήστες που περιέγραφαν σχεδόν τα ίδια συμπτώματα.
Αυτό είναι ιδιαίτερα ανησυχητικό, γιατί στην ιατρική η συνέπεια και η αξιοπιστία είναι απαραίτητες.
Η ψευδαίσθηση της βεβαιότητας
Ένα ακόμη σημαντικό εύρημα ήταν ότι τα μοντέλα απαντούν με αυτοπεποίθηση και πειστικό τρόπο, ακόμη και όταν κάνουν λάθος.
Πολλοί συμμετέχοντες έτειναν να εμπιστεύονται τις απαντήσεις επειδή το chatbot έδειχνε «σίγουρο» για όσα έλεγε.
Όμως ο σίγουρος τόνος δεν σημαίνει απαραίτητα ότι η συμβουλή είναι σωστή ή ασφαλής.
Το βασικό συμπέρασμα
Η τεχνητή νοημοσύνη μπορεί να βοηθήσει στην αναζήτηση πληροφοριών, αλλά δεν πρέπει να αποτελεί την τελική πηγή λήψης αποφάσεων για θέματα υγείας.
Αν ένα σύμπτωμα είναι έντονο, επιμένει ή προκαλεί ανησυχία, η ασφαλέστερη επιλογή παραμένει η επικοινωνία με έναν επαγγελματία υγείας.
Η τεχνητή νοημοσύνη είναι ένα χρήσιμο εργαλείο. Δεν είναι όμως γιατρός και, σύμφωνα με τα σημερινά επιστημονικά δεδομένα, δεν μπορεί ακόμη να αντικαταστήσει την ιατρική αξιολόγηση και κρίση.