EL – Όταν ο αλγόριθμος ΑΙ εντοπίζει καρδιαγγειακό συμβάν και καθησυχάζει, αλλά ο καρδιολόγος ανησυχεί

Αν η τεχνητή νοημοσύνη δώσει μια καθησυχαστική απάντηση, αλλά ο καρδιολόγος υποψιάζεται ότι κάτι δεν πάει καλά, πώς λύνεται η διαφωνία; «Την τελευταία λέξη την έχει ο άνθρωπος», απαντά ο Λεωνίδας Πουλημένος, επισημαίνοντας ότι ο αλγόριθμος είναι εξαιρετικός δεύτερος αναγνώστης, αλλά όχι τελικός κριτής. «Σε μια μελέτη σε υπερηχογράφημα κόπωσης, το stress echo, μηχάνημα και καρδιολόγοι συμφώνησαν μόνο έξι στις δέκα φορές και ακόμη λιγότερο σε ασθενείς με διαβήτη ή υπέρταση. Σε μία στις τέσσερις εξετάσεις ο αλγόριθμος αρνήθηκε να απαντήσει, επειδή δεν έβλεπε την εικόνα αρκετά καλά. Ο λόγος είναι απλός: το μηχάνημα δεν ξέρει ποιοι είστε εσείς, ποιο είναι το ιστορικό σας. Όμως, όταν δούλεψαν μαζί, βρήκαν περισσότερους ασθενείς απ’ ό,τι ο καθένας μόνος του».

Ασφαλιστικές δικλείδες για να μην εμπιστεύεται ο καρδιολόγος άκριτα τον αλγόριθμο

Ο διακεκριμένος επεμβατικός καρδιολόγος περιγράφει τέσσερις δικλείδες ασφαλείας, για τη χρήση της τεχνητής νοημοσύνης στην κλινική πράξη: Πρώτον, κάθε αλγόριθμος πρέπει να συνοδεύεται από σαφή στοιχεία για τους ασθενείς στους οποίους δοκιμάστηκε και την απόδοσή του. Χρειαζόμαστε ετικέτα, όπως στα τρόφιμα: σε ποιους δοκιμάστηκε, πόσο καλά δουλεύει, αναφέρει, διευκρινίζοντας ότι τα γενικά γλωσσικά μοντέλα που χρησιμοποιούμε στους υπολογιστές μας δεν είναι κατάλληλα γι’ αυτή τη δουλειά. Δεύτερον, απαιτείται συνεχής έλεγχος της απόδοσης του αλγορίθμου στους ασθενείς στους οποίους εφαρμόζεται: «Πιστοποίηση, λοιπόν, και επιβεβαίωση». Τρίτον, οι γιατροί πρέπει να είναι εκπαιδευμένοι ώστε να γνωρίζουν τα όρια του αλγόριθμου και να μη θεωρούν ότι η παρουσία του αρκεί για να εξασφαλίσει μια σωστή διάγνωση, τουλάχιστον σήμερα. «Και τέταρτον, χρειάζονται συστήματα που εξηγούν πώς καταλήγουν σε ένα διαγνωστικό συμπέρασμα. Όχι “έκανα λάθος, συγγνώμη”. Γιατί αυτό το “έκανα λάθος, συγγνώμη”, αναφέρεται σε ανθρώπινες ζωές. Ως εκ τούτου, αν η εικόνα των ασθενών, δεν ταιριάζει με τον αλγόριθμο, δεν σταματάμε, ψάχνουμε περισσότερο».

^{ΑΠΕ-ΜΠΕ / photo: pixabay}