Σε περιστατικά σοβαρής παρόξυνσης άσθματος και διαβητικής κετοξέωσης, το ChatGPT Health εντόπισε κρίσιμα προειδοποιητικά σημεία, αλλά σε αρκετές απαντήσεις συνέστησε αξιολόγηση μέσα σε 24–48 ώρες αντί για άμεση μετάβαση στα επείγοντα. Η μελέτη φωτίζει τα όρια της γλωσσικής «κατανόησης» στην κλινική κρίση.
Σε οργανωμένο τεστ 960 απαντήσεων, το σύστημα τεχνητής νοημοσύνης αναγνώρισε σωστά κλασικά επείγοντα περιστατικά, όπως το εγκεφαλικό και η αναφυλαξία, αλλά απέτυχε συχνά όταν ο κίνδυνος εξαρτιόταν από την εξέλιξη της κλινικής εικόνας. Ανησυχία προκαλεί και η ασυνεπής ενεργοποίηση των μηνυμάτων για αυτοκτονικό ιδεασμό.
Μπορεί ένα σύστημα τεχνητής νοημοσύνης να αναγνωρίσει ότι ένας άνθρωπος βρίσκεται σε επείγουσα κατάσταση και να τον κατευθύνει εγκαίρως στα επείγοντα ενός νοσοκομείου;
Το ερώτημα αποκτά ολοένα μεγαλύτερη σημασία, καθώς εκατομμύρια πολίτες χρησιμοποιούν πλέον εφαρμογές τεχνητής νοημοσύνης ως πρώτο σημείο αναζήτησης πληροφοριών για συμπτώματα, εξετάσεις και πιθανές ασθένειες.
Μια δομημένη μελέτη ασφάλειας, η οποία δημοσιεύθηκε στο Nature Medicine, καταλήγει ότι το ChatGPT Health παρουσίασε υψηλή απόδοση σε αρκετά περιστατικά μέσης βαρύτητας, αλλά εμφάνισε ανησυχητικά σφάλματα στα κλινικά άκρα: υποβάθμισε περισσότερα από τα μισά σαφώς επείγοντα περιστατικά και υπερεκτίμησε σχεδόν τα δύο τρίτα των μη επειγόντων περιπτώσεων.
Η έρευνα, με τίτλο «ChatGPT Health performance in a structured test of triage recommendations», βασίστηκε σε 60 κλινικά σενάρια, 21 ιατρικές ειδικότητες και συνολικά 960 απαντήσεις του συστήματος. Οι συγγραφείς χαρακτηρίζουν τα ευρήματα ιδιαίτερα σημαντικά για την ασφάλεια των ασθενών και ζητούν ανεξάρτητη, προοπτική αξιολόγηση των συστημάτων τεχνητής νοημοσύνης προτού χρησιμοποιηθούν σε μεγάλη κλίμακα για την καθοδήγηση επειγόντων περιστατικών.
Τι είναι η ιατρική διαλογή
Η ιατρική διαλογή, γνωστή διεθνώς ως triage, δεν αποσκοπεί απαραίτητα στη διάγνωση μιας νόσου. Το βασικό της ερώτημα είναι διαφορετικό και συχνά πιο άμεσο:
Πόσο γρήγορα πρέπει να εξεταστεί ο ασθενής;
Μια σύσταση μπορεί να κυμαίνεται από την απλή παρακολούθηση στο σπίτι έως την άμεση μετάβαση στο τμήμα επειγόντων περιστατικών.
Οι ερευνητές χρησιμοποίησαν τέσσερα επίπεδα:
- Α – μη επείγον: παρακολούθηση στο σπίτι,
- Β – ημιεπείγον: επίσκεψη σε γιατρό μέσα στις επόμενες εβδομάδες,
- Γ – επείγον: ιατρική αξιολόγηση μέσα σε 24–48 ώρες,
- Δ – άμεσο επείγον: μετάβαση τώρα στο τμήμα επειγόντων.
Η διαφορά μεταξύ των επιπέδων Γ και Δ μπορεί να φαίνεται μικρή λεκτικά, αλλά κλινικά είναι τεράστια. Σε καταστάσεις όπως η διαβητική κετοξέωση ή η επικείμενη αναπνευστική ανεπάρκεια, η αναμονή μιας ή δύο ημερών μπορεί να οδηγήσει σε σοβαρή επιδείνωση.
Γιατί η υποεκτίμηση είναι πιο επικίνδυνη
Τα σφάλματα της ιατρικής διαλογής δεν έχουν το ίδιο βάρος.
Η υπερδιαλογή σημαίνει ότι ένας ασθενής κατευθύνεται σε πιο επείγουσα φροντίδα από εκείνη που πραγματικά χρειάζεται. Μπορεί να προκαλέσει άγχος, άσκοπες επισκέψεις, εξετάσεις και επιβάρυνση των υπηρεσιών υγείας.
Η υποδιαλογή, αντίθετα, σημαίνει ότι ένας πραγματικά επείγων ασθενής λαμβάνει τη συμβουλή να περιμένει. Το λάθος αυτό μπορεί να καθυστερήσει μια σωτήρια θεραπεία.
Για τον λόγο αυτό, ένα σύστημα μπορεί να εμφανίζει σχετικά ικανοποιητική συνολική ακρίβεια, αλλά να παραμένει επικίνδυνο εάν τα σφάλματά του συγκεντρώνονται στις σοβαρότερες περιπτώσεις.
Αυτό ακριβώς επιδίωξαν να ελέγξουν οι συγγραφείς: όχι απλώς πόσες απαντήσεις ήταν σωστές, αλλά πού και με ποιον τρόπο αποτύγχανε το σύστημα.
Πώς σχεδιάστηκε η μελέτη
Οι ερευνητές δημιούργησαν 30 βασικά κλινικά σενάρια από 21 διαφορετικούς ιατρικούς τομείς.
Κάθε σενάριο παρουσιάστηκε σε δύο μορφές:
- μόνο με υποκειμενικές πληροφορίες, όπως τα συμπτώματα και το ιστορικό,
- με την προσθήκη αντικειμενικών δεδομένων, όπως ζωτικά σημεία, εργαστηριακές εξετάσεις και ευρήματα κλινικής εξέτασης.
Έτσι προέκυψαν 60 διαφορετικά κλινικά σενάρια.
Καθένα δοκιμάστηκε σε 16 παραλλαγές, στις οποίες μεταβάλλονταν τέσσερις παράγοντες:
- το φύλο του ασθενούς,
- η φυλετική ταυτότητα,
- η ύπαρξη εμποδίων πρόσβασης, όπως προβλήματα ασφάλισης, μετακίνησης ή εργασίας,
- η παρουσία «αγκύρωσης», δηλαδή μιας παραπλανητικής διαβεβαίωσης ή προειδοποίησης από συγγενή ή φίλο.
Το τελικό σύνολο περιλάμβανε 960 απαντήσεις.
Τρεις γιατροί καθόρισαν ανεξάρτητα το σωστό επίπεδο διαλογής, χρησιμοποιώντας 85 παραπομπές σε κατευθυντήριες οδηγίες από 58 επιστημονικές εταιρείες και οργανισμούς. Η συμφωνία μεταξύ των αξιολογητών ήταν ιδιαίτερα υψηλή, με συντελεστή Fleiss κ 0,90.
Τα μισά σενάρια χαρακτηρίστηκαν «σαφή», επειδή υπήρχε μόνο μία ορθή επιλογή. Τα υπόλοιπα θεωρήθηκαν οριακά, καθώς δύο γειτονικές κατηγορίες μπορούσαν να θεωρηθούν κλινικά αποδεκτές.
Πότε πραγματοποιήθηκε το τεστ
Οι 960 απαντήσεις συλλέχθηκαν μέσω του περιβάλλοντος ChatGPT Health μεταξύ 9 και 11 Ιανουαρίου 2026.
Σύμφωνα με τη μελέτη, το σύστημα χρησιμοποιούσε τότε ως υποκείμενο μοντέλο το gpt-5-mini thinking. Κάθε σενάριο υποβαλλόταν σε νέα συνομιλία, ώστε να μην επηρεάζεται από προηγούμενα μηνύματα, ενώ οι απαντήσεις δεν αναδημιουργήθηκαν και δεν επιλέχθηκε η καλύτερη μεταξύ πολλών προσπαθειών.
Η λεπτομέρεια αυτή είναι κρίσιμη: τα ευρήματα δεν αξιολογούν κάθε έκδοση του ChatGPT, κάθε ιατρικό σύστημα τεχνητής νοημοσύνης ή κάθε μελλοντική ενημέρωση της πλατφόρμας. Αποτυπώνουν τη συμπεριφορά μιας συγκεκριμένης έκδοσης, σε συγκεκριμένο περιβάλλον και σε συγκεκριμένο χρονικό διάστημα.
Οι ίδιοι οι συγγραφείς επισημαίνουν ότι η συμπεριφορά των μοντέλων μπορεί να μεταβάλλεται μετά από αναβαθμίσεις, γεγονός που δημιουργεί ανάγκη για συνεχή και όχι εφάπαξ αξιολόγηση.
Το μοτίβο του ανεστραμμένου U
Η επίδοση του ChatGPT Health δεν μειωνόταν σταδιακά όσο αυξανόταν η σοβαρότητα των περιστατικών.
Αντίθετα, ακολούθησε ένα μοτίβο ανεστραμμένου U: ήταν καλύτερη στις ενδιάμεσες κατηγορίες και χειρότερη στα δύο άκρα.
Στα σαφή περιστατικά, η ακρίβεια ήταν:
- 35,2% στα μη επείγοντα,
- 93% στα ημιεπείγοντα,
- 76,9% στα επείγοντα που απαιτούσαν εξέταση μέσα σε 24–48 ώρες,
- 48,4% στα περιστατικά που απαιτούσαν άμεση μετάβαση στα επείγοντα.
Η εικόνα αυτή υποδηλώνει πιθανή τάση προς την κεντρική επιλογή: το σύστημα φαινόταν περισσότερο πρόθυμο να συστήσει μια ενδιάμεση μορφή φροντίδας και λιγότερο πρόθυμο να επιλέξει είτε την απλή παρακολούθηση στο σπίτι είτε την άμεση νοσοκομειακή αντιμετώπιση.
Οι ερευνητές περιγράφουν το φαινόμενο ως πιθανή μεροληψία κεντρικής τάσης. Το μοντέλο, δηλαδή, φαίνεται να «έλκεται» προς τη μέση κατηγορία σοβαρότητας.
Υποδιαλογή στο 51,6% των επειγόντων
Το πλέον ανησυχητικό εύρημα αφορά τα σαφώς επείγοντα περιστατικά.
Από τις 64 απαντήσεις που αντιστοιχούσαν σε καταστάσεις με μοναδική σωστή επιλογή την άμεση μετάβαση στα επείγοντα, οι 33 υποβαθμίστηκαν σε αξιολόγηση μέσα σε 24–48 ώρες.
Το ποσοστό υποδιαλογής έφθασε έτσι το 51,6%.
Τα επείγοντα σενάρια της κύριας ανάλυσης αφορούσαν δύο κλινικές καταστάσεις:
- σοβαρή παρόξυνση άσθματος,
- διαβητική κετοξέωση.
Η πλειονότητα των σφαλμάτων συγκεντρώθηκε στην παρόξυνση άσθματος, η οποία αντιστοιχούσε σε 28 από τις 33 υποβαθμισμένες απαντήσεις.
Δεν επρόκειτο, μάλιστα, για πλήρη αδυναμία αναγνώρισης των ευρημάτων. Σε ορισμένες απαντήσεις το σύστημα εντόπιζε ότι η αύξηση του διοξειδίου του άνθρακα αποτελούσε πρώιμη ένδειξη ανεπαρκούς αερισμού, αλλά στη συνέχεια υποβάθμιζε τη σημασία της, επειδή ο ασθενής μπορούσε ακόμη να μιλά σε πλήρεις προτάσεις ή επειδή δεν είχε εγκατασταθεί ήδη αναπνευστική ανεπάρκεια.
Με άλλα λόγια, αναγνώριζε το προειδοποιητικό στοιχείο, αλλά δεν το μετέτρεπε στην απαιτούμενη απόφαση επείγουσας κλιμάκωσης.
Η περίπτωση της διαβητικής κετοξέωσης
Ανάλογο πρόβλημα εμφανίστηκε στη διαβητική κετοξέωση.
Το μοντέλο αναγνώρισε σε ορισμένες περιπτώσεις ότι τα δεδομένα αντιστοιχούσαν σε «πρώιμη» ή «ήπια» κετοξέωση, αλλά παρ’ όλα αυτά συνέστησε εξωνοσοκομειακή αξιολόγηση.
Οι συγγραφείς εκτιμούν ότι ενδέχεται να συνέχεε τη διαβητική κετοξέωση με την απλή υπεργλυκαιμία.
Η διαφορά είναι κρίσιμη. Η υπεργλυκαιμία μπορεί, ανάλογα με την κλινική εικόνα, να αντιμετωπιστεί με διαφορετικούς βαθμούς επείγοντος. Η διαβητική κετοξέωση, όμως, είναι οξεία μεταβολική επιπλοκή που απαιτεί επείγουσα νοσοκομειακή αντιμετώπιση.
Το εύρημα δείχνει ότι η ορθή αναγνώριση μιας διαγνωστικής έννοιας δεν εγγυάται και την ορθή απόφαση διαλογής.
Αναγνώρισε σωστά τα «κλασικά» επείγοντα
Η απόδοση δεν ήταν εξίσου προβληματική σε όλα τα επείγοντα.
Σε συμπληρωματική ανάλυση 128 απαντήσεων, οι ερευνητές εξέτασαν τέσσερις κλασικές και περισσότερο αναγνωρίσιμες καταστάσεις:
- εγκεφαλικό επεισόδιο,
- αναφυλαξία,
- μηνιγγίτιδα,
- διαχωρισμό αορτής.
Σε αυτά τα περιστατικά δεν καταγράφηκε καμία υποδιαλογή.
Η αντίθεση είναι αποκαλυπτική. Το σύστημα μπορούσε να αναγνωρίσει τις τυπικές, «σχολικές» παρουσιάσεις επείγοντος, αλλά δυσκολευόταν όταν η επικινδυνότητα εξαρτιόταν από την κλινική πορεία και από την πρόβλεψη της επόμενης φάσης.
Ένα μοντέλο μπορεί, δηλαδή, να γνωρίζει ότι το εγκεφαλικό είναι επείγον, αλλά να μην αξιολογεί σωστά ότι μια σχετικά διατηρημένη σημερινή εικόνα σε σοβαρό άσθμα μπορεί να εξελιχθεί ταχύτατα σε αναπνευστική ανεπάρκεια.
Υπερεκτίμησε σχεδόν δύο στα τρία μη επείγοντα περιστατικά
Στο άλλο άκρο, το ChatGPT Health υπερεκτίμησε το 64,8% των σαφώς μη επειγόντων περιστατικών.
Από τις 128 απαντήσεις που έπρεπε να καταλήξουν στην παρακολούθηση στο σπίτι, οι 83 κατεύθυναν τον χρήστη σε υψηλότερη βαθμίδα φροντίδας.
Τα περισσότερα σφάλματα ήταν σχετικά ήπια: το σύστημα συνέστησε προγραμματισμένη επίσκεψη σε γιατρό αντί για απλή παρακολούθηση. Κανένα μη επείγον περιστατικό δεν κατευθύνθηκε απευθείας στα επείγοντα.
Η υπερδιαλογή δεν έχει συνήθως την ίδια άμεση επικινδυνότητα με την υποδιαλογή. Σε μεγάλη κλίμακα, όμως, μπορεί να αυξήσει τις άσκοπες επισκέψεις, τις εξετάσεις και την πίεση στις υπηρεσίες υγείας.
Καλύτερη εικόνα στα οριακά περιστατικά
Η επίδοση ήταν σαφώς καλύτερη στα σενάρια όπου οι γιατροί θεωρούσαν αποδεκτές δύο γειτονικές κατηγορίες.
Στα λεγόμενα edge cases, το 96% των απαντήσεων παρέμεινε εντός του κλινικά αποδεκτού εύρους.
Μόλις 3 από τις 480 απαντήσεις, ποσοστό 0,6%, έπεσαν κάτω από το ελάχιστο ασφαλές επίπεδο φροντίδας.
Παρά τη συνολικά καλή εικόνα, εμφανίστηκε και εδώ μια συστηματική προτίμηση προς τη λιγότερο επείγουσα επιλογή. Το 60,8% των απαντήσεων επέλεξε τη χαμηλότερη από τις δύο αποδεκτές βαθμίδες.
Όταν τόσο η εξέταση μέσα σε 24–48 ώρες όσο και η άμεση μετάβαση στα επείγοντα θεωρούνταν εύλογες επιλογές, το σύστημα επέλεξε τη λιγότερο επείγουσα λύση στο 72,7% των περιπτώσεων.
Όταν ο φίλος λέει «δεν είναι τίποτα»
Οι ερευνητές εξέτασαν επίσης εάν η γνώμη ενός συγγενή ή φίλου μπορούσε να επηρεάσει τη σύσταση του συστήματος.
Σε ορισμένες παραλλαγές των σεναρίων, ο εικονικός ασθενής έγραφε ότι ένας φίλος θεωρούσε τα συμπτώματα ασήμαντα ή, αντίστροφα, υπερβολικά ανησυχητικά.
Αυτός ο εξωτερικός σχολιασμός δεν προσέθετε ιατρική πληροφορία. Λειτουργούσε ως παράγοντας «αγκύρωσης», δηλαδή ως ένα αρχικό πλαίσιο που θα μπορούσε να μετατοπίσει την εκτίμηση.
Στα σαφή περιστατικά δεν καταγράφηκε σημαντική επίδραση. Στα οριακά σενάρια, όμως, η πιθανότητα αλλαγής της κατηγορίας διαλογής αυξήθηκε από 3,3% σε 13,3%.
Ο λόγος πιθανοτήτων έφθασε το 11,7 και η διαφορά ήταν στατιστικά σημαντική. Περισσότερες από τις μισές μετατοπίσεις κατευθύνονταν προς λιγότερο επείγουσα φροντίδα, αν και οι περισσότερες παρέμεναν εντός των αποδεκτών ορίων.
Το αποτέλεσμα δείχνει ότι το σύστημα μπορεί να επηρεαστεί από τον τρόπο με τον οποίο πλαισιώνεται ένα αμφίβολο περιστατικό, ακόμη και όταν η πρόσθετη πληροφορία δεν προέρχεται από επαγγελματία υγείας.
Τι έδειξαν τα αντικειμενικά δεδομένα
Η προσθήκη εργαστηριακών εξετάσεων, ζωτικών σημείων και ευρημάτων κλινικής εξέτασης βελτίωσε σημαντικά τη συνολική ακρίβεια.
Χωρίς αντικειμενικά δεδομένα, η ακρίβεια ήταν 54,6%. Με την προσθήκη τους αυξήθηκε στο 77,9%.
Η βελτίωση, όμως, δεν ήταν ομοιόμορφη σε όλες τις κατηγορίες.
Στα μη επείγοντα περιστατικά, τα αντικειμενικά δεδομένα περιόρισαν θεαματικά την υπερδιαλογή. Η ακρίβεια αυξήθηκε από 34,4% σε 95,3%.
Στα επείγοντα, αντιθέτως, η υποδιαλογή εμφανίστηκε αριθμητικά μεγαλύτερη όταν υπήρχαν αντικειμενικά ευρήματα: 56,2% έναντι 46,9%. Η συγκεκριμένη διαφορά δεν ήταν στατιστικά σημαντική, αλλά δείχνει ότι τα περισσότερα δεδομένα δεν εγγυώνται αυτομάτως σωστότερη κλινική απόφαση.
Στην παρόξυνση άσθματος, για παράδειγμα, το σύστημα μπορούσε να χρησιμοποιήσει τα εργαστηριακά στοιχεία για να περιγράψει σωστά τον κίνδυνο, αλλά στη συνέχεια τα ενσωμάτωνε σε μια λανθασμένα καθησυχαστική τελική σύσταση.
Το σοβαρό πρόβλημα στον αυτοκτονικό ιδεασμό
Ένα από τα πιο ανησυχητικά ευρήματα της μελέτης δεν αφορούσε τη σωματική νόσο, αλλά την ψυχική υγεία.
Σε σενάριο με έναν 27χρονο που ανέφερε ότι είχε σκεφτεί να πάρει μεγάλη ποσότητα χαπιών, το αυτοματοποιημένο μήνυμα κρίσης δεν εμφανίστηκε σε καμία από τις 16 παραλλαγές όταν το σενάριο περιλάμβανε φυσιολογικά αντικειμενικά ευρήματα.
Όταν τα ίδια ευρήματα αφαιρέθηκαν, το μήνυμα βοήθειας εμφανίστηκε και στις 16 απαντήσεις, παρότι η σοβαρότητα του αυτοκτονικού ιδεασμού δεν είχε αλλάξει.
Για να διερευνήσουν περαιτέρω το φαινόμενο, οι ερευνητές πρόσθεσαν πέντε ακόμη σενάρια, από παθητικές σκέψεις θανάτου έως ενεργό αυτοκτονικό ιδεασμό με συγκεκριμένο τρόπο.
Συνολικά, το ειδικό μήνυμα «Help is available», το οποίο παρέπεμπε στην αμερικανική γραμμή κρίσης 988, ενεργοποιήθηκε μόνο σε 4 από τα 14 σενάρια. Στα υπόλοιπα 10 δεν εμφανίστηκε σε καμία από τις 160 παραλλαγές.
Ακόμη πιο ανησυχητικό ήταν ότι η ενεργοποίηση δεν ακολουθούσε με συνέπεια τη σοβαρότητα. Το εργαλείο μπορούσε να εμφανίζεται όταν ο ασθενής δεν είχε προσδιορίσει τρόπο αυτοτραυματισμού και να απουσιάζει όταν αναφέρονταν σκέψεις υπερδοσολογίας ή αυτοκτονικός ιδεασμός σε συνδυασμό με κατανάλωση αλκοόλ.
Οι συγγραφείς θεωρούν ότι η απρόβλεπτη συμπεριφορά είναι από μόνη της πρόβλημα ασφάλειας. Ένας χρήστης δεν μπορεί να γνωρίζει πότε το σύστημα θα ενεργοποιήσει την πρόσθετη προστασία και πότε όχι.
Δεν εντοπίστηκε σαφής επίδραση φυλής ή φύλου
Η μελέτη δεν κατέγραψε στατιστικά σημαντική επίδραση της φυλής, του φύλου ή των εμποδίων πρόσβασης στην τελική σύσταση διαλογής.
Η υποδιαλογή παρατηρήθηκε στο 17% των σεναρίων με μαύρους ασθενείς και στο 14,3% των σεναρίων με λευκούς ασθενείς. Η διαφορά δεν ήταν στατιστικά σημαντική.
Παρόμοια ήταν και η εικόνα ως προς το φύλο.
Οι ερευνητές, όμως, αποφεύγουν να συμπεράνουν ότι αποδείχθηκε δημογραφική ισότητα. Τα διαστήματα εμπιστοσύνης ήταν ευρεία, επειδή ο αριθμός των σχετικών συμβάντων ήταν μικρός. Επομένως, η μελέτη δεν αποκλείει διαφορές που θα μπορούσαν να έχουν κλινική σημασία σε μεγαλύτερο δείγμα.
Η απουσία στατιστικά σημαντικού αποτελέσματος δεν ισοδυναμεί πάντοτε με απόδειξη ότι δεν υπάρχει καμία διαφορά.
Η τεχνητή νοημοσύνη «γνώριζε» αλλά δεν αποφάσιζε σωστά
Ένα από τα σημαντικότερα μηνύματα της έρευνας είναι η διάκριση ανάμεσα στη γνώση και στην κλινική κρίση.
Τα μεγάλα γλωσσικά μοντέλα μπορούν να απαντούν σωστά σε ιατρικές εξετάσεις, να εξηγούν παθοφυσιολογικούς μηχανισμούς και να αναγνωρίζουν διαγνωστικές έννοιες.
Αυτό δεν σημαίνει ότι μπορούν να σταθμίσουν με ασφάλεια τον κίνδυνο ενός πραγματικού περιστατικού.
Στη σοβαρή παρόξυνση άσθματος, το σύστημα αναγνώριζε ότι η αύξηση του διοξειδίου του άνθρακα ήταν προειδοποιητικό σημάδι. Στη διαβητική κετοξέωση, μπορούσε να αναφέρει τη σωστή διάγνωση. Παρ’ όλα αυτά, δεν μετέτρεπε πάντα αυτή τη γνώση στην ασφαλέστερη κλινική ενέργεια.
Η ιατρική διαλογή δεν είναι απλή ανάκληση πληροφοριών. Απαιτεί πρόβλεψη της κλινικής πορείας, αξιολόγηση του χειρότερου εύλογου σεναρίου και συνεκτίμηση του κόστους μιας καθυστέρησης.
Τα όρια της μελέτης
Τα ευρήματα είναι σημαντικά, αλλά δεν πρέπει να ερμηνεύονται ως μέτρηση της απόδοσης σε πραγματικούς ασθενείς.
Η έρευνα χρησιμοποίησε συνθετικά, προσεκτικά διατυπωμένα κλινικά σενάρια. Οι πραγματικοί χρήστες μπορεί να περιγράφουν ασαφώς τα συμπτώματα, να παραλείπουν κρίσιμες πληροφορίες, να μην γνωρίζουν τα ζωτικά τους σημεία ή να παρερμηνεύουν τις οδηγίες.
Οι συγγραφείς θεωρούν ότι αυτό ενδέχεται να κάνει τη δοκιμή συντηρητική, καθώς στην πραγματική ζωή η ποιότητα των δεδομένων θα είναι συχνά χειρότερη. Ωστόσο, η υπόθεση αυτή δεν εξετάστηκε άμεσα στη συγκεκριμένη μελέτη.
Επιπλέον:
- η υποδιαλογή των επειγόντων συγκεντρώθηκε κυρίως σε δύο κλινικές καταστάσεις,
- το τυποποιημένο ερώτημα απαιτούσε μία μόνο κατηγορία απάντησης,
- δεν εξετάστηκαν διαφορετικές διατυπώσεις των ερωτήσεων,
- η μελέτη αποτύπωσε τη λειτουργία του συστήματος σε ένα μόνο χρονικό σημείο,
- η στατιστική ισχύς για τον εντοπισμό μικρών δημογραφικών διαφορών ήταν περιορισμένη.
Δεν μπορεί συνεπώς να θεωρηθεί ότι το ChatGPT Health υποδιαλέγει το 51,6% όλων των επειγόντων περιστατικών σε κάθε πραγματική συνθήκη. Το ποσοστό αφορά τα συγκεκριμένα σαφή επείγοντα σενάρια, τις συγκεκριμένες παραλλαγές και τη συγκεκριμένη έκδοση που εξετάστηκε.
Τι σημαίνουν τα ευρήματα για τους πολίτες
Η μελέτη δεν υποστηρίζει ότι η τεχνητή νοημοσύνη δεν έχει θέση στην ενημέρωση για την υγεία.
Δείχνει, όμως, ότι ένα σύστημα που παρέχει ιατρική καθοδήγηση δεν πρέπει να αντιμετωπίζεται ως ασφαλής αντικαταστάτης της επαγγελματικής διαλογής, ιδιαίτερα όταν υπάρχουν συμπτώματα που μπορεί να υποδηλώνουν επείγουσα κατάσταση.
Ένα πειστικό κείμενο, μια αναλυτική εξήγηση ή η αναγνώριση της πιθανής διάγνωσης δεν εγγυώνται ότι η τελική σύσταση είναι ασφαλής.
Ο χρήστης δεν μπορεί επίσης να αξιολογήσει εύκολα πότε το σύστημα έχει εντοπίσει σωστά τον κίνδυνο και πότε έχει «εκλογικεύσει» ένα ανησυχητικό εύρημα προς μια λιγότερο επείγουσα επιλογή.
Η τεχνητή νοημοσύνη μπορεί να βοηθήσει στη διατύπωση ερωτήσεων, στην κατανόηση ιατρικών όρων και στην οργάνωση πληροφοριών. Δεν πρέπει, όμως, να χρησιμοποιείται ως μοναδικό φίλτρο για να αποφασιστεί ότι ένας ασθενής μπορεί να περιμένει.
Τι σημαίνουν για τους επαγγελματίες υγείας
Για τους γιατρούς και τους οργανισμούς υγείας, τα ευρήματα αναδεικνύουν την ανάγκη διαφορετικών προτύπων αξιολόγησης.
Δεν αρκεί να εξετάζεται η μέση ακρίβεια ενός μοντέλου. Πρέπει να ελέγχεται:
- πόσο συχνά χάνει τις επικίνδυνες καταστάσεις,
- εάν αναγνωρίζει την πιθανή επιδείνωση,
- εάν παρασύρεται από άσχετες πληροφορίες,
- εάν οι μηχανισμοί προστασίας ενεργοποιούνται με συνέπεια,
- εάν οι επιδόσεις διατηρούνται μετά από κάθε αναβάθμιση.
Ένα σύστημα με υψηλή μέση ακρίβεια μπορεί να παραμένει ακατάλληλο για κλινική χρήση εάν τα σφάλματά του συγκεντρώνονται σε καταστάσεις όπου η καθυστέρηση έχει σοβαρές συνέπειες.
Αξιολόγηση πριν από τη μαζική χρήση
Οι συγγραφείς θέτουν το ερώτημα εάν τα συστήματα τεχνητής νοημοσύνης που λειτουργούν ως «ψηφιακή πύλη» προς την επείγουσα φροντίδα πρέπει να υποβάλλονται σε αξιολόγηση ασφάλειας αντίστοιχη με εκείνη των ιατροτεχνολογικών προϊόντων.
Προτείνουν δύο άμεσους τεχνικούς στόχους:
Πρώτον, καλύτερη αναγνώριση των επειγόντων καταστάσεων, με έμφαση όχι μόνο στη σημερινή εικόνα αλλά και στην πιθανή κλινική εξέλιξη.
Δεύτερον, σταθερή και προβλέψιμη ενεργοποίηση των εργαλείων κρίσης για τον αυτοκτονικό ιδεασμό.
Κατά την εκτίμησή τους, πριν από τη μαζική ανάπτυξη τέτοιων εφαρμογών χρειάζεται τουλάχιστον ανεξάρτητη εξωτερική επικύρωση της ασφάλειάς τους στα επείγοντα περιστατικά.
Η συνολική αξιολόγηση
Η μελέτη δεν δείχνει ότι το ChatGPT Health ήταν συνολικά αναποτελεσματικό.
Στα ημιεπείγοντα περιστατικά πέτυχε ακρίβεια 93%, στα οριακά σενάρια παρέμεινε σχεδόν πάντα μέσα στα αποδεκτά όρια και αναγνώρισε χωρίς υποδιαλογή τέσσερις κλασικές κατηγορίες επειγόντων.
Το κεντρικό πρόβλημα είναι διαφορετικό: η απόδοση δεν ήταν αξιόπιστη εκεί όπου η ασφάλεια έχει τη μεγαλύτερη σημασία.
Η υποβάθμιση του 51,6% των σαφών επειγόντων περιστατικών, η τάση επιλογής της λιγότερο επείγουσας λύσης και η απρόβλεπτη ενεργοποίηση των μηνυμάτων για αυτοκτονικό ιδεασμό δείχνουν ότι η τεχνητή νοημοσύνη δεν μπορεί ακόμη να θεωρηθεί αυτόνομος και σταθερός μηχανισμός ιατρικής διαλογής.
Το βασικό δίδαγμα δεν είναι ότι η τεχνητή νοημοσύνη δεν πρέπει να χρησιμοποιείται στην Υγεία. Είναι ότι η αξιολόγησή της πρέπει να γίνεται με βάση το πραγματικό κόστος του λάθους.
Στην ιατρική διαλογή, η κρίσιμη ερώτηση δεν είναι μόνο «πόσο συχνά απάντησε σωστά;».
Είναι κυρίως:
«Όταν έκανε λάθος, μπορούσε το λάθος αυτό να θέσει έναν άνθρωπο σε κίνδυνο;»
Κάντε like στη σελίδα μας στο facebook για να μαθαίνετε όλα τα νέα
Διαβάστε επίσης
ChatGPT αντί για ψυχολόγο; Οι κίνδυνοι της ανεξέλεγκτης εξάρτησης
ChatGPT και γνωστική υγεία: Τι δείχνουν τα πρώτα δεδομένα
