Η τεχνητή νοημοσύνη έχει ήδη εισέλθει δυναμικά στην καθημερινή ιατρική πρακτική, επηρεάζοντας τη διάγνωση, τη θεραπευτική επιλογή και τη λήψη αποφάσεων. Είναι απαραίτητο λοιπόν, με συνοπτικό και εκπαιδευτικό τρόπο, να αναδειχθούν ορισμένα από τα λιγότερο εμφανή αλλά ουσιαστικά αδιέξοδα που συνοδεύουν αυτή τη μετάβαση.
- Γράφει ο Σπυρίδων Χαλικιάς
Οι αγγλικοί όροι που παρατίθενται σε παρένθεση διατηρούνται επιλεκτικά, καθώς αποτελούν τη βασική γλώσσα της διεθνούς επιστημονικής βιβλιογραφίας και της καθημερινής κλινικής πρακτικής, διευκολύνοντας την εξοικείωση με τη σύγχρονη ιατρική ορολογία.
Η είσοδος της τεχνητής νοημοσύνης (Artificial Intelligence, AI) στην ιατρική υπόσχεται ακρίβεια, ταχύτητα και βελτιστοποίηση της κλινικής απόφασης (clinical decision-making). Ωστόσο, πίσω από αυτή την υπόσχεση αναδύεται ένα σύνολο δομικών αδιεξόδων (structural impasses), που δεν σχετίζονται απλώς με τεχνικούς περιορισμούς (technical limitations), αλλά με τα ίδια τα όρια της γνώσης (epistemic limits) και της ιατρικής πράξης.
Από την υπόσχεση της ακρίβειας στην αβεβαιότητα της πράξης
Πρώτον, η ασυμμετρία μεταξύ μοντέλου και πραγματικότητας (model–reality asymmetry). Τα συστήματα τεχνητής νοημοσύνης (AI systems) λειτουργούν πάνω σε δεδομένα (data) και στατιστικές συσχετίσεις (statistical correlations). Ο άνθρωπος που ασθενεί όμως, δεν είναι ένα σύνολο μεταβλητών, αλλά ένα δυναμικό και εν μέρει απρόβλεπτο υποκείμενο. Καμία βάση δεδομένων (dataset) δεν μπορεί να αποτυπώσει πλήρως την πολυπλοκότητα (complexity) της κατάστασής του. Έτσι, η απόφαση που παράγεται από ένα μοντέλο (model output) είναι αναγκαστικά μερική.
Δεύτερον, το αδιέξοδο της ευθύνης (accountability gap). Όταν ένα σύστημα προτείνει μια θεραπευτική στρατηγική (treatment recommendation) που συγκρούεται με τις κατευθυντήριες οδηγίες (clinical guidelines) ή με την κλινική κρίση (clinical judgment), ποιος φέρει την ευθύνη (responsibility) της τελικής επιλογής; Η τεχνητή νοημοσύνη δεν μπορεί να λογοδοτήσει (cannot be held accountable), ενώ ο ιατρός δεν μπορεί πλέον να αγνοήσει πλήρως την ύπαρξή της. Δημιουργείται έτσι ένα ενδιάμεσο πεδίο αποφάσεων (decision space), όπου η ευθύνη καθίσταται διάχυτη (diffused responsibility).
Τρίτον, η αδιαφάνεια των μοντέλων (model opacity / black-box problem). Πολλά από τα πλέον ισχυρά συστήματα λειτουργούν ως «μαύρα κουτιά» (black-box models), προσφέροντας προβλέψεις (predictions) χωρίς επαρκή αιτιολόγηση (lack of explainability). Όμως η ιατρική δεν είναι μόνο πρόβλεψη· είναι και ερμηνεία (interpretation). Ο ιατρός καλείται να εξηγήσει, να δικαιολογήσει και να συνδιαμορφώσει την απόφαση με τον ασθενή (shared decision-making). Η έλλειψη αυτής της ερμηνείας( υπονομεύει αυτή τη σχέση και διαβρώνει την εμπιστοσύνη.
Τέταρτον, η ενσωματωμένη μεροληψία (algorithmic bias). Τα δεδομένα εκπαίδευσης (training data) αντανακλούν σε συγκεκριμένους πληθυσμούς (population samples) και πρακτικές. Ως αποτέλεσμα, οι αλγόριθμοι μπορεί να αναπαράγουν ή και να ενισχύουν ανισότητες (health disparities), ιδίως σε υποεκπροσωπούμενες ομάδες (underrepresented groups). Η μεροληψία (bias) δεν εμφανίζεται πάντοτε ως προφανές σφάλμα, αλλά συχνά ως επίφαση κανονικότητας (apparent normality).
Πέμπτον, το γνωσιολογικό όριο (epistemological limit). Κάθε υπολογιστικό σύστημα (computational system) λειτουργεί εντός ενός καθορισμένου χώρου υποθέσεων (hypothesis space). Η κλινική πραγματικότητα (clinical reality), αντίθετα, παράγει συνεχώς νέες καταστάσεις (novel conditions) που υπερβαίνουν τα δεδομένα εκπαίδευσης (out-of-distribution cases). Όπως υπαινίσσονται τα θεωρήματα μη πληρότητας του Gödel (Gödel’s incompleteness theorems), κανένα σύστημα δεν μπορεί να είναι ταυτόχρονα πλήρες και συνεπές. Κατ’ αναλογίαν, κανένα μοντέλο δεν μπορεί να καλύψει εξαντλητικά (exhaustively represent) την ιατρική πράξη.
Η ψευδαίσθηση της βεβαιότητας
Τελικά, το μεγαλύτερο αδιέξοδο (core impasse) δεν είναι το σφάλμα της τεχνητής νοημοσύνης, αλλά η ψευδαίσθηση βεβαιότητας (illusion of certainty) που αυτή μπορεί να παράγει. Η αριθμητική ακρίβεια (numerical precision) δημιουργεί την εντύπωση αντικειμενικότητας (perceived objectivity) εκεί όπου παραμένει ουσιώδης αβεβαιότητα (fundamental uncertainty). Η ιατρική, όμως, δεν είναι επιστήμη βεβαιοτήτων· είναι τέχνη λήψης αποφάσεων υπό αβεβαιότητα (decision-making under uncertainty).
Η τεχνητή νοημοσύνη δεν καταργεί το κλινικό δίλημμα · το μετασχηματίζει. Μεταφέρει το ερώτημα από το «ποια είναι η σωστή απόφαση» στο «ποιος αποφασίζει, με ποια γνώση και υπό ποιες ευθύνες» (who decides, with what knowledge, and under which responsibilities). Σε αυτό το νέο πεδίο (emerging landscape), η ανθρώπινη κρίση (human judgment) δεν καθίσταται περιττή· καθίσταται ακόμη πιο αναγκαία.
- Ο Σπυρίδων Χαλικιάς είναι Ιατρός Παθολόγος–Ογκολόγος–Εντατικολόγος, MD, PhD, Διευθυντής στο Γ.Ν. «Έλενα Βενιζέλου» στην Αθήνα. Ασχολείται με την εξατομικευμένη ογκολογία και την ενσωμάτωση της τεχνητής νοημοσύνης στην κλινική πράξη. Είναι πρόεδρος της Διεθνούς Ιατρικής Εταιρείας «Ιατρικό Δίλημμα» και απόφοιτος Ιστορίας και Φιλοσοφίας της Επιστήμης.
Κάντε like στη σελίδα μας στο facebook για να μαθαίνετε όλα τα νέα
Διαβάστε επίσης
Τεχνητή Νοημοσύνη: Ο χαρακτήρας που δεν έχει αλλά επηρεάζει τους χρήστες
Τεχνητή νοημοσύνη και παιδιά: Τα οφέλη, οι κίνδυνοι και οι παγίδες
