Να βάλει αυστηρά όρια στη χρήση της Τεχνητής Νοημοσύνης ως υποκατάστατο ψυχοθεραπευτή επιχειρεί η Καλιφόρνια, καθώς όλο και περισσότεροι πολίτες —και ιδιαίτερα νέοι— χρησιμοποιούν chatbots για ζητήματα ψυχικής υγείας. Το προτεινόμενο νομοσχέδιο απαγορεύει την προώθηση AI συστημάτων ως «θεραπευτών» και απαιτεί ανθρώπινη εποπτεία για θεραπευτικές αποφάσεις, προκαλώντας ήδη έντονη συζήτηση μεταξύ επαγγελματιών Υγείας, τεχνολογικών εταιρειών και νομοθετών.
Σε μία από τις πιο αυστηρές μέχρι σήμερα παρεμβάσεις απέναντι στη χρήση της Τεχνητής Νοημοσύνης στην ψυχική υγεία προχωρά η Καλιφόρνια, καθώς νομοθέτες της Πολιτείας επιχειρούν να περιορίσουν τη χρήση chatbots ως πλήρους υποκατάστατου επαγγελματία ψυχικής υγείας.
Το επίμαχο νομοσχέδιο, Senate Bill 903, προβλέπει ότι οι εταιρείες δεν θα μπορούν να διαφημίζουν ή να παρουσιάζουν τα chatbots ως υπηρεσίες ψυχοθεραπείας, ενώ τα ίδια τα συστήματα Τεχνητής Νοημοσύνης δεν θα επιτρέπεται να λαμβάνουν θεραπευτικές αποφάσεις χωρίς έλεγχο από αδειοδοτημένο επαγγελματία.
Παράλληλα, θα απαιτείται η ρητή συγκατάθεση του ασθενούς όταν πάροχοι Υγείας χρησιμοποιούν AI για την καταγραφή θεραπευτικών συνεδριών ή για την αρχική διαλογή και αξιολόγηση περιστατικών.
«Η AI δεν μπορεί να αντικαταστήσει τον ανθρώπινο θεραπευτή»
Ο γερουσιαστής της Καλιφόρνιας Steve Padilla, που εισήγαγε τη νομοθετική πρόταση, υποστηρίζει ότι η Τεχνητή Νοημοσύνη μπορεί να προσφέρει σημαντικά οφέλη, μόνο όμως εφόσον χρησιμοποιείται με σαφείς κανόνες και εγγυήσεις ασφάλειας.
Όπως έχει δηλώσει, οι αλγόριθμοι Τεχνητής Νοημοσύνης δεν διαθέτουν την εκπαίδευση, την κλινική κρίση και τις δεξιότητες που απαιτούνται για να αναλάβουν τον ρόλο ενός ανθρώπινου θεραπευτή.
Κατά τον ίδιο, απαιτούνται σαφή «προστατευτικά κιγκλιδώματα» ώστε η Τεχνητή Νοημοσύνη να μην εφαρμόζεται σε ψυχικά ευάλωτους ασθενείς με τρόπο που μπορεί να αποδειχθεί επιβλαβής.
Οι αντιδράσεις από τον τεχνολογικό κλάδο
Η πρόταση, ωστόσο, συναντά αντιδράσεις από εκπροσώπους του κλάδου της τεχνολογίας.
Οι επικριτές του SB 903 υποστηρίζουν ότι οι περιορισμοί μπορεί να εμποδίσουν και νόμιμες, χρήσιμες εφαρμογές της AI, ιδιαίτερα σε μια περίοδο κατά την οποία η Καλιφόρνια —όπως και πολλές άλλες περιοχές— αντιμετωπίζει σοβαρές ελλείψεις επαγγελματιών ψυχικής υγείας.
Ο Robert Boykin, εκπρόσωπος της TechNet στην Καλιφόρνια, υποστηρίζει ότι η υποχρεωτική παρουσία κλινικού σε ορισμένες εφαρμογές μπορεί να δημιουργήσει ένα νέο «σημείο συμφόρησης» στα συστήματα αρχικής αξιολόγησης και διαλογής ασθενών.
Κατά την άποψη των τεχνολογικών εταιρειών, εργαλεία AI μπορούν να χρησιμοποιηθούν υποστηρικτικά για να κατευθύνουν ταχύτερα τους ασθενείς προς τις κατάλληλες υπηρεσίες, χωρίς απαραίτητα να αντικαθιστούν τον γιατρό ή τον θεραπευτή.
Καταγγελία για αυτοματοποιημένες αξιολογήσεις ασθενών
Στο επίκεντρο της συζήτησης έχει βρεθεί και η χρήση αυτοματοποιημένων συστημάτων από μεγάλους παρόχους Υγείας.
Η National Union of Healthcare Workers, η οποία στηρίζει το νομοσχέδιο, έχει υποβάλει καταγγελία στις αρμόδιες αρχές της Καλιφόρνιας, υποστηρίζοντας ότι το σύστημα Υγείας Kaiser Permanente χρησιμοποίησε αυτοματοποιημένο σύστημα «e-visit» για την παροχή αρχικών αξιολογήσεων και συστάσεων σε ασθενείς με συμπτώματα άγχους ή κατάθλιψης χωρίς επαρκή κλινική εποπτεία.
Η Kaiser Permanente έχει απορρίψει τον συγκεκριμένο ισχυρισμό, δηλώνοντας ότι δεν χρησιμοποιεί Τεχνητή Νοημοσύνη για διάγνωση, λήψη κλινικών αποφάσεων ή καθορισμό ιατρικής αναγκαιότητας και υποστηρίζοντας ότι η διαδικασία της έχει παρουσιαστεί με παραπλανητικό τρόπο.
Ένας στους οκτώ νέους έχει χρησιμοποιήσει chatbot για ψυχική υγεία
Η νομοθετική πίεση έρχεται την ώρα που η χρήση των chatbots για θέματα ψυχικής υγείας αυξάνεται με ταχύτητα.
Μελέτη του 2025 από ερευνητές των RAND, Brown University School of Public Health και Harvard University διαπίστωσε ότι περίπου ένας στους οκτώ εφήβους και νεαρούς ενήλικες είχε στραφεί σε chatbots για υποστήριξη σχετικά με την ψυχική του υγεία.
Το εύρημα δείχνει ότι τα συστήματα AI δεν αποτελούν πλέον περιθωριακό εργαλείο αλλά έχουν ήδη ενταχθεί στην καθημερινότητα σημαντικού αριθμού νέων.
Οι επιστήμονες προειδοποιούν, ωστόσο, ότι υπάρχουν ακόμη σοβαρά κενά στην αξιολόγηση της ποιότητας των συμβουλών που δίνουν τα συστήματα.
«Δεν υπάρχουν ακόμη κοινά πρότυπα αξιολόγησης»
Ο Jonathan Cantor, ανώτερος ερευνητής πολιτικής στη RAND, έχει επισημάνει ότι μέχρι σήμερα υπάρχουν ελάχιστα τυποποιημένα κριτήρια με τα οποία μπορεί να αξιολογηθεί η ποιότητα των συμβουλών ψυχικής υγείας που παρέχουν τα chatbots.
Παράλληλα, παραμένει περιορισμένη η διαφάνεια γύρω από τα δεδομένα με τα οποία έχουν εκπαιδευτεί πολλά μεγάλα γλωσσικά μοντέλα.
Αυτό δημιουργεί ερωτήματα σχετικά με:
- την επιστημονική ακρίβεια των απαντήσεων,
- την αναγνώριση κρίσεων,
- την αντιμετώπιση αυτοκτονικού ιδεασμού,
- την προστασία των προσωπικών δεδομένων,
- και το κατά πόσο τα συστήματα μπορούν να αναγνωρίσουν πότε ένας άνθρωπος χρειάζεται άμεση παρέμβαση επαγγελματία.
Το 77% των ψυχολόγων έχει συναντήσει ασθενείς που χρησιμοποίησαν AI
Το φαινόμενο φαίνεται πλέον να έχει περάσει και μέσα στα θεραπευτικά γραφεία.
Σύμφωνα με στοιχεία που επικαλείται το δημοσίευμα από έρευνα της American Psychological Association, το 77% των ψυχολόγων ανέφερε ότι έχει συνομιλήσει με ασθενείς που είχαν χρησιμοποιήσει Τεχνητή Νοημοσύνη για ψυχολογική υποστήριξη, συναισθηματική εκτόνωση, αναζήτηση πληροφοριών ή άλλους σχετικούς λόγους.
Το στοιχείο αυτό υποδηλώνει ότι η AI συχνά χρησιμοποιείται όχι αντί αλλά παράλληλα με την παραδοσιακή θεραπεία.
Για τους ειδικούς, αυτή ακριβώς η πραγματικότητα καθιστά ακόμη πιο επείγουσα τη θέσπιση κανόνων που θα καθορίζουν ποιος είναι ο επιτρεπτός ρόλος ενός chatbot.
Γιατί οι άνθρωποι στρέφονται στα chatbots
Ένας βασικός λόγος είναι η περιορισμένη πρόσβαση στις υπηρεσίες ψυχικής υγείας.
Σε πολλές χώρες υπάρχουν:
- μεγάλες λίστες αναμονής,
- ελλείψεις ψυχολόγων και ψυχιάτρων,
- υψηλό κόστος θεραπείας,
- γεωγραφικά εμπόδια,
- και φόβος κοινωνικού στιγματισμού.
Ο Hamilton Morrin, κλινικός ερευνητής στη νευροψυχιατρική στο King’s College London, έχει επισημάνει ότι δεν προκαλεί έκπληξη το γεγονός πως άνθρωποι που δυσκολεύονται να βρουν πρόσβαση σε θεραπεία καταφεύγουν σε γενετικά συστήματα AI για υποστήριξη της συναισθηματικής τους κατάστασης.
Ένα chatbot είναι διαθέσιμο 24 ώρες το 24ωρο, δεν έχει λίστα αναμονής και μπορεί να προσφέρει άμεση ανταπόκριση.
Αυτά τα χαρακτηριστικά το καθιστούν ιδιαίτερα ελκυστικό σε κάποιον που βρίσκεται σε έντονη συναισθηματική φόρτιση.
Η ανθρώπινη αίσθηση που δημιουργούν τα chatbots
Το ζήτημα γίνεται ακόμη πιο σύνθετο επειδή τα σύγχρονα συστήματα μπορούν να συνομιλούν με εξαιρετικά φυσικό και πειστικό τρόπο.
Μπορούν να θυμούνται στοιχεία μιας συζήτησης, να χρησιμοποιούν συναισθηματική γλώσσα, να δείχνουν φαινομενικά ενσυναίσθηση και να προσαρμόζουν τον τόνο τους στον χρήστη.
Αυτό μπορεί να δημιουργήσει την εντύπωση ότι πίσω από το σύστημα υπάρχει ένας πραγματικός συνομιλητής που «καταλαβαίνει».
Στην πραγματικότητα, όμως, ένα LLM δεν διαθέτει συνείδηση, συναισθήματα ή πραγματική κλινική κατανόηση.
Παράγει απαντήσεις με βάση γλωσσικά και στατιστικά μοτίβα.
Η διαφορά αυτή αποκτά ιδιαίτερη σημασία όταν ο χρήστης είναι ψυχολογικά ευάλωτος.
Τι μπορεί να κάνει χρήσιμα η AI στην ψυχική υγεία
Η συζήτηση δεν αφορά την πλήρη απαγόρευση της AI από τον χώρο της ψυχικής υγείας.
Υπάρχουν πολλές πιθανές υποστηρικτικές εφαρμογές, όπως:
η υπενθύμιση θεραπευτικών ασκήσεων,
η καταγραφή διάθεσης,
η παροχή γενικών πληροφοριών,
η προετοιμασία για μια συνεδρία,
η διαχείριση ραντεβού,
η υποστήριξη κλινικής τεκμηρίωσης,
η αρχική συλλογή πληροφοριών,
και η καθοδήγηση προς διαθέσιμες υπηρεσίες.
Το κρίσιμο ερώτημα είναι σε ποιο σημείο τελειώνει η υποστήριξη και αρχίζει η θεραπευτική απόφαση.
Το νομοσχέδιο της Καλιφόρνιας επιχειρεί ακριβώς να χαράξει αυτή τη γραμμή.
Όταν η συζήτηση αφορά κρίση ή αυτοκτονικό ιδεασμό
Η μεγαλύτερη ανησυχία αφορά τους χρήστες που βρίσκονται σε ψυχική κρίση.
Ένα chatbot μπορεί να δώσει μια φαινομενικά υποστηρικτική απάντηση, αλλά δεν μπορεί να πραγματοποιήσει πλήρη κλινική αξιολόγηση με τον τρόπο που το κάνει ένας εκπαιδευμένος επαγγελματίας.
Δεν μπορεί να παρατηρήσει τη γλώσσα του σώματος, την κινητικότητα, τη συνολική συμπεριφορά ή το κοινωνικό περιβάλλον.
Δεν έχει επίσης τη δυνατότητα να αναλάβει την ίδια επαγγελματική ευθύνη με έναν θεραπευτή, έναν ψυχολόγο ή έναν ψυχίατρο.
Για τον λόγο αυτό, ειδικοί θεωρούν ότι η χρήση AI σε περιστατικά υψηλού κινδύνου απαιτεί ιδιαίτερα αυστηρές δικλίδες ασφαλείας και γρήγορη παραπομπή σε ανθρώπινη υποστήριξη.
Οι δικαστικές υποθέσεις που άνοιξαν τη συζήτηση
Το ζήτημα έχει λάβει και νομικές διαστάσεις.
Κατασκευαστές δημοφιλών εφαρμογών Τεχνητής Νοημοσύνης έχουν βρεθεί αντιμέτωποι με αγωγές στις ΗΠΑ, στις οποίες οικογένειες υποστηρίζουν ότι συνομιλίες με chatbots συνέβαλαν σε επικίνδυνες συμπεριφορές ή συνδέθηκαν με αυτοκτονίες νέων.
Οι καταγγελίες αυτές αποτελούν αντικείμενο δικαστικής διερεύνησης και δεν ισοδυναμούν από μόνες τους με απόδειξη αιτιώδους σχέσης.
Έχουν, όμως, αυξήσει κατακόρυφα την πολιτική και κοινωνική πίεση για αυστηρότερους κανόνες.
Το μεγάλο δίλημμα: Πρόσβαση ή ασφάλεια;
Η Καλιφόρνια βρίσκεται μπροστά σε ένα δύσκολο δίλημμα.
Από τη μία πλευρά, χιλιάδες άνθρωποι δεν έχουν εύκολη πρόσβαση σε επαγγελματίες ψυχικής υγείας και τα chatbots μπορούν να προσφέρουν μία άμεση μορφή υποστήριξης.
Από την άλλη, το να αντιμετωπίζεται ένα μηχανικό σύστημα ως αυτόνομος θεραπευτής δημιουργεί σοβαρούς κινδύνους.
Η πλήρης απαγόρευση μπορεί να περιορίσει χρήσιμες εφαρμογές.
Η ανεξέλεγκτη χρήση, όμως, μπορεί να αφήσει ευάλωτους ανθρώπους να βασίζονται σε ένα σύστημα που δεν διαθέτει πραγματική κλινική κρίση.
Γι’ αυτό το SB 903 επιχειρεί να διατηρήσει τον άνθρωπο μέσα στη θεραπευτική διαδικασία.
Ο θεραπευτής στο επίκεντρο, η AI ως εργαλείο
Η λογική που φαίνεται να διαμορφώνεται διεθνώς είναι ότι η Τεχνητή Νοημοσύνη μπορεί να αποτελέσει εργαλείο ψυχικής υγείας, αλλά όχι αυτόνομο αντικαταστάτη του επαγγελματία.
- Μπορεί να βοηθά στην πρόσβαση.
- Μπορεί να οργανώνει πληροφορίες.
- Μπορεί να υποστηρίζει τον θεραπευτή.
- Μπορεί να λειτουργεί ως συμπληρωματικό εργαλείο μεταξύ συνεδριών.
Αλλά η διάγνωση, η θεραπευτική στρατηγική και η διαχείριση ενός ανθρώπου σε ψυχική κρίση παραμένουν διαδικασίες που απαιτούν επαγγελματική ευθύνη και ανθρώπινη κρίση.
Η νομοθετική μάχη στην Καλιφόρνια πιθανότατα θα αποτελέσει ένα από τα πρώτα μεγάλα τεστ για το πού θα τοποθετηθεί αυτή η διαχωριστική γραμμή στην εποχή της γενετικής Τεχνητής Νοημοσύνης.
Κάντε like στη σελίδα μας στο facebook για να μαθαίνετε όλα τα νέα
Διαβάστε επίσης
Ψυχολογία: Γιατί οι μεσήλικες δεν θέλουν πλέον μεγάλα πάρτι
ChatGPT αντί για ψυχολόγο; Οι κίνδυνοι της ανεξέλεγκτης εξάρτησης
