Η τεχνητή νοημοσύνη, οι δορυφορικές εικόνες, οι ψηφιακοί αισθητήρες και οι διαδικτυακές πλατφόρμες έχουν μεταμορφώσει την επιστημονική έρευνα, επιτρέποντας την επεξεργασία τεράστιων όγκων δεδομένων και την ανάλυση φαινομένων σε πρωτοφανή κλίμακα. Νέα μελέτη, όμως, προειδοποιεί ότι οι επιστήμονες εξαρτώνται όλο και περισσότερο από τεχνολογίες που λειτουργούν ως «μαύρα κουτιά»: παράγουν αποτελέσματα χωρίς οι ερευνητές να μπορούν πάντοτε να γνωρίζουν, να ελέγξουν ή να επαναλάβουν πλήρως τη διαδικασία που οδήγησε σε αυτά.
Η σύγχρονη επιστήμη βασίζεται όλο και περισσότερο σε ισχυρά ψηφιακά εργαλεία που μπορούν να αναλύουν εκατομμύρια δεδομένα, να εντοπίζουν οικολογικές μεταβολές σε ολόκληρες ηπείρους και να αποκαλύπτουν μοτίβα που παλαιότερα ήταν αδύνατο να παρατηρηθούν.
Όμως η αυξανόμενη εξάρτηση από αυτά τα εργαλεία δημιουργεί ένα νέο πρόβλημα για την επιστημονική αξιοπιστία.
Διεθνής ομάδα ερευνητών προειδοποιεί ότι πολλά από τα συστήματα που χρησιμοποιούνται πλέον στην έρευνα λειτουργούν ως «black boxes» – μαύρα κουτιά, στα οποία οι διαδικασίες που παράγουν τα αποτελέσματα παραμένουν εν μέρει ή πλήρως αδιαφανείς.
Τι σημαίνει «μαύρο κουτί» στην επιστήμη
Ο όρος περιγράφει ένα εργαλείο ή μια πηγή δεδομένων που παρέχει ένα αποτέλεσμα, χωρίς ο χρήστης να μπορεί να δει καθαρά:
πώς επεξεργάστηκαν τα δεδομένα,
ποιοι αλγόριθμοι χρησιμοποιήθηκαν,
ποιες παραδοχές έγιναν,
ποιο ήταν το αρχικό dataset,
και γιατί το σύστημα κατέληξε σε μια συγκεκριμένη απάντηση.
Ο Ivan Jarić, ερευνητής στο University of Paris-Saclay και επικεφαλής συγγραφέας της μελέτης, επισημαίνει ότι πολλά από αυτά τα εργαλεία κρατούν τις εσωτερικές τους διαδικασίες κρυφές.
Σε αρκετές περιπτώσεις, όπως σημειώνει, τα συστήματα ανήκουν σε ιδιωτικές εταιρείες που περιορίζουν σκόπιμα την πρόσβαση σε πληροφορίες σχετικά με τον τρόπο λειτουργίας ή επεξεργασίας των δεδομένων τους για λόγους εμπορικού απορρήτου.
Η τεχνητή νοημοσύνη αποτελεί το πιο χαρακτηριστικό παράδειγμα
Ένα από τα σημαντικότερα παραδείγματα που εξετάζει η μελέτη είναι τα μεγάλα γλωσσικά μοντέλα και άλλα συστήματα τεχνητής νοημοσύνης.
Η AI χρησιμοποιείται ήδη για:
ανάλυση τεράστιων βάσεων δεδομένων,
ερμηνεία δορυφορικών εικόνων,
μοντελοποίηση οικοσυστημάτων,
αναγνώριση ειδών,
και επεξεργασία πολύπλοκων περιβαλλοντικών δεδομένων.
Ωστόσο, οι ερευνητές συχνά δεν έχουν πλήρη πρόσβαση στα δεδομένα με τα οποία εκπαιδεύτηκε ένα μοντέλο ή στους αλγορίθμους που καθορίζουν τη συμπεριφορά του.
Οι επιστήμονες μπορεί να μην ξέρουν γιατί η AI έδωσε μια συγκεκριμένη απάντηση
Το πρόβλημα δεν είναι μόνο ότι ο κώδικας μπορεί να είναι ιδιοκτησιακός.
Σε ορισμένες περιπτώσεις, ακόμη και όταν η βασική αρχιτεκτονική είναι γνωστή, ο τρόπος με τον οποίο ένα πολύπλοκο μοντέλο καταλήγει σε μια συγκεκριμένη πρόβλεψη μπορεί να είναι δύσκολο να ερμηνευτεί.
Αυτό σημαίνει ότι ένας ερευνητής μπορεί να χρησιμοποιεί ένα εξαιρετικά ισχυρό εργαλείο χωρίς να μπορεί να εξηγήσει πλήρως γιατί το σύστημα παρήγαγε ένα συγκεκριμένο αποτέλεσμα.
Όσο τα μοντέλα AI γίνονται πιο πολύπλοκα και αυτόνομα, οι συγγραφείς εκτιμούν ότι το πρόβλημα μπορεί να ενταθεί.
Το ζήτημα δεν περιορίζεται στην AI
Η μελέτη υπογραμμίζει ότι το φαινόμενο των «μαύρων κουτιών» εκτείνεται πολύ πέρα από την τεχνητή νοημοσύνη.
Παρόμοια προβλήματα υπάρχουν σε προϊόντα τηλεπισκόπησης και δορυφορικών δεδομένων.
Ορισμένα datasets που χρησιμοποιούν οι επιστήμονες έχουν ήδη υποστεί πολύπλοκη επεξεργασία πριν φτάσουν στον τελικό χρήστη.
Αν η διαδικασία αυτή είναι ιδιοκτησιακή ή μη διαθέσιμη, ο ερευνητής δεν μπορεί να γνωρίζει πλήρως με ποιον τρόπο δημιουργήθηκαν τα δεδομένα που αναλύει.
Ακόμη και τα GPS ζώων μπορεί να κρύβουν τα αρχικά δεδομένα
Οι συγγραφείς αναφέρονται και σε συσκευές παρακολούθησης άγριας ζωής.
Ορισμένα συστήματα tracking δεν παρέχουν στους ερευνητές το ακατέργαστο σήμα που καταγράφουν.
Αντίθετα, δίνουν μόνο επεξεργασμένες συντεταγμένες ή τελικά αποτελέσματα.
Έτσι, οι επιστήμονες μπορεί να γνωρίζουν πού «βρέθηκε» ένα ζώο σύμφωνα με το σύστημα, αλλά να μην μπορούν να ελέγξουν πλήρως:
τα αρχικά δεδομένα,
τα φίλτρα που εφαρμόστηκαν,
ή τον αλγόριθμο που μεταμόρφωσε το σήμα σε τελική θέση.
Οι μηχανές αναζήτησης και τα social media είναι επίσης «μαύρα κουτιά»
Οι διαδικτυακές πλατφόρμες αποτελούν πλέον σημαντική πηγή δεδομένων για την επιστημονική έρευνα.
Ερευνητές μπορούν να χρησιμοποιούν:
μηχανές αναζήτησης,
social media,
δημόσιες αναρτήσεις,
και online συμπεριφορές
για να μελετούν, μεταξύ άλλων, τη βιοποικιλότητα και τις αλληλεπιδράσεις των ανθρώπων με τη φύση.
Ωστόσο, αυτές οι πλατφόρμες λειτουργούν με αλγόριθμους που δεν είναι δημόσιοι.
Οι αλλαγές στους αλγορίθμους μπορούν να αλλάξουν και τα επιστημονικά δεδομένα
Ένα ιδιαίτερο πρόβλημα είναι ότι οι πολιτικές και οι αλγόριθμοι των διαδικτυακών πλατφορμών μπορούν να αλλάζουν συνεχώς.
Μια αλλαγή στον τρόπο κατάταξης ή προβολής περιεχομένου μπορεί να επηρεάσει:
τι βλέπει ο χρήστης,
τι καταγράφεται ως τάση,
και τελικά τι δεδομένα είναι διαθέσιμα στον ερευνητή.
Αυτό μπορεί να εισαγάγει άγνωστες μεροληψίες στα datasets, χωρίς οι επιστήμονες να μπορούν πάντοτε να τις εντοπίσουν.
Πρόβλημα ακόμη και στις κοινωνικές έρευνες
Η ίδια τάση εμφανίζεται και στις κοινωνικές επιστήμες.
Οι ερευνητές χρησιμοποιούν όλο και συχνότερα ιδιωτικές εταιρείες για:
την εύρεση συμμετεχόντων,
τη διεξαγωγή ερωτηματολογίων,
και τη συλλογή δεδομένων.
Όμως οι επιστήμονες μπορεί να έχουν περιορισμένες πληροφορίες σχετικά με:
τον τρόπο επιλογής των συμμετεχόντων,
τον έλεγχο της ποιότητας των απαντήσεων,
ή το κατά πόσο οι απαντήσεις προέρχονται πράγματι από ανθρώπους.
Η AI δημιουργεί νέο ερώτημα ακόμη και για τα ερωτηματολόγια
Οι συγγραφείς θέτουν και ένα ιδιαίτερα σύγχρονο πρόβλημα:
την πιθανότητα ορισμένες απαντήσεις σε online surveys να επηρεάζονται ή να δημιουργούνται από AI agents.
Καθώς τα αυτοματοποιημένα συστήματα γίνονται πιο εξελιγμένα, η διάκριση μεταξύ αυθεντικής ανθρώπινης απάντησης και αυτοματοποιημένης συμμετοχής μπορεί να γίνει δυσκολότερη.
Αυτό μπορεί να δημιουργήσει νέα προβλήματα ποιότητας δεδομένων.
Η αδιαφάνεια δεν οφείλεται μόνο στις εταιρείες
Η καθηγήτρια Karen Anderson από το University of Exeter επισημαίνει ότι το πρόβλημα δεν μπορεί να αποδοθεί αποκλειστικά στα εμπορικά συμφέροντα.
Οι σύγχρονες επιστημονικές τεχνολογίες έχουν γίνει τόσο πολύπλοκες ώστε ακόμη και οι ίδιοι οι χρήστες τους μπορεί να δυσκολεύονται να κατανοήσουν πλήρως τον τρόπο λειτουργίας τους.
Σε ορισμένες περιπτώσεις, όπως σημειώνει, ακόμη και οι developers ενός συστήματος μπορεί να μην μπορούν να εξετάσουν εύκολα κάθε εσωτερική διαδικασία.
Η επιστήμη γίνεται τεχνικά όλο και πιο σύνθετη
Η αυξανόμενη πολυπλοκότητα αποτελεί από μόνη της πηγή αδιαφάνειας.
Ένα σύγχρονο ερευνητικό pipeline μπορεί να περιλαμβάνει:
αισθητήρες,
cloud υποδομές,
AI μοντέλα,
αυτόματη επεξεργασία δεδομένων,
ιδιοκτησιακό λογισμικό,
και πολλαπλά επίπεδα ανάλυσης.
Όσο περισσότερα στάδια παρεμβάλλονται, τόσο δυσκολότερο γίνεται να ελεγχθεί κάθε επιμέρους βήμα.
Η κουλτούρα «publish or perish» ενισχύει την εξάρτηση
Οι ερευνητές υποστηρίζουν ότι η αυξανόμενη χρήση black-box τεχνολογιών ενισχύεται και από την πίεση που δέχονται οι επιστήμονες να δημοσιεύουν γρήγορα και συχνά.
Η γνωστή κουλτούρα «publish or perish» μπορεί να ωθήσει τους ερευνητές σε εργαλεία που:
επιταχύνουν την ανάλυση,
αυξάνουν την παραγωγικότητα,
και επιτρέπουν την επεξεργασία πολύ μεγαλύτερων datasets.
Αυτό όμως μπορεί να συμβαίνει εις βάρος της διαφάνειας.
Τεράστια datasets και περιβαλλοντικές κρίσεις αυξάνουν την πίεση
Οι σύγχρονες επιστημονικές ομάδες καλούνται να αναλύσουν τεράστιες ποσότητες δεδομένων.
Ταυτόχρονα, πολλά πεδία –ιδιαίτερα η οικολογία και η διατήρηση της βιοποικιλότητας– αντιμετωπίζουν επείγουσες κρίσεις.
Η πίεση για γρήγορες απαντήσεις μπορεί να ενισχύσει την εξάρτηση από εργαλεία που προσφέρουν άμεσα αποτελέσματα, ακόμη και όταν δεν είναι πλήρως διαφανή.
Ο μεγαλύτερος κίνδυνος: η αναπαραγωγιμότητα της επιστήμης
Η βασική ανησυχία των συγγραφέων αφορά την αναπαραγωγιμότητα – reproducibility.
Η επιστημονική μέθοδος βασίζεται στην αρχή ότι μια ανάλυση πρέπει, τουλάχιστον θεωρητικά, να μπορεί να επαναληφθεί από ανεξάρτητους ερευνητές.
Αν όμως ένα κρίσιμο στάδιο της ανάλυσης πραγματοποιείται μέσα σε ένα κλειστό σύστημα, αυτό μπορεί να γίνει αδύνατο.
Τι συμβαίνει αν κανείς δεν μπορεί να επαναλάβει το αποτέλεσμα
Αν ένας ερευνητής δεν γνωρίζει:
την ακριβή έκδοση του μοντέλου,
τα training data,
τις ρυθμίσεις,
τα φίλτρα,
ή τον αλγόριθμο επεξεργασίας,
τότε ένας άλλος επιστήμονας μπορεί να μην είναι σε θέση να επαναλάβει την ίδια διαδικασία.
Αυτό υπονομεύει μία από τις βασικές αρχές πάνω στις οποίες στηρίζεται η αξιοπιστία της επιστημονικής γνώσης.
Κίνδυνος σταδιακής απώλειας εμπιστοσύνης
Οι συγγραφείς προειδοποιούν ότι εάν οι επιστημονικές αναλύσεις βασίζονται όλο και περισσότερο σε μη ελέγξιμα εργαλεία, μπορεί σταδιακά να υποχωρήσει και η εμπιστοσύνη στα αποτελέσματα.
Το πρόβλημα γίνεται ιδιαίτερα σημαντικό όταν τα επιστημονικά δεδομένα χρησιμοποιούνται για:
πολιτικές αποφάσεις,
περιβαλλοντικές παρεμβάσεις,
διαχείριση φυσικών πόρων,
ή κρίσιμες κοινωνικές επιλογές.
Κίνδυνος δημιουργίας τεχνολογικών μονοπωλίων
Οι ερευνητές επισημαίνουν επίσης τον κίνδυνο συγκέντρωσης κρίσιμων επιστημονικών υποδομών σε λίγες ιδιωτικές εταιρείες.
Εάν μια μικρή ομάδα εταιρειών ελέγχει:
τα δεδομένα,
τους αλγορίθμους,
την υπολογιστική υποδομή,
και τα εργαλεία ανάλυσης,
τότε η επιστημονική κοινότητα μπορεί να γίνει εξαρτημένη από εμπορικές αποφάσεις που δεν ελέγχει.
Πλήγμα στην ανοικτή επιστήμη
Η τάση αυτή μπορεί να έρχεται σε αντίθεση με τις αρχές της open science – ανοικτής επιστήμης.
Η ανοικτή επιστήμη επιδιώκει:
πρόσβαση στα δεδομένα,
ανοικτό κώδικα,
διαφάνεια στις μεθόδους,
και δυνατότητα ανεξάρτητης επαλήθευσης.
Τα κλειστά συστήματα δυσκολεύουν ή και ακυρώνουν αυτές τις αρχές.
Τι προτείνουν οι επιστήμονες
Οι συγγραφείς προτείνουν σειρά πρακτικών μέτρων για τη μείωση του κινδύνου.
Πρώτη σύσταση είναι η προτίμηση, όπου είναι δυνατόν, σε open-source λογισμικό και hardware.
Η χρήση ανοικτών εργαλείων επιτρέπει στους επιστήμονες να εξετάζουν τον κώδικα και να κατανοούν καλύτερα τον τρόπο λειτουργίας ενός συστήματος.
Σύγκριση των κλειστών εργαλείων με διαφανή datasets
Όταν η χρήση ιδιοκτησιακών συστημάτων είναι αναπόφευκτη, οι ερευνητές συνιστούν benchmarking.
Δηλαδή τα αποτελέσματα ενός κλειστού εργαλείου να συγκρίνονται με:
γνωστά datasets,
διαφανείς μεθόδους,
ή εναλλακτικά εργαλεία.
Με αυτόν τον τρόπο μπορεί να εντοπιστεί αν ένα σύστημα παράγει συστηματικά αποκλίσεις ή μεροληψίες.
Χρήση περισσότερων από μίας μεθόδων
Μία ακόμη πρόταση είναι η σύγκριση των αποτελεσμάτων με πολλαπλές ανεξάρτητες μεθοδολογίες.
Αν διαφορετικά εργαλεία καταλήγουν σε παρόμοια αποτελέσματα, η εμπιστοσύνη στην ανάλυση ενισχύεται.
Αν όμως παράγουν πολύ διαφορετικές απαντήσεις, αυτό αποτελεί προειδοποιητικό σημάδι ότι απαιτείται περαιτέρω διερεύνηση.
Καταγραφή κάθε λεπτομέρειας της ανάλυσης
Οι συγγραφείς τονίζουν επίσης τη σημασία της εξαιρετικά προσεκτικής τεκμηρίωσης.
Οι επιστήμονες θα πρέπει να καταγράφουν όσο το δυνατόν περισσότερο:
τι training data χρησιμοποιήθηκαν,
ποιο pipeline ακολουθήθηκε,
ποια έκδοση του εργαλείου χρησιμοποιήθηκε,
ποιες ρυθμίσεις επιλέχθηκαν,
και ποιοι είναι οι περιορισμοί του συστήματος.
Η τεκμηρίωση αυτή μπορεί να αποδειχθεί κρίσιμη για μελλοντική επανάληψη μιας ανάλυσης.
Οι περιορισμοί πρέπει να δηλώνονται ξεκάθαρα
Ιδιαίτερη έμφαση δίνεται στο να μην παρουσιάζονται τα αποτελέσματα ενός black-box εργαλείου ως απόλυτα.
Οι ερευνητές θα πρέπει να αναφέρουν με σαφήνεια:
τι δεν γνωρίζουν για το σύστημα,
ποια δεδομένα δεν μπορούν να ελέγξουν,
και ποιες πηγές αβεβαιότητας ενδέχεται να επηρεάζουν το αποτέλεσμα.
Ο άνθρωπος πρέπει να παραμένει στο κέντρο
Ο Michael Bertram από το Swedish University of Agricultural Sciences και το Stockholm University υπογραμμίζει ότι η ανθρώπινη εποπτεία πρέπει να παραμένει κεντρική σε ολόκληρη την ερευνητική διαδικασία.
Η χρήση τεχνητής νοημοσύνης ή οποιουδήποτε άλλου αυτοματοποιημένου εργαλείου δεν αφαιρεί την ευθύνη από τους συγγραφείς μιας επιστημονικής μελέτης.
Οι επιστήμονες παραμένουν υπεύθυνοι για τα λάθη της AI
Οι συγγραφείς μιας εργασίας είναι εκείνοι που πρέπει τελικά να αναλάβουν την ευθύνη για:
τα λάθη,
τις αβεβαιότητες,
τις μεροληψίες,
και τα προβλήματα που μπορεί να δημιουργήσει ένα black-box σύστημα.
Το γεγονός ότι ένα αποτέλεσμα παρήχθη από αλγόριθμο δεν αποτελεί επαρκή δικαιολογία για ένα λανθασμένο επιστημονικό συμπέρασμα.
Χρειάζονται και νέοι κανόνες για τις ψηφιακές πλατφόρμες
Οι ερευνητές ζητούν παράλληλα μεγαλύτερη προσπάθεια προς την κατεύθυνση της ανοικτής επιστήμης.
Μεταξύ των προτάσεων είναι και η ανάπτυξη κανονισμών που θα επιτρέπουν στους επιστήμονες καλύτερη πρόσβαση:
στα δεδομένα ψηφιακών πλατφορμών,
στις βασικές μεθόδους επεξεργασίας,
και στις πληροφορίες που απαιτούνται για ανεξάρτητη επιστημονική αξιολόγηση.
Δεν θα γίνουν όλα τα «μαύρα κουτιά» διαφανή
Οι συγγραφείς αναγνωρίζουν ότι ορισμένα συστήματα πιθανότατα θα παραμείνουν κλειστά.
Εμπορικοί περιορισμοί, πνευματική ιδιοκτησία και τεχνική πολυπλοκότητα μπορεί να εμποδίζουν την πλήρη διαφάνεια.
Για αυτό οι επιστήμονες πρέπει να αξιολογούν προσεκτικά το trade-off μεταξύ της χρησιμότητας ενός εργαλείου και του κινδύνου που δημιουργεί η αδιαφάνειά του.
Η AI δεν είναι το πρόβλημα από μόνη της
Η μελέτη δεν υποστηρίζει ότι οι επιστήμονες πρέπει να εγκαταλείψουν την τεχνητή νοημοσύνη ή τα σύγχρονα ψηφιακά εργαλεία.
Αντίθετα, αναγνωρίζει ότι οι τεχνολογίες αυτές μπορούν να προσφέρουν δυνατότητες που μέχρι πρόσφατα ήταν αδύνατες.
Το ζήτημα είναι η άκριτη υιοθέτηση.
Ένα ισχυρό εργαλείο μπορεί να βελτιώσει σημαντικά την επιστήμη μόνο εφόσον οι ερευνητές γνωρίζουν επαρκώς:
τι μπορεί να κάνει,
τι δεν μπορεί να κάνει
και πού μπορεί να κάνει λάθος.
Το νέο δίλημμα της επιστήμης
Η επιστήμη βρίσκεται έτσι μπροστά σε ένα παράδοξο.
Οι πιο προηγμένες τεχνολογίες μπορούν να κάνουν την έρευνα:
ταχύτερη,
ευρύτερη,
ακριβέστερη,
και ικανή να επεξεργαστεί ασύλληπτες ποσότητες πληροφοριών.
Ταυτόχρονα, όμως, μπορούν να κάνουν ορισμένα στάδια της επιστημονικής διαδικασίας λιγότερο διαφανή και δυσκολότερα ελέγξιμα.
Το μεγάλο στοίχημα για τα επόμενα χρόνια θα είναι να αξιοποιηθεί η δύναμη αυτών των εργαλείων χωρίς να θυσιαστούν οι βασικές αρχές πάνω στις οποίες στηρίζεται η επιστήμη:
διαφάνεια, αναπαραγωγιμότητα, ανεξάρτητος έλεγχος και ανθρώπινη ευθύνη.
Κάντε like στη σελίδα μας στο facebook για να μαθαίνετε όλα τα νέα
Διαβάστε επίσης
Κίνδυνος για την όραση από τη διάθεση γυαλιών ηλίου χωρίς επιστημονική παρουσία
Η εξαφάνιση της Melissa Casias και οι φήμες για την επιστημονική κοινότητα
