Τα υπέρ και τα κατά της Τεχνητής Νοημοσύνης στον τομέα της Υγείας

Τα υπέρ και τα κατά της Τεχνητής Νοημοσύνης στον τομέα της Υγείας, τα οφέλη που προκύπτουν αλλά και οι κίνδυνοι που αναδύονται, αναλύονται στην κοινή γνώμη που εξέδωσαν η Εθνική Επιτροπή Βιοηθικής και Τεχνοηθικής (ΕΕΒΤ) της Ελλάδας και η Εθνική Επιτροπή Βιοηθικής Κύπρου (ΕΕΒΚ).

Η γνώμη επιχειρεί να αναδείξει τις ευκαιρίες που αποφέρει η προβλεπτική αναλυτική και να καταγράψει τις προκλήσεις που μπορούν να μετατρέψουν την προβλεπτική αναλυτική από ευκαιρία σε κίνδυνο.

Οι δύο επιτροπές αποφάσισαν να εκδώσουν από κοινού γνώμη για το αναδυόμενο και κρίσιμο θέμα της «προβλεπτικής αναλυτικής» στον τομέα της Yγείας.

Η προβλεπτική αναλυτική (predic(ve analy(cs) αποτελεί προσέγγιση της Τεχνητής Νοημοσύνης (ΤΝ)1 που έχει ως στόχο τον υπολογισμό της πιθανότητας μελλοντικών γεγονότων ζωής (προβλέψεις), χρησιμοποιώντας δεδομένα, τόσο ιστορικά όσο και πραγματικού χρόνου, στατιστικούς αλγορίθμους και μεθόδους μηχανικής μάθησης.

Όπως αναφέρεται, η προβλεπτική αναλυτική βασίζεται κατά κύριο λόγο στη σύνθεση ετερόκλητων δεδομένων, όπως δεδομένων υγείας, διαμονής, επαγγελματικής απασχόλησης και συνθηκών εργασίας, εκπαιδευτικού υποβάθρου και οικονομικού προφίλ κ.α.

«Ζούμε ήδη στην εποχή της τεχνολογικής πρόβλεψης της ανθρώπινης συμπεριφοράς και δραστηριότητας και η αιτία αυτής της εξέλιξης είναι αφενός η διαθεσιμότητα μεγα-δεδομένων, αφετέρου η ανάπτυξη ισχυρών αλγορίθμων μηχανικής μάθησης», τονίζεται.

Οι προβλέψεις κυμαίνονται από το παγκόσμιο και το πληθυσμιακό επίπεδο, όπως η πρόβλεψη του φαινομένου του θερμοκηπίου και η πρόβλεψη της εξάπλωσης μεταδοτικών νοσημάτων (π.χ. COVID 19)3 αντίστοιχα, μέχρι την εξατομικευμένη πρόβλεψη του κινδύνου θνησιμότητας ασθενή (π.χ. από χρόνια αποφρακτική πνευμονοπάθεια)

Η γνώμη επιχειρεί να αναδείξει τα οφέλη που κομίζει η προβλεπτική αναλυτική και να καταγράψει προβλήματα που μπορούν να τη μετατρέψουν σε κίνδυνο.

Οφέλη και προκλήσεις στον τομέα της Υγείας 

Με αφετηρία ερωτήματα που αφορούν τη μελλοντική εξέλιξη γεγονότων ζωής η προβλεπτική αναλυτική επιχειρεί να συμβάλει στον προληπτικό σχεδιασμό και στη βέλτιστη διαχείριση καταστάσεων.

Η προβλεπτική αναλυτική βρίσκει εφαρμογή σε διάφορους τομείς, όπως π.χ. στις υπηρεσίες υγείας τόσο του δημόσιου όσο και του ιδιωτικού τομέα, στη δημόσια και ιδιωτική ασφάλιση, στη διαχείριση ανθρώπινου δυναμικού ακόμα και στην προστασία της δημόσιας ασφάλειας.

Τα δεδομένα που χρησιμοποιούνται για τις εφαρμογές της προβλεπτικής αναλυτικής είναι δεδομένα υγείας, συμπεριλαμβανομένων των δεδομένων από το γενετικό προφίλ του προσώπου, που μπορεί να προέρχονται από τον Ηλεκτρονικό Φάκελο Υγείας, πληροφορίες από ιατρικές συσκευές, οικονομικά και ασφαλιστικά στοιχεία, στατιστικά στοιχεία που αφορούν τη ροή ασθενών (εισαγωγές, εξιτήρια, παραμονή σε μονάδες βραχείας νοσηλείας και εντατικής θεραπείας), το προσωπικό αλλά και τις υλικοτεχνικές υποδομές.

Στα οφέλη από την εφαρμογή της προβλεπτικής αναλυτικής στον τομέα της Υγείας συγκαταλέγονται οι προβλέψεις για την πιθανότητα εκδήλωσης ή την πορεία ενός νοσήματος, για τα αποτελέσματα μιας συγκεκριμένης θεραπείας ή για την πιθανότητα επανεισαγωγής των ασθενών στο νοσοκομείο μετά το εξιτήριο.

Η προβλεπτική αναλυτική μπορεί να οδηγήσει στην έγκαιρη διάγνωση ή αποφυγή εμφάνισης μιας ασθένειας μέσω κατάλληλων ενεργειών βασισμένων σε προβλέψεις.

Με τον τρόπο αυτόν, υποδεικνύεται, η προβλεπτική αναλυτική μπορεί να ενισχύσει προληπτικές δράσεις και θεραπευτικές προσεγγίσεις ιατρικής ακριβείας.

Επιπροσθέτως, η προβλεπτική αναλυτική μπορεί να συμβάλει στη διαχείριση των υπηρεσιών υγείας, κυρίως προς την κατεύθυνση της δίκαιης κατανομής πόρων, ώστε να εξασφαλίζεται η υλικοτεχνική επάρκεια, το δικαίωμα πρόσβασης στην υγεία, η περιστολή δαπανών και η ανθεκτικότητα του συστήματος, ιδιαιτέρως όταν αυτό δέχεται έντονες πιέσεις (πανδημίες, φυσικές ή ανθρωπογενείς καταστροφές κ.ο.κ.).

Περαιτέρω, οι μελλοντικές προβλέψεις για την κατάσταση υγείας ενός προσώπου μπορούν να βοηθήσουν στην εκτίμηση της καταλληλότητάς του για ένα ασφαλιστικό πρόγραμμα ή για μια θέση εργασίας.

Τέλος, η προβλεπτική αναλυτική μπορεί να συνεισφέρει στην πρόβλεψη κυβερνοεπιθέσεων που στοχεύουν τόσο στην υφαρπαγή προσωπικών δεδομένων όσο και στην κακόβουλη παρεμβολή στη λειτουργία ιατρικών οργάνων.

Προκλήσεις και κίνδυνοι 

Παράλληλα, αναφέρεται ότι η χρήση της προβλεπτικής αναλυτικής παρουσιάζει προκλήσεις που σχετίζονται τόσο με τη χρήση της ΤΝ στον υπολογισμό της πιθανότητας μελλοντικών γεγονότων και τάσεων, όσο και με τα ιδιαίτερα χαρακτηριστικά της τεχνικής αυτής.

Ένα από τα κυριότερα προβλήματα των εφαρμογών της ΤΝ εν γένει είναι η εγκυρότητα και η αξιοπιστία των δεδομένων που χρησιμοποιούνται. Για παράδειγμα, η αξιοποίηση ενός ιστορικού υγείας για μελλοντικές προβλέψεις θα προσέκρουε πιθανότατα στους περιορισμούς που θέτουν η έλλειψη αντιπροσωπευτικότητας ομάδων πληθυσμού, καθώς και η μη συστηματική καταγραφή κοινωνικών, ψυχολογικών και συμπεριφορικών προσδιοριστικών παραγόντων πέραν των βιοϊατρικών δεδομένων.

Επίσης, οι πιθανές μεροληψίες που περιέχονται στα δεδομένα εκπαίδευσης των αλγορίθμων αποτελούν πρόσθετο περιορισμό στη δυνατότητα γενίκευσης των προβλέψεων στο μέλλον, καθώς οι προβλέψεις βασίζονται σε δεδομένα που ενδέχεται να μην είναι αντιπροσωπευτικά ή συμπεριληπτικά.

Ακόμα, τυχόν αμφισημίες, έλλειψη κοινώς αποδεκτής ορολογίας, διαφορετικές κλίμακες αναφοράς, ανακρίβειες στη διάγνωση κατά τη διενέργεια εξετάσεων και τη χορήγηση θεραπειών, ακρωνύμια στη συμπλήρωση των φακέλων μπορούν να δημιουργήσουν ακατάλληλα σύνολα δεδομένων.

Αξιοσημείωτο είναι, τέλος, ότι επειδή τα δεδομένα που χρησιμοποιεί η προβλεπτική αναλυτική έχουν συλλεχθεί μέχρι μια δεδομένη χρονική στιγμή, και άρα καλύπτουν μια συγκεκριμένη χρονική περίοδο, η τυχόν μη έγκαιρη επικαιροποίησή τους μπορεί να οδηγήσει σε υποβάθμιση ή σε υπερεκτίμηση παραγόντων που μπορεί να έχουν επιδράσει ως τη στιγμή που αφορά η ίδια η πρόβλεψη. Πέρα από τις προκλήσεις που σχετίζονται γενικότερα με τη χρήση εργαλείων ΤΝ, ιδιαίτερη προσοχή αξίζει να δοθεί σε κάποια ιδιαίτερα χαρακτηριστικά της προβλεπτικής αναλυτικής

Η πρώτη πρόκληση σχετίζεται με τη λήψη διακριτών αποφάσεων (π.χ. χορήγηση ή μη θεραπείας) από δεδομένα που προέρχονται από συνεχείς μεταβλητές (π.χ. πιθανότητα παρενέργειας φαρμάκου).

Εξάλλου, εφόσον η πρόβλεψη ενός συστήματος ΤΝ συνδέεται εξ ορισμoύ με ένα μελλοντικό γεγονός, τίθεται το ερώτημα κατά πόσον η ίδια η πρόβλεψη δύναται να επηρεάζει την έκβαση αυτού του γεγονότος.

Μια άλλη υπολογίσιμη παράμετρος είναι ο κίνδυνος εξάρτησης από τις αναλυτικές προβλέψεις. Η ανθρώπινη ιατρική κρίση μπορεί να υποβαθμιστεί και να καλλιεργηθεί μια υπέρμετρη εμπιστοσύνη στις δυνατότητες των μηχανών.

Η επικράτηση του δόγματος ότι όλα μπορούν να επιλυθούν με την τεχνολογία (technological solu(onism) μπορεί να κλονίσει την εμπιστοσύνη στον άνθρωπο και να οδηγήσει σε επιβλαβείς συνέπειες. Ιδιαίτερα σημαντικός, τέλος, θεωρείται ο κίνδυνος που απορρέει από τη χρήση της προβλεπτικής αναλυτικής με τις λεγόμενες “επιθετικές προβλέψεις” (“predatory predicoons”)5 από ορισμένες εταιρείες με κίνητρο το οικονομικό κέρδος και την ανάδειξη διαφοράς ισχύος μεταξύ ομοειδών εταιρειών.

Τέτοιου είδους προβλέψεις παραβιάζουν την ιδιωτικότητα, κατασκευάζουν και αξιοποιούν παραπλανητικά διογκωμένα δεδομένα και υπερ-κατηγοριοποιούν πρόσωπα (π.χ. υπέρβαροι κατηγοριοποιούνται ως παχύσαρκοι), ώστε αυτά να επωμιστούν το βάρος του σχετικού κόστους «θεραπειών» και οι εταιρείες να καρπωθούν οφέλη από την «επιθετική πρόβλεψη».

Ηθικοί προβληματισμοί 

Όπως σημειώνεται στη γνώμη, η χρήση της προβλεπτικής αναλυτικής εγείρει σύνθετα και πολύπλοκα ηθικά ζητήματα που αφορούν τόσο στην ελευθερία του ίδιου του προσώπου, όσο και στην ασφάλεια των αποφάσεων που βασίζονται στις προβλέψεις. Καταρχάς, η χρήση της προβλεπτικής αναλυτικής στον τομέα της Υγείας οφείλει να συνάδει με την ηθική αρχή της ωφέλειας/ευημερίας, αλλά και το ατομικό και κοινωνικό δικαίωμα στην υγεία.

Από τη μία πλευρά, σε ατομικό επίπεδο, η παροχή εξειδικευμένων και παραμετροποιημένων υπηρεσιών διάγνωσης, πρόληψης μιας νόσου και θεραπείας, συμπεριλαμβανομένης της αντίστοιχης ανάπτυξης φαρμάκων, αποτελούν τη μεγαλύτερη υπόσχεση στον χώρο της προβλεπτικής αναλυτικής και των τεχνολογικών προβλέψεων περί των γεγονότων ζωής.

Από την άλλη πλευρά, σε συλλογικό επίπεδο, η χρήση εργαλείων προβλεπτικής αναλυτικής δύναται να βοηθήσει στην περιστολή δαπανών, στην ωφέλιμη και δίκαιη κατανομή πόρων, στην υλικοτεχνική επάρκεια και στην ανθεκτικότητα και βιωσιμότητα του συστήματος υγείας, ιδιαιτέρως όταν αυτό δέχεται έντονες πιέσεις (βλ. COVID-19, έκτακτες περιπτώσεις καταστροφών κτλ.), και στη βέλτιστη διαχείριση θέσεων εργασίας κατά τη διάρκεια του έτους, λαμβάνοντας υπόψη τις γεωγραφικές ανάγκες.

Στον αντίποδα, η χρήση των προβλέψεων της προβλεπτικής αναλυτικής χωρίς τη συναίνεση των ενδιαφερόμενων προσώπων ενέχει τον κίνδυνο προσβολής της αυτονομίας των προσώπων, των ατομικών δικαιωμάτων τους, συμπεριλαμβανομένου του δικαιώματος στο ανοιχτό μέλλον, και εν τέλει της αξιοπρέπειάς του.

Απολαμβάνετε το περιεχόμενο μας? Εγγραφείτε στο newsletter μας!

Το δικαίωμα στη γνώση θα πρέπει, άλλωστε, να συνδυάζεται με το δικαίωμα στην άγνοια είτε για το παρόν είτε για το μέλλον ενός προσώπου. Η χρήση της προβλεπτικής αναλυτικής στον τομέα της Υγείας ενδέχεται να επηρεάσει θεμελιώδη δικαιώματα των ασθενών. Εκτός από το γεγονός ότι οι προβλέψεις μπορούν να επηρεάσουν αποφάσεις για την υγεία των ασθενών, αυτές μπορούν να έχουν αντίκτυπο στην ποιότητα ζωής και εργασιακές ευκαιρίες. Γνωσιακές, κοινωνικές και τεχνικές μεροληψίες στα δεδομένα, τα μοντέλα και τους αλγορίθμους ενδέχεται να οδηγήσουν σε κοινωνικές ανισότητες που σχετίζονται με την κοινωνική αντιπροσώπευση στα δεδομένα και την πρόσβαση τόσο σε υπηρεσίες εξατομικευμένης διάγνωσης, πρόληψης και θεραπείας, όσο και σε κλασικές δομές Υγείας.

Κατά την άποψη των δύο Επιτροπών ειδικότερες προτάσεις για τον τομέα της Υγείας είναι: α) ο σχεδιασμός πρωτοκόλλων και η εκπαίδευση όλων των επαγγελματιών υγείας για την ορθή διαχείριση της ενημέρωσης των ασθενών, β) ο καθορισμός τεχνικών απαιτήσεων για διαφάνεια και επεξηγησιμότητα των αποφάσεων των μεθόδων προβλεπτικής αναλυτικής ιατρικής, γ) η λεπτομερής περιγραφή του συνόλου των μεταβλητών που πρέπει να λαμβάνει υπόψη μια προβλεπτική μέθοδο ανάλογα με το αντικείμενό της, και 7 δ) η διαρκής επικαιροποίηση των μοντέλων προβλεπτικής αναλυτικής.

Οι δύο Επιτροπές κρίνουν, τέλος, ότι είναι αναγκαία η κατηγοριοποίηση των εφαρμογών που θέτουν σε κίνδυνο θεμελιώδη δικαιώματα και την ανθρώπινη αξιοπρέπεια, ενώ ως προς τις «επιθετικές προβλέψεις» συστήνεται αυστηρή νομοθετική ρύθμιση, προκειμένου να προστατευθούν τα πρόσωπα από τους σοβαρούς κινδύνους που αυτές συνεπάγονται.

Γ.Χ.