Κενά προστασίας και υγείας στα social media και AI

Δύο νέες μελέτες αναδεικνύουν σημαντικά κενά στον τρόπο με τον οποίο οι πλατφόρμες κοινωνικής δικτύωσης επικοινωνούν τους κινδύνους για τους νέους, αλλά και στον τρόπο με τον οποίο τα chatbots τεχνητής νοημοσύνης παρέχουν συμβουλές σε ανθρώπους που φροντίζουν ασθενείς με Αλτσχάιμερ.

Οι έρευνες παρουσιάζονται στο 29ο ACM Conference on Computer-Supported Cooperative Work and Social Computing (CSCW 2026), που πραγματοποιείται από την 1η έως τις 14 Οκτωβρίου στο Σολτ Λέικ Σίτι.

Όπως επισημαίνουν οι ερευνητές, και στις δύο περιπτώσεις φαίνεται να υπάρχει απόσταση ανάμεσα σε όσα υπόσχεται η τεχνολογία και σε όσα τελικά βιώνουν οι χρήστες.

Κενά στην ενημέρωση για την ασφάλεια των νέων

Στην πρώτη μελέτη, οι επιστήμονες εξέτασαν πώς οι μεγάλες πλατφόρμες κοινωνικής δικτύωσης ενημερώνουν για τους κινδύνους που αντιμετωπίζουν τα παιδιά και για τα μέτρα προστασίας που εφαρμόζουν.

Αναλύθηκαν περισσότερες από 350 ανακοινώσεις και δημοσιεύσεις σχετικά με την ασφάλεια, οι οποίες είχαν δημοσιευθεί σε διάστημα πέντε ετών από YouTube, TikTok, Meta και Snapchat.

Οι ερευνητές εντόπισαν κενά ως προς το πόσο ξεκάθαρα παρουσιάζονται η διαθεσιμότητα, ο τρόπος λειτουργίας και η αποτελεσματικότητα των μέτρων προστασίας.

Για παράδειγμα, ορισμένες λειτουργίες περιγράφονταν ως υπό δοκιμή, σε διαδικασία σταδιακής εφαρμογής ή διαθέσιμες μόνο σε συγκεκριμένες περιοχές, γεγονός που δυσκόλευε την κατανόηση του ποιοι χρήστες είχαν πραγματικά πρόσβαση σε αυτές.

Παράλληλα, οι πλατφόρμες χρησιμοποιούσαν χαρακτηρισμούς όπως «βελτιωμένο» ή «ισχυρότερο» για ορισμένα μέτρα, χωρίς πάντα να παρέχουν συγκεκριμένα στοιχεία ή μετρήσεις που να αποδεικνύουν την αποτελεσματικότητά τους.

Λιγότερη ενημέρωση για τα δεδομένα των παιδιών

Η μελέτη διαπίστωσε επίσης ότι οι πλατφόρμες μιλούσαν περισσότερο για το περιεχόμενο που βλέπουν οι νέοι και για τα άτομα με τα οποία αλληλεπιδρούν.

Αντίθετα, υπήρχε λιγότερη ενημέρωση σχετικά με τον τρόπο συλλογής ή κοινοποίησης των δεδομένων τους, τον τρόπο με τον οποίο τα παιδιά αποκτούν πρόσβαση στις πλατφόρμες και το πώς διαδίδεται ή ενισχύεται το περιεχόμενο που δημιουργούν.

Οι ερευνητές εκτιμούν ότι η παρουσίαση της ασφάλειας κυρίως ως ζήτημα ατομικής συμπεριφοράς και γονικού ελέγχου μπορεί να μεταφέρει μεγαλύτερο μέρος της ευθύνης στους νέους και στις οικογένειές τους, αντί στις ίδιες τις πλατφόρμες και στον τρόπο με τον οποίο έχουν σχεδιαστεί.

Πώς απαντά η AI σε ερωτήσεις για το Αλτσχάιμερ

Η δεύτερη μελέτη εξέτασε πόσο διαφέρουν οι συμβουλές που δίνουν τα chatbots από εκείνες που προσφέρουν γιατροί και άνθρωποι με προσωπική εμπειρία στη φροντίδα ασθενών με Αλτσχάιμερ.

Οι επιστήμονες ανέλυσαν 85 πραγματικές ερωτήσεις φροντιστών από την διαδικτυακή κοινότητα ALZConnected.

Στη συνέχεια συνέκριναν τις απαντήσεις από τέσσερις διαφορετικές πηγές: άλλους φροντιστές, γιατρούς, το ChatGPT και το CareGPT, ένα chatbot που είχε εκπαιδευτεί ειδικά σε συζητήσεις υποστήριξης φροντιστών.

Η αξιολόγηση βασίστηκε σε 28 χαρακτηριστικά, μεταξύ των οποίων το ύφος, το συναισθηματικό περιεχόμενο και οι κλινικές πληροφορίες.

Πιο οργανωμένες, αλλά λιγότερο προσωπικές απαντήσεις

Τα αποτελέσματα έδειξαν σαφείς διαφορές. Οι άλλοι φροντιστές χρησιμοποιούσαν περισσότερο προσωπικές εμπειρίες και αναφορές στην καθημερινότητα, ενώ οι γιατροί έδιναν πιο σύντομες και άμεσες συμβουλές μέσα σε σαφή κλινικά όρια.

Αντίθετα, τα chatbots παρήγαγαν περισσότερο τυπικές, αναλυτικές και οργανωμένες απαντήσεις.

Μάλιστα, δεν παρατηρήθηκε μεγάλη διαφορά μεταξύ του ChatGPT και του CareGPT, γεγονός που δείχνει ότι η ειδική εκπαίδευση του δεύτερου δεν ήταν αρκετή για να κάνει τις απαντήσεις του αισθητά πιο «ανθρώπινες».

Τα chatbots σημείωσαν υψηλότερες επιδόσεις από τους φροντιστές σε δείκτες ευγένειας και συναισθηματικής υποστήριξης και ήταν παρόμοια με τους γιατρούς ως προς την παροχή πληροφοριών.

Ωστόσο, οι απαντήσεις τους ήταν λιγότερο συνδεδεμένες με το προσωπικό πλαίσιο του κάθε ανθρώπου και επικεντρώνονταν περισσότερο στην παροχή συμβουλών.

Οι ανθρώπινες απαντήσεις, ιδιαίτερα εκείνες των φροντιστών, κάλυπταν ευρύτερα ζητήματα, όπως το συναισθηματικό βάρος της φροντίδας, καθημερινές δυσκολίες αλλά και νομικά ή οικονομικά θέματα.

Η «σωστή» απάντηση δεν σημαίνει πάντα ουσιαστική υποστήριξη

Οι ερευνητές προειδοποιούν ότι μια απάντηση από AI μπορεί να ακούγεται υποστηρικτική και καλά διατυπωμένη χωρίς να ανταποκρίνεται πλήρως στις πραγματικές ανάγκες του ανθρώπου που ζητά βοήθεια.

Όπως σημειώνουν, αυτό αποκτά ιδιαίτερη σημασία όταν οι άνθρωποι στρέφονται σε τέτοια συστήματα σε ευάλωτες στιγμές, για παράδειγμα όταν φροντίζουν άτομο με άνοια

Απολαμβάνετε το περιεχόμενο μας? Εγγραφείτε στο newsletter μας!

Το βασικό συμπέρασμα και των δύο μελετών είναι ότι η τεχνολογία μπορεί να προσφέρει σημαντική υποστήριξη, αλλά η αποτελεσματικότητά της εξαρτάται και από το πόσο ξεκάθαρα, διαφανή και κατάλληλα για το πραγματικό πλαίσιο είναι όσα προσφέρει στους χρήστες.