--°C Athens

Το ChatGPT θα προβλέπει «έξυπνα» την ηλικία του χρήστη για να προστατεύει τους ανήλικους από ακατάλληλο περιεχόμενο

Το ChatGPT θα προβλέπει «έξυπνα» την ηλικία του χρήστη για να προστατεύει τους ανήλικους από ακατάλληλο περιεχόμενο

Η OpenAI λανσάρει ένα νέο σύστημα που προβλέπει την ηλικία των χρηστών της τεχνητής νοημοσύνης και θα ενσωματωθεί σε όλα τα προγράμματα του ChatGPT, με στόχο την καλύτερη αναγνώριση χρηστών που ενδέχεται να είναι κάτω των 18 ετών. Η κίνηση αυτή σηματοδοτεί μια σημαντική μετατόπιση – η πρόσβαση δεν θα εξαρτάται πλέον από το τι ηλικία θα δηλώνει αυτοβούλως ο χρήστης. Το νέο σύστημα θα παρέχει αυτοματοποιημένες δικλείδες ασφαλείας που θα διαμορφώνονται από την online συμπεριφορά των χρηστών.

Η εταιρεία αναφέρει ότι το σύστημα θα ενισχύσει την εφαρμογή των απαραίτητων προστασιών στους λογαριασμούς εφήβων και ανηλίκων, επιτρέποντας παράλληλα στους ενήλικες να έχουν πρόσβαση στο ChatGPT με λιγότερους περιορισμούς. Η κυκλοφορία του νέου συστήματος έρχεται την ώρα που οι ρυθμιστικές αρχές και οι νομοθέτες αυξάνουν την πίεση στις εταιρείες τεχνητής νοημοσύνης να επιδείξουν ισχυρότερη προστασία για τους ανηλίκους. Το μοντέλο πρόβλεψης ηλικίας αξιολογεί ένα μείγμα σημάτων σε επίπεδο λογαριασμού και συμπεριφοράς, όπως το χρονικό διάστημα ύπαρξης ενός λογαριασμού, τα πρότυπα χρήσης με την πάροδο του χρόνου και τις ώρες χρήσης. Το σύστημα λαμβάνει επίσης υπόψη τυχόν πληροφορίες ηλικίας που έχουν παράσχει προηγουμένως οι χρήστες. Η OpenAI αναφέρει ότι αυτή η προσέγγιση τη βοηθά να υπολογίσει την ηλικία χωρίς να επιβάλλει επαναλαμβανόμενες ερωτήσεις ή συνεχείς ελέγχους ταυτότητας.

Η εταιρεία παρουσιάζει το σύστημα ως προσαρμοστικό και όχι ως οριστικό. Όταν τα σήματα παραμένουν ασαφή, το ChatGPT χρησιμοποιεί από προεπιλογή μια ασφαλέστερη εμπειρία. Εάν το μοντέλο εκτιμήσει ότι ένας λογαριασμός πιθανότατα ανήκει σε ανήλικο, η πλατφόρμα εφαρμόζει αυτόματα πρόσθετες δικλείδες διασφάλισης, που μειώνουν την έκθεση σε ακατάλληλο για εφήβους περιεχόμενο, όπως εικόνες βίας, εικόνες με αίμα ή με αυτοτραυματισμούς. Το σύστημα περιορίζει επίσης τα σεξουαλικά ή βίαια παιχνίδια ρόλων και τις viral προκλήσεις (challenges) που θα μπορούσαν να ενθαρρύνουν επικίνδυνη συμπεριφορά. Περιεχόμενο που προωθεί ακραία πρότυπα ομορφιάς, ανθυγιεινές δίαιτες ή ντροπή για το σώμα εμπίπτει επίσης σε αυτά τα όρια. Η OpenAI λέει ότι ειδικοί στην ανάπτυξη των παιδιών καθοδήγησαν αυτές τις αποφάσεις. Η εταιρεία επισημαίνει έρευνα που δείχνει ότι οι έφηβοι διαφέρουν από τους ενήλικες στην αντίληψη του κινδύνου και στον έλεγχο των παρορμήσεων.

Επαλήθευση ηλικίας και μέτρα ασφαλείας

Η OpenAI αναγνωρίζει ότι τα αυτοματοποιημένα συστήματα μπορούν να κάνουν λάθη. Οι χρήστες που έχουν εσφαλμένα επισημανθεί ως κάτω των 18 ετών μπορούν να ανακτήσουν την πλήρη πρόσβαση μέσω επαλήθευσης ηλικίας. Η διαδικασία χρησιμοποιεί έλεγχο με βάση selfie μέσω του Persona. Το Persona υποστηρίζει ήδη ελέγχους ταυτότητας για άλλες πλατφόρμες, συμπεριλαμβανομένου του Roblox. Η OpenAI αναφέρει ότι οι χρήστες μπορούν να ελέγξουν εάν ισχύουν μέτρα ασφαλείας για τον λογαριασμό τους και να ξεκινήσουν την επαλήθευση μέσω των ρυθμίσεων του ChatGPT. Η εταιρεία θεωρεί αυτή τη διαδικασία γρήγορη και αναστρέψιμη. Αποφεύγει τις μόνιμες μεταφορτώσεις εγγράφων, οι οποίες συχνά εγείρουν ανησυχίες για την προστασία της ιδιωτικής ζωής. Η πρόβλεψη ηλικίας βασίζεται σε προηγούμενες λειτουργίες που επικεντρώνονται σε εφήβους. Τους τελευταίους μήνες, η OpenAI εισήγαγε γονικούς ελέγχους που επιτρέπουν στους κηδεμόνες να διαμορφώνουν τον τρόπο με τον οποίο οι έφηβοι χρησιμοποιούν το ChatGPT. Αυτά τα εργαλεία περιλαμβάνουν ώρες κοινής ησυχίας, ελέγχους λειτουργιών και ειδοποιήσεις που συνδέονται με σημάδια οξείας δυσφορίας. Η OpenAI σχημάτισε επίσης ένα εξωτερικό συμβούλιο εμπειρογνωμόνων για να μελετήσει τις επιπτώσεις της Τεχνητής Νοημοσύνης στην ψυχική υγεία και τη συναισθηματική ευεξία. Η ομάδα συμβουλεύει για αποφάσεις προϊόντων που αφορούν ευάλωτους χρήστες.

Αυξανόμενη πίεση από τις ρυθμιστικές αρχές

Η κυκλοφορία του νέου συστήματος έρχεται την ώρα που οι εταιρείες τεχνητής νοημοσύνης αντιμετωπίζουν αυξανόμενο έλεγχο στις Ηνωμένες Πολιτείες και στην Ευρώπη και Ασία. Η Ομοσπονδιακή Επιτροπή Εμπορίου διερευνά πώς τα chatbot τεχνητής νοημοσύνης μπορεί να επηρεάσουν παιδιά και εφήβους. Η OpenAI αντιμετωπίζει επίσης αγωγές που συνδέονται με ανησυχίες για την ασφάλεια των χρηστών. Η OpenAI αναφέρει ότι θα συνεχίσει να βελτιώνει το μοντέλο πρόβλεψης ηλικίας καθώς συλλέγει περισσότερα δεδομένα. Η εταιρεία σχεδιάζει να παρακολουθεί και να ανιχνεύει προσπάθειες παράκαμψης των μέτρων ασφαλείας. Το σύστημα θα φτάσει στην Ευρωπαϊκή Ένωση τις επόμενες εβδομάδες, όπως αναφέρει δημοσίευμα του ιστότοπου Interesting Engineering.

Διαβάστε Σχετικά