Ο επικεφαλής επιστήμονας της OpenAI, Γιάκουμπ Πατσότσκι, ζητά «ακραία προσοχή» απέναντι στην ανεξέλεγκτη πρόοδο της τεχνητής νοημοσύνης, προειδοποιώντας ότι ενδέχεται να χρειαστούν περισσότερες παρεμβάσεις, ώστε «οι άνθρωποι να παραμείνουν στον έλεγχο του μέλλοντος».
«Ανησυχώ ότι κανείς δεν είναι προετοιμασμένος για τις συνέπειες μιας συνεχιζόμενης ταχείας αύξησης της νοημοσύνης των μηχανών», έγραψε σε ανάρτηση στο ιστολόγιό του με τίτλο «Ένας εξωγήινος νους» (An Alien Mind).
Η παρέμβαση του Πατσότσκι έρχεται μόλις λίγες ημέρες μετά την κυκλοφορία του νεότερου μοντέλου της εταιρείας που δημιούργησε το ChatGPT, του GPT-6 Astra, το οποίο η OpenAI χαρακτήρισε ως το ισχυρότερο προϊόν της μέχρι σήμερα.
Την ίδια στιγμή, η OpenAI και άλλες εταιρείες τεχνητής νοημοσύνης, όπως η Anthropic, έχουν δημοσιοποιήσει αναφορές για αυτόνομους πράκτορες τεχνητής νοημοσύνης που ενήργησαν μόνοι τους και πραγματοποίησαν κυβερνοεπιθέσεις στον πραγματικό κόσμο εναντίον άλλων εταιρειών.
Τον Ιούλιο, η OpenAI χαρακτήρισε «πρωτοφανές» ένα περιστατικό κατά το οποίο οι πράκτορες τεχνητής νοημοσύνης της, συστήματα που μπορούν να λειτουργούν αυτόνομα αφού λάβουν οδηγίες από άνθρωπο, παραβίασαν την τεχνολογική πλατφόρμα Hugging Face.
Παράλληλα, τον Σεπτέμβριο, έκθεση υποστήριξε ότι αρκετούς μήνες νωρίτερα πράκτορες τεχνητής νοημοσύνης της εταιρείας είχαν καταλάβει και γερμανική ιστοσελίδα.
«Βρισκόμαστε αντιμέτωποι με μια μετάβαση σε έναν κόσμο με απίστευτα ευφυείς μηχανές και πρέπει να διασφαλίσουμε ότι αυτή η μετάβαση θα εξελιχθεί θετικά για την ανθρωπότητα», έγραψε ο Πατσότσκι στην τελευταία του ανάρτηση.
Ο ίδιος ανέφερε ότι η OpenAI θα συνεχίσει να «δημιουργεί αμυντικά συστήματα» και να αναζητά τεχνικές λύσεις για την ευθυγράμμιση (alignment), όρος που χρησιμοποιείται για να περιγράψει τη διασφάλιση ότι οι ενέργειες και οι στόχοι μιας μηχανής ανταποκρίνονται πλήρως στις ανθρώπινες προθέσεις και στα όρια ασφαλείας.
Ο Πατσότσκι πρόσθεσε ότι μία από τις βασικές προτεραιότητες της εταιρείας στο μέλλον θα είναι η δημιουργία ενός «αυτοματοποιημένου ερευνητή τεχνητής νοημοσύνης», ώστε να μπορεί να συμβαδίζει με την πρόοδο στον τομέα, διασφαλίζοντας παράλληλα ότι οι άνθρωποι ερευνητές θα εξακολουθούν να συμμετέχουν στη διαδικασία.
Οι επικρίσεις για την ασφάλεια της τεχνητής νοημοσύνης
«Αντί για καλύτερα όρια ασφαλείας στην τεχνητή νοημοσύνη, κανονισμούς ή εγγυήσεις για την προστασία των ανθρώπων, προτείνουν την ανάπτυξη εσωτερικών πρακτόρων τεχνητής νοημοσύνης για να ερευνήσουν αυτά τα προβλήματα», δήλωσε η καθηγήτρια Τζίνα Νεφ, επικεφαλής του Minderoo Centre for Technology and Democracy στο Πανεπιστήμιο του Κέιμπριτζ.
«Τέτοιες απαντήσεις στις αυξανόμενες ανησυχίες για τα προβλήματα που προκαλούν τα μοντέλα της OpenAI στην κυβερνοασφάλεια, την απώλεια θέσεων εργασίας, τα λάθη, τα σφάλματα και την απάτη απλώς δεν είναι αρκετές», πρόσθεσε.
Ο Νέιθαν Κάλβιν, γενικός νομικός σύμβουλος της ομάδας υπεράσπισης Encode AI, δήλωσε ότι συμφωνεί με τον Πατσότσκι σχετικά με τους κινδύνους που ενέχει η ανάπτυξη προηγμένων μοντέλων τεχνητής νοημοσύνης. Ωστόσο, υποστήριξε ότι η OpenAI δεν είναι πρόθυμη να λειτουργήσει με διαφάνεια, γεγονός που, όπως είπε, σημαίνει ότι οι προειδοποιήσεις κινδυνεύουν να απορριφθούν ως «απλώς αυτοεξυπηρετούμενη διαφημιστική υπερβολή».
«Αν ο Γιάκουμπ και άλλοι στην OpenAI θέλουν τους κατάλληλους ανθρώπους στον κλάδο της τεχνητής νοημοσύνης να δράσουν συντονισμένα μαζί τους ώστε τα πράγματα να εξελιχθούν θετικά, ένα από τα σημαντικότερα πράγματα που μπορούν να κάνουν είναι να μοιραστούν πολύ περισσότερες πληροφορίες σχετικά με όσα βλέπουν και τους κάνουν να ζητούν προσοχή», έγραψε στην πλατφόρμα X.
Ποια όρια ασφαλείας υπάρχουν για την τεχνητή νοημοσύνη;
Οι κανονισμοί σε παγκόσμιο επίπεδο δυσκολεύονται να ακολουθήσουν τον ρυθμό ανάπτυξης της τεχνητής νοημοσύνης.
Η Πράξη της Ευρωπαϊκής Ένωσης για την Τεχνητή Νοημοσύνη (AI Act) τέθηκε σε ισχύ στις 2 Αυγούστου και απαιτεί από μεγάλες εταιρείες τεχνητής νοημοσύνης, όπως η OpenAI, να αποδεικνύουν ότι τα ισχυρότερα μοντέλα τους δεν μπορούν να εξαπολύσουν αυτόνομα κυβερνοεπιθέσεις ή να αποφύγουν τον ανθρώπινο έλεγχο, προτού επιτραπεί η πώλησή τους στην Ευρώπη.
Ωστόσο, καθώς η δικαιοδοσία του νόμου περιορίζεται στην Ευρώπη, δεν μπορεί να εμποδίσει ένα ανεξέλεγκτο σύστημα τεχνητής νοημοσύνης που έχει αναπτυχθεί αλλού από το να απειλήσει την ήπειρο.
Στην ανάρτησή του, ο Πατσότσκι ζήτησε να θεσπιστούν νομικά ή διεθνώς υποχρεωτικά ελάχιστα όρια ασφαλείας, τα οποία θα μπορούσαν να επιβάλλονται από ένα «δίκτυο ανεξάρτητων ελεγκτών» ή από «κυβερνητικές υπηρεσίες».
Σύμφωνα με τον ίδιο, τα εργαστήρια τεχνητής νοημοσύνης θα πρέπει να πληρούν αυτά τα όρια προτού τους επιτραπεί να συνεχίσουν να αυξάνουν την υπολογιστική κλίμακα των συστημάτων τους ή να αναπτύσσουν προηγμένα μοντέλα.
Παράλληλα, ανέφερε ότι ελπίζει οι «εθελοντικές επιβραδύνσεις», δηλαδή μια αυτοεπιβαλλόμενη παύση από τις εταιρείες στην ανάπτυξη της τεχνητής νοημοσύνης, να γίνουν συνηθισμένη πρακτική μέχρι να δημιουργηθούν κοινά όρια ασφαλείας.
Τον Αύγουστο, η OpenAI είχε ανακοινώσει ότι επιβράδυνε την εκπαίδευση ορισμένων από τα πιο προηγμένα μοντέλα τεχνητής νοημοσύνης της, με στόχο τη βελτίωση της ασφάλειας.
