Δύο από τα ισχυρότερα πρόσωπα της παγκόσμιας βιομηχανίας Τεχνητής Νοημοσύνης, ο Ντέμις Χασάμπις της Google DeepMind και ο Μαρκ Ζάκερμπεργκ της Meta, παρενέβησαν στη μεγάλη συζήτηση για το πώς πρέπει να ελέγχεται η AI, στο πλαίσιο της τεχνολογικής συνάντησης του G20 στη Βόρεια Καρολίνα.
Οι τοποθετήσεις τους ανέδειξαν δύο διαφορετικές, αλλά όχι απαραίτητα ασύμβατες, προσεγγίσεις: ο Χασάμπις ζήτησε από τις χώρες να δημιουργήσουν εθνικά πλαίσια για τη δοκιμή και την αξιολόγηση προηγμένων συστημάτων AI, ενώ ο Ζάκερμπεργκ υποστήριξε ότι οι κυβερνήσεις δεν θα πρέπει να επιβάλλουν περιορισμούς στα λεγόμενα open-weight μοντέλα.
Η συζήτηση πραγματοποιείται την ώρα που οι ΗΠΑ πιέζουν τα μέλη του G20 να υιοθετήσουν μια σχετικά ήπια ρυθμιστική προσέγγιση, αποφεύγοντας τη δημιουργία νέων κανόνων ή διεθνών εποπτικών οργανισμών που, σύμφωνα με την Ουάσινγκτον, θα μπορούσαν να επιβραδύνουν την καινοτομία.
Χασάμπις: Οι χώρες χρειάζονται πλαίσια δοκιμών για την AI
Ο συνιδρυτής και CEO της Google DeepMind, Ντέμις Χασάμπις, δήλωσε στη συνάντηση του G20 ότι οι χώρες θα πρέπει να δημιουργήσουν πλαίσια δοκιμών για τα συστήματα Τεχνητής Νοημοσύνης.
Η λογική πίσω από την πρότασή του είναι ότι τα ολοένα ισχυρότερα μοντέλα θα πρέπει να μπορούν να αξιολογούνται συστηματικά ως προς τις δυνατότητες και τους πιθανούς κινδύνους τους, καθώς η τεχνολογία εξελίσσεται ταχύτερα από τους μηχανισμούς που διαθέτουν σήμερα πολλές κυβερνήσεις για να την ελέγξουν.
Ο Χασάμπις έχει ταχθεί και στο παρελθόν υπέρ της δημιουργίας ανεξάρτητων μηχανισμών αξιολόγησης των ισχυρότερων συστημάτων AI πριν αυτά διατεθούν ευρέως. Η θέση του απέκτησε ακόμη μεγαλύτερη βαρύτητα μετά από πρόσφατα περιστατικά με αυτόνομους AI agents, τα οποία έχουν ενισχύσει τις ανησυχίες σχετικά με το κατά πόσο τα προηγμένα μοντέλα δοκιμάζονται επαρκώς πριν χρησιμοποιηθούν σε πραγματικά περιβάλλοντα.
Η πρότασή του δεν ισοδυναμεί απαραίτητα με αίτημα για ένα νέο, αυστηρό νομοθετικό καθεστώς. Αφορά κυρίως τη δημιουργία θεσμοθετημένων διαδικασιών δοκιμών, αξιολόγησης και διαχείρισης κινδύνων για τα πλέον προηγμένα συστήματα.
Ζάκερμπεργκ: Μην περιορίσετε τα open-weight μοντέλα
Από την άλλη πλευρά, ο επικεφαλής της Meta, Μαρκ Ζάκερμπεργκ, κάλεσε τις χώρες να μην επιβάλουν περιορισμούς στα open-weight μοντέλα Τεχνητής Νοημοσύνης.
Πρόκειται για συστήματα στα οποία τα βασικά «βάρη» του μοντέλου είναι διαθέσιμα, επιτρέποντας σε προγραμματιστές, εταιρείες και ερευνητές να τα κατεβάζουν, να τα προσαρμόζουν και να δημιουργούν εφαρμογές πάνω σε αυτά.
Η Meta έχει επενδύσει σημαντικά σε αυτή την προσέγγιση και ο Ζάκερμπεργκ έχει υποστηρίξει ότι η ευρεία διάθεση τέτοιων μοντέλων περιορίζει τη συγκέντρωση της τεχνολογικής ισχύος σε λίγες εταιρείες και δίνει περισσότερες δυνατότητες σε μικρότερους παίκτες, ερευνητές και κυβερνήσεις.
Τον Αύγουστο είχε καλέσει επίσης τις ΗΠΑ να μειώσουν τα ρυθμιστικά εμπόδια ώστε οι αμερικανικές εταιρείες να μπορούν να ανταγωνιστούν αποτελεσματικότερα την Κίνα στον συγκεκριμένο τομέα.
Το ζήτημα είναι ιδιαίτερα κρίσιμο για την Ουάσινγκτον, καθώς κινεζικά open-weight μοντέλα γίνονται ολοένα ισχυρότερα και κερδίζουν έδαφος ακόμη και μεταξύ αμερικανικών επιχειρήσεων.
Η μεγάλη διαμάχη για το πόσο πρέπει να ελέγχεται η AI
Οι δύο παρεμβάσεις αποτυπώνουν το δύσκολο δίλημμα που αντιμετωπίζουν πλέον οι κυβερνήσεις: πώς μπορούν να δημιουργήσουν δικλείδες ασφαλείας για μια τεχνολογία που εξελίσσεται ραγδαία χωρίς ταυτόχρονα να περιορίσουν την καινοτομία και την πρόσβαση σε αυτή.
Η αμερικανική κυβέρνηση προωθεί στο G20 τις λεγόμενες «Carolina Principles», σύμφωνα με τις οποίες οι νέες ρυθμίσεις θα πρέπει να επιβάλλονται μόνο όταν προκύπτουν πραγματικά νέα ζητήματα και οι κυβερνήσεις θα πρέπει να δίνουν έμφαση στην έρευνα και στις εμπορικές ευκαιρίες που δημιουργούν οι νέες τεχνολογίες. Παράλληλα, η Ουάσινγκτον αντιτίθεται στη δημιουργία νέων διεθνών ρυθμιστικών οργανισμών ειδικά για την AI.
Στη συζήτηση παρενέβη και ο Έλον Μασκ, ο οποίος επέκρινε τις ευρωπαϊκές τεχνολογικές ρυθμίσεις, υποστηρίζοντας ότι εμποδίζουν την πρόοδο. Στη διήμερη συνάντηση συμμετέχουν κορυφαία στελέχη του τεχνολογικού κλάδου, ενώ μεταξύ των ομιλητών βρίσκονται επίσης ο Σαμ Άλτμαν της OpenAI και ο Τζένσεν Χουάνγκ της Nvidia.
Έτσι, η γραμμή που φαίνεται να διαμορφώνεται από τις σημερινές παρεμβάσεις είναι ένα δύσκολο «στοίχημα» ισορροπίας: περισσότερες δοκιμές και έλεγχοι για τα ισχυρότερα συστήματα AI, χωρίς όμως γενικευμένους περιορισμούς που θα κλείσουν την πρόσβαση στα ανοικτά μοντέλα και θα φρενάρουν τον ανταγωνισμό.
