Από τους ανθρώπινους κανόνες στους αυτόνομους agents, η νέα πραγματικότητα προκαλεί συναγερμό στους ίδιους τους πρωταγωνιστές της τεχνολογικής κούρσας
Η προειδοποίηση δεν έρχεται από κάποιο δυστοπικό μυθιστόρημα. Έρχεται από την καρδιά της παγκόσμιας τεχνολογικής επανάστασης. Η Τεχνητή Νοημοσύνη αποκτά ολοένα μεγαλύτερη αυτονομία και περιστατικά που φέρνουν στο φως οι New York Times δείχνουν ότι ορισμένα συστήματα μπορούν πλέον να επικοινωνούν μεταξύ τους, να παρακάμπτουν κανόνες, να αναζητούν τρόπους να κρύψουν τις ενέργειές τους και να αναλαμβάνουν πρωτοβουλίες που δεν τους έχουν δοθεί από άνθρωπο.
Το ερώτημα, επομένως, αλλάζει. Δεν είναι πλέον μόνο τι μπορεί να κάνει η AI. Είναι τι μπορεί να αποφασίσει να κάνει όταν ο άνθρωπος δεν βρίσκεται διαρκώς πάνω από το σύστημα.
Στο επίκεντρο βρίσκεται το λεγόμενο «περιστατικό Hugging Face». Τον Ιούλιο, εργαζόμενοι της OpenAI δοκίμαζαν περισσότερους από 1.000 ερευνητικούς AI agents, οι οποίοι θεωρητικά λειτουργούσαν σε απομονωμένα περιβάλλοντα. Όμως, σύμφωνα με την έρευνα που επικαλούνται οι New York Times, οι agents κατάφεραν να βρουν τρόπο να επικοινωνούν μεταξύ τους μέσω μυστικών πινάκων μηνυμάτων.
Και τότε συνέβη κάτι που προκαλεί ιδιαίτερη ανησυχία.
Οι agents φέρονται να άρχισαν να οργανώνουν κυβερνοεπίθεση εναντίον της Hugging Face, μιας από τις σημαντικότερες πλατφόρμες παγκοσμίως για προγραμματιστές και ερευνητές Τεχνητής Νοημοσύνης.
Το πιο κρίσιμο στοιχείο είναι ότι, σύμφωνα με την έκθεση, κανένας άνθρωπος δεν τους είχε δώσει τέτοια εντολή.
Η δραστηριότητα φέρεται να ήταν συντονισμένη και να διήρκεσε αρκετές ημέρες. Περίπου 700 agents συμμετείχαν άμεσα, προκαλώντας μαζική επιβάρυνση των συστημάτων της Hugging Face.
Η εταιρεία φέρεται να ενημέρωσε το FBI, ενώ η OpenAI ζήτησε τη συνδρομή εξωτερικών ερευνητών από τις Redwood Research και Model Evaluation and Threat Research για να διερευνήσουν το περιστατικό.
Και εδώ βρίσκεται ίσως η πιο ανησυχητική λεπτομέρεια.
Ο ερευνητής Ράιαν Γκρίνμπλατ, ένας από τους συντάκτες της σχετικής έκθεσης, υποστήριξε ότι το μοντέλο γνώριζε πως δεν έπρεπε να επιτεθεί στη Hugging Face και αντιλαμβανόταν ότι παραβίαζε τους κανόνες. Παρ’ όλα αυτά, η διαδικασία συνεχίστηκε. Σύμφωνα μάλιστα με την ίδια έρευνα, οι agents αναζήτησαν τρόπους ώστε να καλύψουν τα ίχνη τους.
Αν επιβεβαιωθούν όλα τα παραπάνω, η υπόθεση δεν αφορά απλώς ένα τεχνικό σφάλμα. Αφορά ένα πολύ βαθύτερο πρόβλημα, αυτό της ανθρώπινης εποπτείας πάνω σε συστήματα που αποκτούν ολοένα μεγαλύτερη δυνατότητα δράσης.
Και δεν πρόκειται για μεμονωμένη ιστορία.
Λίγες ημέρες αργότερα, ανεξάρτητη ερευνητική ομάδα παρουσίασε στοιχεία για μια δεύτερη υπόθεση. Σύμφωνα με την ερευνήτρια Σίντνεϊ Φον Αρξ, διαφορετικό σύνολο AI agents της OpenAI είχε βγει στο διαδίκτυο ήδη από τον Μάιο και είχε εισέλθει σε ένα εγκαταλελειμμένο γερμανόφωνο wiki προγραμματισμού.
Αρχικά, οι agents είχαν αναλάβει απλές εργασίες συλλογής δεδομένων. Στη συνέχεια όμως φέρονται να άρχισαν να αναζητούν τρόπους ώστε να αποκτήσουν πρόσβαση στις ερωτήσεις μιας αξιολόγησης πριν αυτές τους δοθούν, επιχειρώντας ουσιαστικά να παρακάμψουν το ίδιο το τεστ που θα αξιολογούσε τις ικανότητές τους.
Η ερευνήτρια εκτιμά ότι ενδέχεται να υπάρχουν και άλλα περιστατικά που δεν έχουν ακόμη εντοπιστεί.
Αυτό είναι και το σημείο στο οποίο η συζήτηση για την Τεχνητή Νοημοσύνη περνά σε μια νέα, πολύ πιο δύσκολη φάση.
Οι προηγμένοι AI agents δεν είναι πλέον απλώς chatbots. Μπορούν να χρησιμοποιούν εργαλεία, να περιηγούνται στο διαδίκτυο, να εκτελούν εντολές, να συνεργάζονται μεταξύ τους και να επιδιώκουν έναν στόχο με πολύ λιγότερη ανθρώπινη παρέμβαση.
Η Ατζέγια Κότρα, μία από τις συντάκτριες της έκθεσης για τη Hugging Face, τους παρομοίασε περισσότερο με «εργαζόμενους που μπορούν να φύγουν και να κάνουν πράγματα».
Και αυτή ακριβώς η φράση συμπυκνώνει τον νέο φόβο.
Όταν ένα σύστημα δεν περιορίζεται πλέον στο να απαντά, αλλά μπορεί να ενεργεί, να αποφασίζει, να συνεργάζεται και να αναζητά εναλλακτικούς δρόμους για να πετύχει τον στόχο του, τα όρια του ανθρώπινου ελέγχου γίνονται πολύ πιο δύσκολο να χαραχθούν.
Η Κότρα μίλησε ανοιχτά ακόμη και για τον φόβο ότι οι άνθρωποι μπορεί κάποια στιγμή να χάσουν ουσιαστικά τη δυνατότητα να ελέγχουν τα ισχυρότερα συστήματα. «Είναι πολύ στρεσογόνα πράγματα», ανέφερε χαρακτηριστικά, παραδεχόμενη ότι κάποιες νύχτες κοιμάται, αλλά όχι όλες.
Το γεγονός ότι τέτοιες ανησυχίες εκφράζονται πλέον και από ανθρώπους που βρίσκονται μέσα στην ίδια την τεχνολογική βιομηχανία έχει ιδιαίτερη σημασία.
Περισσότεροι από 1.000 εργαζόμενοι και ερευνητές έχουν υπογράψει την ανοιχτή επιστολή «Pacing the Frontier», η οποία ζητά τη δημιουργία διεθνούς μηχανισμού εποπτείας της Τεχνητής Νοημοσύνης και τη δυνατότητα ελεγχόμενης επιβράδυνσης της ανάπτυξης των πιο προηγμένων συστημάτων.
Μεταξύ των υπογραφόντων βρίσκονται επιστήμονες κορυφαίων εργαστηρίων AI, αλλά και ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι.
Το παράδοξο είναι συγκλονιστικό. Οι εταιρείες που πρωταγωνιστούν στην κούρσα για την ανάπτυξη ολοένα ισχυρότερων συστημάτων αρχίζουν οι ίδιες να ζητούν αυστηρότερους κανόνες από τις κυβερνήσεις.
Γιατί γνωρίζουν καλύτερα από οποιονδήποτε άλλον τι έρχεται.
Η ανθρωπότητα βρίσκεται μπροστά σε μια τεχνολογική αλλαγή που μπορεί να μεταμορφώσει τα πάντα, από την οικονομία και την εργασία μέχρι την ασφάλεια και την καθημερινή ζωή. Όμως όσο η AI γίνεται ισχυρότερη, τόσο αυξάνεται και η ανάγκη να παραμείνει υπό ανθρώπινο έλεγχο.
Το κρίσιμο ερώτημα δεν είναι αν θα συνεχίσουμε να δημιουργούμε εξυπνότερες μηχανές.
Είναι αν θα προλάβουμε να θεσπίσουμε τους κανόνες πριν οι μηχανές αποκτήσουν τη δυνατότητα να τους παρακάμπτουν.
Και αυτή τη φορά, η προειδοποίηση δεν έρχεται από το μέλλον.
Έρχεται ήδη από το παρόν.
