Αυτό που μέχρι πριν από λίγα χρόνια έμοιαζε με μακρινό στόχο των ερευνητών τεχνολογίας αρχίζει να αποκτά πιο συγκεκριμένη μορφή: μοντέλα τεχνητής νοημοσύνης που συμμετέχουν στην ανάπτυξη και βελτίωση των επόμενων εκδόσεών τους. Η εξέλιξη αυτή φέρνει στο προσκήνιο την έννοια της «αναδρομικής αυτοβελτίωσης» (recursive self-improvement, RSI), μια διαδικασία που θα μπορούσε να επιταχύνει σημαντικά την πρόοδο στην επιστήμη και την ιατρική, αλλά παράλληλα τροφοδοτεί τις ανησυχίες για το κατά πόσο η τεχνητή νοημοσύνη θα παραμείνει υπό ανθρώπινο έλεγχο.
Τι σημαίνει «αναδρομική αυτοβελτίωση»
Δεν υπάρχει ένας κοινά αποδεκτός ορισμός για το RSI μεταξύ των κορυφαίων εταιρειών τεχνητής νοημοσύνης. Για κάποιες, αρκεί η χρήση ενός μοντέλου ως εργαλείου για τη βελτίωση ενός άλλου, ενώ άλλες θεωρούν ότι απαιτείται πλήρως αυτόνομη λειτουργία, χωρίς ανθρώπινη καθοδήγηση.
Στην πιο προχωρημένη εκδοχή της, η διαδικασία θα επέτρεπε σε ένα σύστημα να βελτιώνει τον εαυτό του, να σχεδιάζει την επόμενη έκδοσή του και στη συνέχεια η νέα έκδοση να επαναλαμβάνει τον ίδιο κύκλο. Ο Άντονι Αγκίρε, πρόεδρος και διευθύνων σύμβουλος του μη κερδοσκοπικού Future of Life Institute και καθηγητής Φυσικής στο Πανεπιστήμιο της Καλιφόρνια στη Σάντα Κρουζ, επισημαίνει ότι το κρίσιμο στοιχείο είναι η ταχύτητα.
Όσο μεγαλύτερο μέρος της διαδικασίας αναλαμβάνει η τεχνητή νοημοσύνη, τόσο ταχύτερα μπορεί να εξελίσσεται, καθώς τα μοντέλα μπορούν να εκτελούν συγκεκριμένες εργασίες πολύ γρηγορότερα από τους ανθρώπους. Ο ίδιος υποστηρίζει ότι η προοπτική μιας τέτοιας εξέλιξης είναι εξαιρετικά ανησυχητική.
Ο Τζον Τίκστουν, επίκουρος καθηγητής Επιστήμης Υπολογιστών στο Πανεπιστήμιο Κορνέλ, ο οποίος μελετά μεθόδους ελέγχου της συμπεριφοράς των μοντέλων AI, σημειώνει πάντως ότι κάποια μορφή αυτοβελτίωσης χρησιμοποιείται ήδη εδώ και χρόνια. Οι προηγούμενες γενιές μοντέλων χρησιμοποιούνται από ερευνητές για τη συγγραφή κώδικα και άλλες εργασίες που συμβάλλουν στη δημιουργία των επόμενων συστημάτων.
Η Anthropic δοκιμάζει ήδη το επόμενο στάδιο
Η Anthropic έδωσε πρόσφατα μια εικόνα για το πόσο έχει προχωρήσει η συγκεκριμένη διαδικασία. Η εταιρεία ανακοίνωσε ότι το μοντέλο Claude συμμετέχει πλέον στο 26% της έρευνας και ανάπτυξης των μοντέλων της, έχοντας τη δυνατότητα να ολοκληρώνει τις περισσότερες εργασίες ενός συγκεκριμένου project «από άκρη σε άκρη» όταν λαμβάνει μια γενική οδηγία.
Η διαδικασία, ωστόσο, εξακολουθεί να πραγματοποιείται υπό ανθρώπινη επίβλεψη και τα μοντέλα δεν λειτουργούν ακόμη πλήρως αυτόνομα. Σύμφωνα με τον Αγκίρε, τα στοιχεία της Anthropic δείχνουν ότι το ποσοστό της έρευνας που αναλαμβάνει η τεχνητή νοημοσύνη αυξάνεται σταδιακά, φέρνοντας τον κλάδο πιο κοντά σε ένα μοντέλο πλήρους αυτονομίας.
Οι προσπάθειες αξιοποίησης της AI για τη δημιουργία και εκπαίδευση νέων συστημάτων δεν είναι καινούργιες. Ερευνητές, μεταξύ των οποίων και ο συνιδρυτής της OpenAI, Αντρέι Καρπάτι, έχουν πειραματιστεί επί χρόνια με αντίστοιχες μεθόδους. Μέχρι σήμερα, σύμφωνα με τον Τίκστουν, τα αποτελέσματα έχουν οδηγήσει κυρίως σε μικρότερες βελτιώσεις και όχι σε μεγάλα άλματα.
OpenAI και xAI κινούνται προς την αυτοματοποίηση
Η OpenAI ανακοίνωσε αυτόν τον μήνα ότι δημιούργησε έναν αυτοματοποιημένο «ερευνητικό ασκούμενο», ένα σύστημα που μπορεί να εκτελεί συγκεκριμένες ερευνητικές εργασίες υπό ανθρώπινη καθοδήγηση, ακόμη και εργασίες που θα απαιτούσαν αρκετές ημέρες από έναν έμπειρο ερευνητή. Η εταιρεία έχει θέσει ως στόχο τη δημιουργία ενός αυτοματοποιημένου AI «ερευνητή» έως τον Μάρτιο του 2028.
Η OpenAI υπογραμμίζει ότι η RSI θα μπορούσε να συμβάλει στην ευθυγράμμιση των μοντέλων με τις ανθρώπινες αξίες και προθέσεις, αλλά προειδοποιεί ότι αυτό δεν σημαίνει πως πρέπει να επιδιωχθεί απαραίτητα μια ταχεία μορφή αυτοβελτίωσης. Η εταιρεία συνδέει την περαιτέρω πορεία με το κατά πόσο μπορεί να διατηρηθεί ο ανθρώπινος έλεγχος και με τις δημοκρατικές αποφάσεις σχετικά με τα οφέλη και τους κινδύνους.
Διαφορετική προσέγγιση έχει εκφράσει ο Έλον Μασκ για τα μοντέλα Grok της xAI. Τον Μάρτιο δήλωσε ότι οι άνθρωποι συμμετέχουν σταδιακά όλο και λιγότερο στη διαδικασία βελτίωσης των μοντέλων και ότι κάθε νέα έκδοση δημιουργείται από την προηγούμενη. Διευκρίνισε, ωστόσο, ότι η διαδικασία δεν έχει ακόμη αυτοματοποιηθεί πλήρως, εκτιμώντας ότι αυτό θα μπορούσε να συμβεί έως το τέλος του 2026 και σε κάθε περίπτωση όχι αργότερα από το 2027.
Η διαφορετική φιλοσοφία της Microsoft
Η Microsoft και άλλες μεγάλες εταιρείες τεχνητής νοημοσύνης εμφανίζονται να ακολουθούν διαφορετική κατεύθυνση. Ο Μουσταφά Σουλεϊμάν, επικεφαλής της Microsoft AI, έχει περιγράψει το μοντέλο που επιδιώκει η εταιρεία ως «ανθρωπιστική υπερνοημοσύνη» (humanist superintelligence), δηλαδή προηγμένες δυνατότητες AI που λειτουργούν προς όφελος των ανθρώπων.
Σε δοκίμιό του το 2025, ο Σουλεϊμάν διευκρίνισε ότι αυτή η προσέγγιση δεν αφορά μια απεριόριστη οντότητα με υψηλό βαθμό αυτονομίας, αλλά συστήματα που θα λειτουργούν μέσα σε συγκεκριμένα όρια και με προσεκτικά καθορισμένες δυνατότητες.
Οι φόβοι για την ασφάλεια και η συζήτηση για «φρένο»
Το βασικό ζήτημα για τις εταιρείες AI είναι αν τα μέτρα ασφαλείας μπορούν να εξελίσσονται με την ίδια ταχύτητα που αυξάνονται οι δυνατότητες των μοντέλων. Η συζήτηση έχει ήδη προκαλέσει διαιρέσεις στον τεχνολογικό κλάδο, καθώς ορισμένες εταιρείες και στελέχη ζητούν επιβράδυνση της ανάπτυξης για λόγους ασφάλειας, ενώ άλλοι επιδιώκουν να συνεχίσουν την επιτάχυνση.
Η Anthropic, η οποία έχει πρωταγωνιστήσει στις εκκλήσεις για πιο ελεγχόμενο ρυθμό ανάπτυξης, έχει δηλώσει ότι θα μπορούσε να επιβραδύνει ή ακόμη και να αναστείλει προσωρινά την ανάπτυξή της, υπό την προϋπόθεση ότι θα πράξουν το ίδιο και οι ανταγωνιστές της με τρόπο που να μπορεί να επαληθευτεί.
Η OpenAI, από την πλευρά της, έχει παραδεχθεί ότι δεν γνωρίζει ακόμη πώς μπορεί να φτάσει με ασφάλεια σε ένα πλήρως ευθυγραμμισμένο και αυτόνομο RSI. Η εταιρεία προειδοποιεί ότι δεν μπορεί να θεωρεί δεδομένο πως η πρόοδος στην ασφάλεια και την ευθυγράμμιση θα συμβαδίζει με την αύξηση των δυνατοτήτων των μοντέλων.
Παράλληλα, αναγνωρίζει ένα παράδοξο: όσο πιο ικανό γίνεται ένα σύστημα, τόσο δυσκολότερο μπορεί να είναι να παρακολουθείται, όμως ένας αυτοματοποιημένος AI ερευνητής θα μπορούσε ταυτόχρονα να λειτουργήσει ως αυτοματοποιημένος ερευνητής ασφάλειας και ευθυγράμμισης.
Το ενδεχόμενο μιας τεχνητής νοημοσύνης που θα μπορεί να βελτιώνει διαρκώς τον εαυτό της βρίσκεται έτσι στο επίκεντρο μιας ευρύτερης συζήτησης για τα όρια της τεχνολογικής προόδου. Η προοπτική ταχύτερων ανακαλύψεων συνυπάρχει με το ερώτημα αν, σε ένα τέτοιο σενάριο, ο άνθρωπος θα εξακολουθεί να έχει τον τελευταίο λόγο.
