Ο Ανδρέι Καρπάτι οδήγησε τους AI-ανθρώπους να εκτελούν εκατοντάδες πειράματα τη νύχτα, όταν οι άνθρωποι ξεκουράζονται

Αντρέι Καρπάτι (Andrej Karpathy) ανοίγει μια νέα προσέγγιση για την αυτο-εξέταση

Ο πρώην διευθυντής των έργων AI της Tesla και συνιδρυτής του OpenAI, Αντρέι Καρπάτι, ανακοίνωσε τη λήψη ενός απλού αλλά ισχυρού έργου ανοιχτού κώδικα. Το σενάριο αποτελείται από μόλις 630 γραμμές και φιλοξενείται στο GitHub. Δεν υποστηρίζει την κατάσταση ως έτοιμο μοντέλο ή μεγάλο εταιρικό προϊόν· ο στόχος είναι να δείξει πώς οι AI-αγέντες μπορούν να αυτοματοποιήσουν πλήρως τη επιστημονική μέθοδο χωρίς ανθρώπινη παρέμβαση.

> «Η αποστολή μας είναι να δημιουργήσουμε αγέντες που προχωρούν απέραντα γρήγορα στις έρευνες, ακόμη και νύχτας» – γράφει ο Καρπάτι στο X. Το μήνυμα έγινε αμέσως εμβληματικό και συγκεντρώθηκε πάνω από 8,6 εκ τ. προβολές σε δύο ημέρες.

Πώς λειτουργεί το σύστημα
1. Αρχικοποίηση

Ο αγέντης λαμβάνει ένα εκπαιδευτικό σενάριο και έναν σταθερό υπολογιστικό προϋπολογισμό (συνήθως 5 λεπτά στο GPU).

2. Αυτο-ανάλυση του κώδικα

Διαβάζει τον δικό του πηγαίο κώδικα, διατυπώνει μια υπόθεση βελτίωσης (π.χ., αλλαγή της ταχύτητας εκμάθησης ή βάθους του μοντέλου).

3. Τροποποίηση και εκκίνηση πειράματος

Κάνει τις αλλαγές, τρέχει το πείραμα και αξιολογεί τα αποτελέσματα.

4. Έλεγχος αποδοτικότητας

Αν η μετρική *val_bpb* (απώλειες ανά byte κατά την επικύρωση) βελτιώνεται, η αλλαγή διατηρείται· διαφορετικά αναιρείται και δημιουργείται νέα υπόθεση.

Κατά τη διάρκεια μιας νύχτας ο αγέντης εκτέλεσε 126 πειράματα, μειώνοντας τις απώλειες από 0,9979 σε 0,9697. Μετά μια διήμερη προσαρμογή, επεξεργάστηκε περίπου 700 αυτόνομες αλλαγές, εντοπίζοντας ~20 πρόσθετες βελτιώσεις που μεταφέρθηκαν επιτυχώς σε μεγαλύτερα μοντέλα.

Ο Καρπάτι ανέφερε: «Να βλέπεις τον αγέντη να διαχειρίζεται πλήρως τη διαδικασία από την αρχή μέχρι το τέλος είναι απίστευτο. Έβρεκε σφάλματα στη κλιμάκωση της προσοχής και στην κανονικοποίηση, που έχω παραλείψει για 20 χρόνια εργασίας».

Τι λένε οι ειδικοί
Η αυτοματοποίηση της επιστημονικής μεθόδου θεωρείται θεμελιώδης αλλαγή στην εξέλιξη του AI. Μετατρέποντας τη μηχανική μάθηση σε «εξωτικό διαδικασία» με την ταχύτητα του πυρήνου, ο Καρπάτι άνοιξε νέους ορίζοντες για έρευνες όχι μόνο στον IT αλλά και στο μάρκετινγκ, την υγεία και άλλους τομείς.

Παραδείγματα πρακτικής εφαρμογής
Συνεργάτης | Περιγραφή πειράματος | Αποτελέσματα
---|---|---
Hyperspace AI (Varun Mathur) | 35 αυτόνομοι αγέντες εργάζονταν σε peer-to-peer δίκτυο, χρησιμοποιώντας CPU φορητών υπολογιστών. | Σε μια νύχτα διεξήγαγαν 333 πειράματα χωρίς χειριστή, ανακαλύπτοντας στρατηγικές αρχικοποίησης (Kaiming, Xavier) και κανονικοποίησης (RMSNorm).
Single Grain (Eric Siu) | Αυτοματοποίηση του κύκλου μάρκετινγκ: ο αγέντης αλλάζει μεταβλητές σε στόχους σελίδων, διαφημιστικά ή email. | Μετράει το «ποσοστό θετικών απαντήσεων», αποθηκεύει επιτυχημένες αλλαγές και αφαιρεί τις μη αποτελεσματικές.

Συμπέρασμα
Ο Καρπάτι έδειξε πώς απλά σενάρια μπορούν να γίνουν ισχυρά εργαλεία για την αυτο-εκμάθηση των AI-αγέντων. Η αυτοματοποιημένη βρόχος βελτίωσης επιτρέπει τη διεξαγωγή εκατοντάδων πειραμάτων σε μια νύχτα, εντοπίζοντας βελτιώσεις που προηγουμένως απαιτούσαν χρόνια έρευνας. Αυτό ανοίγει τον δρόμο για ταχύτερη και κλιμακούμενη ανάπτυξη μοντέλων σε διάφορους τομείς.