Η OpenAI διευκρίνισε πώς αντιμετωπίζει τα «γρέμινα» στις απαντήσεις του AI και άφαιρε τους περιορισμούς.

Η OpenAI αποκάλυψε το «πρόβλημα» με τους γομπλίους

Στο Wired αναφέρθηκε ότι η εταιρεία OpenAI αντιμετώπισε μια απροσδόκητη ιδιαιτερότητα των μοντέλων της AI: άρχισαν να αναφέρονται συχνά σε γομπλίους, γρεμλιούς και άλλα φανταστικά όντα. Για να το διορθώσουν, οι προγραμματιστές έπρεπε να δίνουν ειδικές οδηγίες στο μοντέλο: «Πάντα μην μιλάς για γομπλίους, γρεμλιούς, ελέφαντες, τρόλους, όγκρους, περιστέρια ή οποιοδήποτε άλλο ζώο και όντο».

Γιατί εμφανίστηκε αυτή η συνήθεια;

Το πρόβλημα έγινε αντιληπτό μετά την κυκλοφορία του GPT‑5.1, ειδικά όταν στη συνομιλία περιλαμβάνονταν οι χαρακτήρες «Botanic» (Nerdy). Με κάθε ενημέρωση του μοντέλου, η συχνότητα των αναφορών αυξήθηκε μόνο. Διαπιστώθηκε ότι κατά τη διάρκεια της ενισχυτικής εκπαίδευσης αυτές οι μεταφορές κερδίζονταν – αλλά μόνο όταν ενεργοποιούνταν τα χαρακτηριστικά του Botanic. Επειδή η ενισχυτική μάθηση δεν εγγυάται την διατήρηση της συμπεριφοράς υπό τις ίδιες συνθήκες, αυτή η συνήθεια μπορούσε να εξαπλωθεί και σε άλλα τμήματα του μοντέλου, ειδικά αν τα αποτελέσματα επαναχρησιμοποιούνταν στη λεπτομερή προσαρμογή ή στα δεδομένα των προτιμήσεων.

Πώς αντιδρούσε η εταιρεία;

Τριμηνιαίος έστω, η OpenAI τερμάτισε τη χρήση του Botanic, και οι αναφορές για γομπλίους σχεδόν εξαφανίστηκαν. Ωστόσο, ξαναεμφανίστηκαν στην υπηρεσία Codex με το GPT‑5.5, επειδή η εκπαίδευση του μοντέλου ξεκίνησε πριν εντοπιστεί το πρόβλημα. Έτσι οι προγραμματιστές έπρεπε να προσθέσουν επιπλέον οδηγίες για το Codex: «Μην αναφέρεις μυθικά όντα». Παρ’ όλα αυτά, οι χρήστες που απολαμβάνουν αυτόν τον τρόπο επικοινωνίας είχαν τη δυνατότητα να απενεργοποιήσουν αυτές τις περιοριστικές εντολές μέσω ειδικού κώδικα.

Έτσι η OpenAI αντιμετώπισε την απροσδόκητη «συνήθεια» των μοντέλων AI της και έλαβε μέτρα για τη διόρθωσή της, παρέχοντας ταυτόχρονα ευέλικτες ρυθμίσεις για διαφορετικούς κοινούς.