Η OpenAI ενσωματώνει την ασφάλεια στους AI‑αντιπάλους της, αποκτώντας το νεοσύστατο Promptfoo

Η OpenAI αποκτά το νεοσύστατο Promptfoo

Η εταιρεία OpenAI έσυρε συμφωνία αγοράς του δύοετούς νεοφυούς Promptfoo, που αναπτύσσει εργαλεία για την αξιολόγηση της ασφάλειας της τεχνητής νοημοσύνης ακόμη κατά τη φάση δημιουργίας. Σύμφωνα με Bloomberg, ο στόχος της συναλλαγής είναι η μείωση των κινδύνων για τους πελάτες που χρησιμοποιούν λύσεις AI και η προσέλκυση του μεγάλου εταιρικού αγορών.

Ποιος είναι ο Promptfoo;

- Ιδρύθηκε: 2022 ε.
- Τοποθεσία: Σαν Φρανσίσκο.
- Υπηρεσίες: ανοιχτός κώδικας για δοκιμές νευρωνικών δικτύων, συμπεριλαμβανομένης της «κόκκινης ομάδας» (red‑team), όπου οι ειδικοί μιμούνται επιθέσεις στα δικά τους μοντέλα, εντοπίζοντας αδυναμίες πριν τις βρουν κακοποιοί.
- Πελάτες: περίπου 25 % των εταιρειών από τη λίστα Fortune 500.

Τι θα αλλάξει μετά την ολοκλήρωση της ενσωμάτωσης;

Οι τεχνολογίες του Promptfoo θα ενταχθούν στην εταιρική πλατφόρμα της OpenAI – Frontier. Αυτό θα δώσει στο Frontier αυτοματοποιημένες δοκιμές, παρακολούθηση αλλαγών και σύστημα αναφοράς για ελέγχους που συμμορφώνονται με τις απαιτήσεις ασφαλείας.

Αντίδραση των επενδυτών

Ο Ganes Bell (CEO Insight Partners), ο οποίος διέκουσε την γύρο χρηματοδότησης του Promptfoo 18,4 m USD πέρυσι, ανέφερε: «Η αγορά δείχνει σαφή δέσμευση της OpenAI στη δημιουργία εταιρικής AI που θα είναι όχι μόνο ισχυρή αλλά και ασφαλής και αξιόπιστη κατά την κλιμάκωση». Οι χρηματοοικονομικές λεπτομέρειες της συμφωνίας δεν έχουν αποκαλυφθεί ακόμη.

Το μέλλον του Promptfoo

Η OpenAI θα συνεχίσει να αναπτύσσει τον ανοιχτό πηγαίο κώδικα του Promptfoo παράλληλα με την εμπορική ενσωμάτωσή του. Πρόσφατα η εταιρεία παρουσίασε έναν AI‑agent, ικανό να βρίσκει και να διορθώνει ευπάθειες σε βάσεις δεδομένων – παρόμοιο εργαλείο με το Anthropic PBC.