Η OpenAI αμφιβάλλει για την αποτελεσματικότητα των επιταχυντών της Nvidia για inference και ενεργά αναζητά εναλλακτικές λύσεις.

Τι συμβαίνει στον κόσμο της τεχνολογίας ΤΕ
Περίληψη: Οι κύριοι παίκτες OpenAI και Nvidia θεωρούνται ηγέτες στην αγορά τεχνητής νοημοσύνης, αλλά αναζητούν νέους συνεργάτες. Σύντομα θα γίνει συμφωνία αξίας 100 εκτ. Δολαρίων μεταξύ των εταιρειών. Πρόβλημα με τα επιταχυντικά της Nvidia: οι τρέχουσες χIPS δεν παρέχουν πάντα την απαιτούμενη απόδοση στην inference (χρήση ήδη εκπαιδευμένων μοντέλων). Η OpenAI ψάχνει εναλλακτική λύση.

Πώς αναπτύσσονται νέες λύσεις
1. OpenAI → Cerebras + Groq

- Η εταιρεία θέλει να αντικαταστήσει έως και το 10 % των επιταχυντικών της με chips τρίτων προμηθευτών που είναι καλύτερα για inference.

- Η συνεργασία με την Cerebras έχει ήδη κλείσει: η OpenAI θα αγοράζει από αυτούς “αρχι-accelerators”, εξαιρετικά στην επεξεργασία μεγάλων γλωσσικών μοντέλων.

2. Groq και Nvidia

- Το προηγούμενο έτος η Nvidia απέκτησε την Groq για 20 εκτ. Δολαρίων, προσφέροντας πιο ευνοϊκή δομή συμφωνίας.

- Μετά από την αγορά, η Groq έχασε μέρος της ανεξαρτησίας της: οι περισσότεροι προγραμματιστές επιταχυντικών μεταφέρθηκαν στο προσωπικό της Nvidia, ενώ το υπόλοιπο τμήμα της εταιρείας μπορεί πλέον να πουλάει μόνο λογισμικό για cloud συστήματα.

3. AMD και άλλες επιλογές

- Η OpenAI εξακολουθεί να εξαρτάται σε μεγάλο βαθμό από τα επιταχυντικά της Nvidia και AMD, οι οποίοι χρησιμοποιούν εξωτερική μνήμη HBM.

- Για inference είναι καλύτερα chips με μεγάλη ενσωματωμένη μνήμη – ακριβώς αυτά προσφέρουν Groq, Cerebras και Google.

Γιατί όλα αυτά είναι σημαντικά
- Η αποδοτικότητα της inference είναι κρίσιμη για τη λειτουργία μεγάλων γλωσσικών μοντέλων (ChatGPT, Codex).

- Το πρόβλημα στο Codex – κατά την ανάπτυξη του AI‑agent Codex η OpenAI αντιμετώπισε ανεπάρκεια των επιταχυντικών της Nvidia. Αυτό τονίζει την ανάγκη αλλαγής πλατφόρμας υλικού.

- Η μελλοντική εναλλακτική – η OpenAI σχεδιάζει να χρησιμοποιήσει λύσεις Cerebras και ενδεχομένως άλλα chips, για να αυξήσει την απόδοση των εργαλείων της για προγραμματιστές.

Συμπεράσματα
Η OpenAI ενεργά αναζητά νέους τεχνολογικούς συνεργάτες ώστε να μην εξαρτάται πλήρως από τη Nvidia. Παράλληλα η εταιρεία διαμορφώνει στρατηγική επενδύσεων σε startups (Cerebras, Groq) και εξετάζει μεγάλες συμφωνίες με την Nvidia και πιθανά επενδύσεις έως 100 εκτ. Δολαρίων. Αυτό θα βελτιώσει τη inference και θα επιταχύνει την ανάπτυξη προϊόντων ΤΕ.