Η OpenAI ορίσε έναν "διευθυντή προετοιμασίας" που θα εποπτεύει την ασφάλεια της τεχνητής νοημοσύνης

Η OpenAI ανέθεσε νέο επικεφαλής ασφαλείας τεχνητής νοημοσύνης

Καθώς αυξάνονται οι ανησυχίες για την ασφαλή χρήση της ΤΝ, η εταιρεία OpenAI ανακοίνωσε νέο μέλος του προσωπικού – τον Δίλαν Σκαννινάρο ως *Head of Preparedness* (Διευθυντής Προετοιμασίας).

Ποιος είναι ο Δίλαν Σκαννινάρο;
| Περίοδος | Εταιρεία | Ρόλος |
|----------|-----------|-------|
| Μάιος 2023 – Φεβρουάριος 2024 | Anthropic | Υπεύθυνος έργων ασφαλείας ΤΝ |
| Σεπτέμβριος 2022 – Μαΐς 2025 | DeepMind (Google) | Ειδικός σε συνθετικά δεδομένα για εκπαίδευση Gemini |
| Μέχρι 2022 | Palantir, Unity Technologies, Everyday Robots | Διάφορες θέσεις στον χώρο μηχανικής μάθησης και ανάπτυξης λογισμικού |

Ο Σκαννινάρο είναι γνωστός για την εμπειρία του στη μείωση κινδύνων στην ανάπτυξη μοντέλων ΤΝ.

Τι σημαίνει η νέα διοίκηση;
* Ρόλος: Ηγετική θέση στην ομάδα *Preparedness* – υπεύθυνος για την προετοιμασία και εφαρμογή μέτρων που θα επιτρέψουν την ανάπτυξη ισχυρών μοντέλων χωρίς απειλή για τους χρήστες.
* Όροι: Μισθός 550 000 δολαρίων ετησίως + μετοχές της OpenAI.
* Πλαίσιο: Από το 2023 υπάρχει η ομάδα *Preparedness*, προηγουμένως υπό την ηγεσία του Alexander Madrid, ειδικού από το MIT.

Πώς βλέπει τη θέση ο CEO της OpenAI
Ο Σαμ Άλτμαν σημείωσε ότι με την ταχύτερη εξέλιξη των μοντέλων, η εταιρεία θα αντιμετωπίσει νέους και πιο σοβαρούς κινδύνους. Τόνισε:

> «Θα δουλεύουμε πάνω σε εξαιρετικά ισχυρά μοντέλα. Αυτό θα απαιτήσει κατάλληλα μέτρα προφύλαξης για να διασφαλίσουμε την περαιτέρω παροχή μεγάλων ωφελειών».

Ο Άλτμαν εξέφρασε εμπιστοσύνη στις ικανότητες του Σκαννινάρο:

*«Είναι ο καλύτερος υποψήφιος για αυτόν τον ρόλο από όλους τους ανθρώπους που έχω συναντήσει ποτέ», – είπε.
Αυτός πρόσθεσε ότι με τη νέα ηγεσία, η ομάδα θα μπορεί να επικεντρωθεί στην μακροπρόθεσμη ασφάλεια και «θα κοιμηθεί πιο ήρεμα».

Τι αναμένεται από τον Σκαννινάρο;
Ο ίδιος ανέφερε ότι τα γρήγορα εξελισσόμενα μοντέλα ΤΝ μπορούν να προκαλέσουν «ακραίο και ακόμη ανεπανόρθωτο βλάβη». Επομένως, η προκλήσή του είναι:

* Να αναπτύξει στρατηγικές ελαχιστοποίησης κινδύνων.
* Να εφαρμόσει πρακτικές ασφαλούς εκπαίδευσης και λειτουργίας μοντέλων.
* Να συντονίζει τις προσπάθειες όλης της ομάδας της OpenAI σε αυτόν τον τομέα.

Συμπέρασμα
Η OpenAI ενισχύει τη δομή ασφάλειας της, προσκαλώντας έναν έμπειρο ειδικό από κορυφαίες εταιρείες του κλάδου. Η νέα διοίκηση υπογραμμίζει την επιδίωξη της εταιρείας για υπεύθυνη ανάπτυξη ΤΝ και προετοιμασία σε πιθανούς μελλοντικούς κινδύνους.