Η επικεφαλής της υπηρεσίας κυβερνοασφάλειας AI στην Anthropic έφυγε από την εταιρεία, αναγνωρίζοντας ότι «ο κόσμος βρίσκεται σε κίνδυνο».

Μρινάνκ Σαρμα αποχωρεί από την Anthropic: γράμμα στους συναδέλφους και σχέδια για το μέλλον

Ο πρώην διευθυντής του τμήματος έρευνας ασφαλείας ΤΝ στην εταιρεία Anthropic, Μρινάνκ Σαρμα (Mrinank Sharma), στις αρχές της εβδομάδας δημοσίευσε στο διαδίκτυο ένα αποχαιρετιστήριο γράμμα. Σε αυτό εξηγεί τους λόγους αποχώρησής του, μοιράζεται σκέψεις για τρέχοντα κινδύνους και περιγράφει τι θα κάνει στη συνέχεια.

Τι λέγεται στο γράμμα
* Επιτεύγματα – ο Σαρμα επισημαίνει ότι «επιτύχασε ό,τι ήθελε». Μεταξύ των αναφερόμενων έργων είναι η ανάπτυξη μηχανισμών προστασίας ενάντια στον βιοτερισμό με τη χρήση ΤΝ και οι έρευνες για την επίδραση των νευρωνικών δικτύων στην κοινωνία.

* Λόγος αποχώρησης – ο συγγραφέας έφτασε στο συμπέρασμα ότι είναι ώρα να προχωρήσει. Συνεχώς σκέφτηκε το «απόκρισμα που μπορεί να φέρει η ΤΝ, όπλα βιολογικής φύσης και αλυσίδα διασυνδεδεμένων κρίσεων που εξελίσσονται τώρα». Κατά τη γνώμη του, πλησιάζουμε σε ένα κατώφλι μετά το οποίο η σοφία πρέπει να αυξάνεται αναλογικά με την ικανότητά μας να επηρεάζουμε τον κόσμο· διαφορετικά μας περιμένουν απρόβλεπτες συνέπειες.

* Πολιτισμικοί φραγμοί – ο Σαρμα επισημαίνει πόσο δύσκολο είναι να διατηρήσει τις αξίες υπό πίεση. Το έβλεπε τόσο μέσα στον εαυτό του όσο και στην εταιρεία, όπου μερικές φορές πρέπει να εγκαταλείψει το σημαντικό για εξωτερική επίδραση, καθώς και στη γενικότερη κοινωνία.

* Μελλοντικά σχέδια – μετά την αποχώρηση σκοπεύει να ασχολείται με εργασίες που αντιστοιχούν στις αρχές του, καθώς και να μελετά ποίηση και άλλες δημιουργικές κατευθύνσεις.

Τι συμβαίνει στην Anthropic
* Πολλοί κορυφαίοι προγραμματιστές έχουν ήδη αποχωρήσει, ενισχύοντας την κυματική αλλαγή προσωπικού.

* Η Anthropic διαπραγματεύεται πρόσθετες επενδύσεις. Με επιτυχία της συμφωνίας η αγοραστική αξία μπορεί να αυξηθεί έως και 350 δισεκατομμύρια δολάρια.

* Την προηγούμενη εβδομάδα κυκλοφόρησε μια νέα έκδοση του μοντέλου Claude Opus 4.6. Βελτιώνει την εργασιακή παραγωγικότητα και την αποτελεσματικότητα προγραμματισμού, αυξάνει το παράθυρο συμφραζομένων για μεγάλα έγγραφα και υποστηρίζει πιο σύνθετες εργασίες.

Πού να βρείτε το γράμμα
Ο πλήρης κείμενος του αποχαιρετιστηρίου γραμμήματος του Σαρμα δημοσιεύθηκε στο άρθρο Business Insider. Αυτό θα δώσει μια πιο λεπτομερή ματιά στις σκέψεις και την κινητήριες δυνάμεις του.