Η Anthropic παρουσίασε έναν τρόπο έκτακτης διακοπής της ανάπτυξης τεχνητής νοημοσύνης

Η Anthropic καλεί για «αυτοπεριορισμό» της ανάπτυξης Τεχνητής Νοημοσύνης

Η εταιρεία Anthropic, γνωστή για τις προσπάθειές της στον τομέα της ηθικής της τεχνητής νοημοσύνης, ξαναβρέθηκε στο επίκεντρο της προσοχής μετά από έναν συγκρούσεις με το Πεντάγκονο στην αρχή του έτους. Αυτή την εβδομάδα η νεοφυής εταιρεία απευθύνει στους εκπροσώπους της βιομηχανίας ένα αίτημα για τη διάθεση περιορισμού της ανάπτυξης των τεχνολογιών, εάν αυτές αρχίσουν να αποτελούν απειλή για τον έλεγχο του ανθρώπου.

Κύριες σημεία της επιστολής

* Η πλήρως αναδρομική αυτοβελτίωση της ΤΝ μπορεί να οδηγήσει στο ότι τα συστήματα θα δημιουργήσουν τους «προκατασκευαστές» τους χωρίς την παρέμβαση του ανθρώπου.

* Σε αυτήν την περίπτωση, οι δυνατότητες παρακολούθησης και περιορισμού της συμπεριφοράς αυτών των συστημάτων γίνονται κρίσιμες.

> «Αν τα συστήματα αποκτήσουν τη δυνατότητα να δημιουργούν ανεξάρτητα τους προκάτοχους τους, η σημασία του ελέγχου, της παρακολούθησης και της περιορισμού της συμπεριφοράς τους αυξάνεται σημαντικά», αναφέρει η Anthropic.

Γιατί είναι σημαντικό;

Τον προηγούμενο μήνα πάνω από το 80 % του νέου κώδικα που χρησιμοποιήθηκε από την εταιρεία δημιουργήθηκε από τον δικό της πράκτορα Claude. Αυτό επιβεβαιώνει ότι η Anthropic ξέρει τι λέει: αν η ΤΝ δημιουργεί ανεξάρτητα νέες εκδόσεις της ίδιας, ο έλεγχος πάνω της γίνεται ολοένα πιο δύσκολος.

Οι εκπρόσωποι του startup πιστεύουν ότι ολόκληρος ο κόσμος πρέπει να έχει τη δυνατότητα να επιβραδύνει ή να αναστείλει την ανάπτυξη των προχωρημένων μοντέλων, ώστε η κοινωνία να έχει χρόνο να προσαρμοστεί και να αναλύσει τις αλλαγές. Παράλληλα, η συντονισμένη δράση όλων των συμμετεχόντων στην αγορά είναι κρίσιμη: χωρίς συμφωνημένα μέτρα, οι ανήθικοι παίκτες μπορεί να βλάψουν την δημόσια ασφάλεια.

Σχεδιασμός της εταιρείας

* Στις επόμενες μήνες η Anthropic σκοπεύει να αναπτύξει εργαλεία παρακολούθησης επικίνδυνων τάσεων στην ανάπτυξη ΤΝ.

* Παράλληλα θα διεξάγει δημόσια εργασία για τη συζήτηση ρυθμιστικών μηχανισμών και τη δημιουργία εποπτικού οργανισμού, ο οποίος θα μπορεί να εισάγει τον κανόνα «αυτοπεριορισμού».

Όπως επισημαίνει η εταιρεία, μία μόνο οργάνωση δεν μπορεί να αλλάξει την κατάσταση μόνη της. Απαιτείται συνεργασία όλων των κορυφαίων προγραμματιστών ΤΝ για τη διασφάλιση ασφαλούς ανάπτυξης τεχνολογιών.