Οι υπάλληλοι της Amazon χρησιμοποιούν την τεχνητή νοημοσύνη μόνο για αναφορές, όχι για πραγματικά αποτελέσματα

Πώς ο γεννητικός ΤΝ μετατρέπεται σε «δείκτη» απόδοσης των εργαζομένων

Με την αύξηση της δημοτικότητας των τεχνολογιών γεννητικού τεχνητού νοημοσύνης (ΤΝ) οι εταιρείες απαιτούν όλο και πιο συχνά από τους υπαλλήλους τους να παρουσιάζουν πρακτικές επιτυχίες στη χρήση αυτών των συστημάτων. Σε απάντηση σε αυτήν την πίεση εμφανίστηκε ένα νέο φαινόμενο: οι εργαζόμενοι αναθέτουν στο ΤΝ άσκοπες εργασίες μόνο για να βελτιώσουν τα στατιστικά τους σχετικά με τη χρήση της τεχνολογίας.

Ο Financial Times περιγράφει την κατάσταση στην Amazon

Στο άρθρο του Financial Times αναφέρεται πώς οι εργαζόμενοι του παγκόσμιου γιγαντιαίου ηλεκτρονικού εμπορίου χρησιμοποιούν όλο και πιο ενεργά τη λογισμική λύση MeshClaw. Αυτό το πράκτορας συνδέεται με τα εργαλεία εργασίας των υπαλλήλων και μπορεί να εκτελεί εντολές εκ μέρους τους. Μερικοί από αυτούς την χρησιμοποιούν για την αυτοματοποίηση ουσιαστικά άχρηστων ενεργειών, ώστε να αυξήσουν τη δική τους βαθμολογία αποδοτικότητας στη χρήση του ΤΝ.

Η αιτία είναι η αυξανόμενη πίεση από το διοικητικό επίπεδο: πλέον πάνω από το 80 % των προγραμματιστών υποχρεώνονται να χρησιμοποιούν το ΤΝ κάθε εβδομάδα. Για κάθε υπάλληλο υπάρχει ξεχωριστό στατιστικό αρχείο, και όσοι δεν ανταποκρίνονται στους στόχους πρέπει να εξηγήσουν την κατάσταση στη διοίκηση. Αν και επίσημα οι διευθυντές δεν πρέπει να αξιολογούν τους εργαζόμενους με βάση τα δεδομένα χρήσης των token ΤΝ, τις τελευταίες μήνες έχουν εμφανιστεί υποψίες ότι αυτό συμβαίνει ακριβώς.

Σε αυτή τη συνθήκη ορισμένοι εργαζόμενοι της Amazon δημιουργούν ψευδείς κίνητρα: προσομοιώνουν υψηλή δραστηριότητα για προσωπικό όφελος και όχι για το καλό της εταιρείας. Αυτό είναι ιδιαίτερα σημαντικό για τους τεχνολογικούς γιγάντες που επενδύουν τεράστιες ποσότητες στην υποδομή ΤΝ και θέλουν να δείξουν στους επενδυτές και στη διοίκηση πραγματικά οφέλη από την υλοποίηση.

Πώς η Amazon διαχειρίζεται τα δεδομένα χρήσης του ΤΝ

Η Amazon σχεδιάζει να ξοδέψει το τρέχον έτος περίπου 200 δισεκατομμύρια δολάρια σε κεφαλαιακές επενδύσεις. Για να βεβαιωθεί ότι οι τεχνολογίες εφαρμόζονται πραγματικά, η εταιρεία ενισχύει τον έλεγχο της χρήσης του ΤΝ. Αρχικά δημοσιεύονταν ομαδικά στατιστικά στοιχεία για τη χρήση του ΤΝ από τους υπαλλήλους, αλλά τώρα πρόσβαση σε ατομικά αποτελέσματα έχουν μόνο οι ίδιοι οι ειδικοί και η άμεση διοίκηση τους. Οι διευθυντές επίσημα απαγορεύονται να χρησιμοποιούν αυτά τα δεδομένα για την αξιολόγηση της απόδοσης του προσωπικού.

Η κατάσταση σε άλλες τεχνολογικές εταιρείες

Ο Financial Times σημειώνει ότι παρόμοιες παραβάσεις παρατηρούνται και στην Meta Platforms. Το MeshClaw, που αναπτύχθηκε από πάνω από 30 ειδικούς της Amazon, μπορεί να ανεβάζει κώδικα λογισμικού σε παραγωγικές εκδόσεις, να ταξινομεί μηνύματα και να αλληλεπιδρά με εφαρμογές όπως το Slack. Πολλοί εργαζόμενοι εκφράζουν ανησυχία για την ασφάλεια τέτοιων λύσεων: το ΤΝ μπορεί να δημιουργήσει σφάλματα, ενώ ο έλεγχος των ενεργειών του παραμένει αδύναμος.

Έτσι, η αύξηση των απαιτήσεων στη χρήση του γεννητικού ΤΝ οδηγεί στη δημιουργία «δείκτων» απόδοσης που μερικές φορές γίνονται στόχος οι ίδιοι, και όχι μέσο για την επίτευξη πραγματικών επιχειρηματικών αποτελεσμάτων.