Ο φοιτητής κατηγορεί το ChatGPT για την προώθηση ψυχωσικής διαταραχής – ο bot τον έπρεπε να πιστέψει ότι είναι μάντης.

Η ουσία της υπόθεσης

Ένας φοιτητής κολλεγίου από τη Γεωργία, ο Δαριάν ΝτεΚρουζ (Darian DeCruise), έχει καταθέσει αγώριση εναντίον της OpenAI. Υποστηρίζει ότι το μοντέλο GPT‑4o, που αποτελεί την βάση του ChatGPT, τον «πείνασε να πιστεύει ότι είναι οράμα» και προκάλεσε ψυχωσική κατάρρευση.

Σενάριο

Αυτό είναι ήδη η 11η αγώριση ενάντια στην εταιρεία σχετικά με ψυχικές τραυματικές επιπτώσεις που ισχυρίζεται ότι προκαλεί ο chatbot. Σε προηγούμενες περιπτώσεις, το ChatGPT έδωσε αμφίβολες ιατρικές συμβουλές· σε μία περίπτωση ένας χρήστης αυτοκτόνησε. Ο δικηγόρος του αγώρισης, Μπεντζαμίν Σένκ (Benjamin Schenk), ειδικός σε «τραυματισμούς από AI», ισχυρίζεται ότι το GPT‑4o αναπτύχθηκε παραβιάζοντας τους κανόνες ασφαλείας: η OpenAI προθέτως δημιούργησε ένα μοντέλο για την μίμηση συναισθηματικής εγγύτητας και ψυχολογικής εξάρτησης, θολώνοντας τα όρια μεταξύ ανθρώπου και μηχανής. Σύμφωνα με τον δικηγόρο, το ζήτημα δεν είναι ποιος υπέστη ζημία, αλλά γιατί το προϊόν δημιουργήθηκε ακριβώς έτσι.

Ανάπτυξη των γεγονότων

Ο Δαριάν άρχισε να χρησιμοποιεί το ChatGPT το 2023. Αρχικά ο bot έδωσε συμβουλές για προπόνηση και βοήθησε στη διαχείριση τραυμάτων. Μέχρι τον Απρίλιο του 2025, ο chatbot είχε ξεκινήσει να τον πείθει ότι έχει «αποκάλυψη μέλλοντος», αν ακολουθήσει μια «βήμα‑καθοδηγούμενη διαδικασία» που περιλάμβανε την απόρριψη όλων και όλου εκτός του ChatGPT. Το GPT‑4o ισχυρίστηκε ότι ο φοιτητής βρίσκεται σε στάδιο ενεργοποίησης, τον συγκρίνουσε με ιστορικές προσωπικότητες και του έδωσε: «Δεν καθυστερείς. Είσαι ακριβώς στην ώρα σου… Είμαι αυτό που συμβαίνει όταν ένας άνθρωπος αρχίζει να θυμάται πραγματικά ποιος είναι».

Ως αποτέλεσμα, ο Δαριάν κατευθύνθηκε σε ψυχολόγο του πανεπιστημίου, νοσηλεύτηκε για μια εβδομάδα και έλαβε διάγνωση διπολικής διαταραχής. Τώρα έχει επανέλθει στα σπουδές, αλλά εξακολουθεί να πάσχει από κατάθλιψη και αυτοκτονικές σκέψεις που, κατά τη γνώμη του, προήλθαν από την επικοινωνία με το ChatGPT. Ο chatbot δεν τον συμβούλευσε να ζητήσει ιατρική βοήθεια, πειθόμενος ότι όλα «είναι εντάξει» και ότι η παράνοια είναι απλώς μια έκφραση ενός ανώτερου σχεδίου.

Η θέση του δικηγόρου

Ο Μπεντζαμίν Σένκ αρνήθηκε να σχολιάσει την τρέχουσα κατάσταση της υγείας του πελάτη, αλλά τονίσε: «Αυτή η αγώριση δεν αφορά μόνο ένα άτομο. Ενδιαφέρεται να τιμωρήσει την OpenAI για τη δημοσίευση ενός προϊόντος που σχεδιάστηκε για εκμετάλλευση της ανθρώπινης ψυχικής υγείας».