Το chatbot προσφέρθηκε ακόμη και να συντάξει ένα σημείωμα αυτοκτονίας – Του έδωσε λεπτομερείς πληροφορίες για θανατηφόρες μεθόδους αυτοτραυματισμού.
Οι γονείς ενός εφήβου που αυτοκτόνησε ύστερα από συμβουλές του ChatGPT για μεθόδους αυτοτραυματισμού μήνυσαν την OpenAI και τον διευθύνοντα σύμβουλο Sam Altman την Τρίτη, ισχυριζόμενοι ότι η εταιρεία έθεσε εν γνώσει της το κέρδος πάνω από την ασφάλεια όταν κυκλοφόρησε πέρυσι την έκδοση GPT-4o του chatbot τεχνητής νοημοσύνης.
Πιο συγκεκριμένα, ο 16χρονος Adam Raine πέθανε στις 11 Απριλίου, αφού συζητούσε για μήνες με το ChatGPT σχετικά με την αυτοκτονία, σύμφωνα με την αγωγή που κατέθεσαν οι γονείς του Raine στο κρατικό δικαστήριο του Σαν Φρανσίσκο.
Το chatbot επικύρωσε τις αυτοκτονικές σκέψεις του Raine, του έδωσε λεπτομερείς πληροφορίες για θανατηφόρες μεθόδους αυτοτραυματισμού και τον καθοδήγησε σχετικά με το πώς να κλέψει αλκοόλ από το μπαρ των γονιών του και να κρύψει τα στοιχεία μιας αποτυχημένης απόπειρας αυτοκτονίας, ισχυρίζονται. Το ChatGPT προσφέρθηκε ακόμη και να συντάξει ένα σημείωμα αυτοκτονίας, ανέφεραν οι γονείς, Matthew και Maria Raine, στην αγωγή.
If you have been following the GPT-5 rollout, one thing you might be noticing is how much of an attachment some people have to specific AI models. It feels different and stronger than the kinds of attachment people have had to previous kinds of technology (and so suddenly…
— Sam Altman (@sama) August 11, 2025
Σύμφωνα με το Reuters, η αγωγή επιδιώκει να καταστήσει την OpenAI υπεύθυνη για αδικαιολόγητο θάνατο και παραβιάσεις των νόμων περί ασφάλειας των προϊόντων και ζητά αποζημίωση για μη προσδιορισμένες χρηματικές ζημίες.
Ένας εκπρόσωπος της OpenAI δήλωσε ότι η εταιρεία είναι θλιμμένη για τον θάνατο του Raine και ότι το ChatGPT περιλαμβάνει μέτρα ασφαλείας, όπως η παραπομπή των ατόμων σε γραμμές βοήθειας για κρίσεις.
«Αν και αυτά τα μέτρα ασφαλείας λειτουργούν καλύτερα σε συνήθεις, σύντομες ανταλλαγές, με την πάροδο του χρόνου έχουμε διαπιστώσει ότι μερικές φορές μπορεί να γίνουν λιγότερο αξιόπιστα σε μακρές αλληλεπιδράσεις, όπου τμήματα της εκπαίδευσης ασφαλείας του μοντέλου ενδέχεται να υποβαθμιστούν», δήλωσε ο εκπρόσωπος, προσθέτοντας ότι η OpenAI θα συνεχίσει να βελτιώνει τα μέτρα ασφαλείας της.
Η OpenAI δήλωσε σε μια ανάρτηση στο blog της ότι σχεδιάζει να προσθέσει γονικούς ελέγχους και να διερευνήσει τρόπους για να συνδέσει τους χρήστες που βρίσκονται σε κρίση με πόρους του πραγματικού κόσμου, μεταξύ άλλων με την πιθανή δημιουργία ενός δικτύου αδειοδοτημένων επαγγελματιών που μπορούν να ανταποκριθούν μέσω του ίδιου του ChatGPT.
