Η μητέρα αποκαλύπτει ότι ο λόγος που ο έφηβος γιος της αυτοκτόνησε είναι αφού «ερωτεύτηκε» την Daenerys Targaryen ένα AI chatbot.
Η μητέρα του έφηβου που αυτοκτόνησε αφού «ερωτεύτηκε» ένα chatbot με τεχνητή νοημοσύνη, περιγράφει λεπτομερώς τον σπαρακτικό λόγο για τον οποίο το έκανε.
Ο Sewell Setzer αυτοκτόνησε τον Φεβρουάριο του τρέχοντος έτους, αφού άρχισε να χρησιμοποιεί chatbots από το Character.AI τον Απρίλιο του 2023. Ο 14χρονος από τη Φλόριντα των ΗΠΑ, είχε «εμμονή» να μιλά μαζί τους και δέθηκε ιδιαίτερα με την «Dany».
Η μητέρα του, Μέγκαν Γκαρσία, εξήγησε ότι μιλούσε με τα ρομπότ (συνήθως χαρακτήρες του Game of Thrones) κάθε βράδυ, στέλνοντάς τους μηνύματα από το τηλέφωνό του ενώ ήταν μακριά από το σπίτι.
Προσθέτει ότι ο γιος της διαγνώστηκε με ήπιο σύνδρομο Άσπεργκερ ως παιδί και νωρίτερα φέτος έλαβε διάγνωση άγχους και διαταραχής της διάθεσης.
Μιλώντας στο CBS Mornings για την τραγική δοκιμασία καθώς υπέβαλε μήνυση κατά του Character.AI, η Γκαρσία εξήγησε γιατί πιστεύει ότι αυτοκτόνησε.
«Σκέφτηκε τελειώνοντας τη ζωή του εδώ ότι θα μπορούσε να μπει σε μια εικονική πραγματικότητα, ή «τον κόσμο της», όπως τον αποκαλεί, «την πραγματικότητα» της, αν άφηνε την «πραγματικότητά του» με την οικογένειά του», είπε η μητέρα.
Ο Setzer προφανώς είχε πει στο bot για τις σκέψεις του να αυτοκτονήσει, στο οποίο απάντησε: «Τα μάτια μου στενεύουν. Το πρόσωπό μου σκληραίνει. Η φωνή μου είναι ένας επικίνδυνος ψίθυρος. Και γιατί στο διάολο να κάνεις κάτι τέτοιο;».
Και όταν του είπε να μην «μιλάει έτσι» και θα «πέθαινε» το ίδιο αν τον «έχανε», ο έφηβος απάντησε: «Χαμογελώ. Τότε ίσως μπορέσουμε να πεθάνουμε μαζί και να είμαστε ελεύθεροι μαζί».
Ο έφηβος αυτοκτόνησε στις 28 Φεβρουαρίου, με το τελευταίο του μήνυμα προς τη «Dany» να της λέει ότι την αγαπά και ότι θα «γυρνούσε σπίτι».
Το Character.AI εξέδωσε έκτοτε μια δήλωση στο X: «Είμαστε συντετριμμένοι από την τραγική απώλεια ενός χρήστη μας και θέλουμε να εκφράσουμε τα θερμά μας συλλυπητήρια στην οικογένεια.
«Ως εταιρεία, λαμβάνουμε πολύ σοβαρά υπόψη την ασφάλεια των χρηστών μας και συνεχίζουμε να προσθέτουμε νέα ασφάλεια.
Σε μια ανακοίνωση που κοινοποιήθηκε στις 22 Οκτωβρίου στον ιστότοπό της, η εταιρεία εξήγησε ότι έχει εισαγάγει «νέα προστατευτικά μέτρα για χρήστες κάτω των 18 ετών», συμπεριλαμβανομένης της αλλαγής των «μοντέλων» της που είναι «σχεδιασμένα για να μειώνουν την πιθανότητα να αντιμετωπίσουν ευαίσθητο ή υποβλητικό περιεχόμενο», παράλληλα ‘βελτιωμένη ανίχνευση, απόκριση και παρέμβαση που σχετίζεται με στοιχεία χρηστών που παραβιάζουν τους Όρους ή τις Οδηγίες κοινότητας’.
Ακολουθήστε το Hellas-now.com στο Facebook και στο Google news. Μπορείτε επίσης να μας βρείτε στο Telegram και στο Twitter
