Η αυτοκτονία ενός 16χρονου στην Καλιφόρνια των ΗΠΑ με οδηγίες του ChatGPT ήταν η σταγόνα που ξεχείλισε το ποτήρι ώστε η OpenAI να ανακοινώσει την εισαγωγή γονικού ελέγχου, καθώς και επιπλέον μέτρων ασφαλείας στη χρήση της πλατφόρμας Τεχνητής Νοημοσύνης.
Συγκεκριμένα, η εταιρεία ανέφερε ότι διερευνά τον ορισμό μιας επαφής έκτακτης ανάγκης, στην οποία θα μπορεί να σταλθεί μήνυμα ή να γίνει κλήση με «ένα κλικ» μέσα από το ChatGPT, αλλά και μια νέα δυνατότητα όπου το ίδιο το chatbot να μπορεί να επικοινωνεί με αυτή την επαφή σε «σοβαρές περιπτώσεις».
Όλα αυτά, τη στιγμή που οι γονείς του αδικοχαμένου 16χρονου παιδιού έχουν καταθέσει αγωγή κατά της OpenAI και του CEO Σαμ Άλτμαν, ισχυριζόμενοι ότι το ChatGPT παρείχε στον έφηβο οδηγίες για το πώς να αυτοκτονήσει και τον απομάκρυνε από τα συστήματα στήριξης της πραγματικής του ζωής.
