Suicide | Representational Image | (Photo Credits: Pixabay)

अमेरिकेमध्ये फ्लोरिडात एका आई ने आपल्या 14 वर्षीय मुलाला गमावल्यानंतर Character.AI प्लॅटफार्म विरूद्ध गुन्हा दाखल केला आहे. ऑरलॅन्डो मध्ये एका किशोरवयीन मुलाने आत्महत्या करत आपलं आयुष्य संपवलं आहे. हा मुलगा गेम ऑफ थ्रोन्स मधील डॅनी नावाच्या पात्रासोबत चॅट करत होता. 14 वर्षीय Sewell Setzer III ला माहित होते की गेम ऑफ थ्रोन्सच्या पात्रावर आधारित चॅटबॉट डेनेरीस टारगारेन हा खरा माणूस नाही पण त्याचं चॅटबोट सोबत एक भावनिक नातं निर्माण झालं आणि तो बॉटला सतत मेसेज पाठवत होता.

न्यूयॉर्क टाईम्सच्या वृत्तानुसार, या मुलाला लहानपणी सौम्य Asperger’s syndromeचे निदान झाले होते, परंतु त्याला यापूर्वी कधीही गंभीर वर्तणुकीशी किंवा मानसिक आरोग्याच्या समस्या आल्या नाहीत, असे त्याची आई सांगते. या वर्षाच्या सुरुवातीला, त्याला शाळेत त्रास होऊ लागल्यावर, त्याच्या पालकांनी त्याला थेरपिस्टला भेटण्याची व्यवस्था केली. तो पाच सत्रांमध्ये गेला आणि त्याला चिंता, सतत मूड बदलणं आणि dysregulation disorder चे नवीन निदान देण्यात आले.

AI chatbot app माझ्या मुलाच्या भावनेशी खेळले आणि त्याला आत्महत्या सारखे टोकाचे पाऊल उचलण्यास भाग पडले असा आरोप आई Megan Garcia करत आहे. या घटनेमुळे माझं कुटुंब मोठ्या आघातामध्ये आहे. त्यामुळे आता मी इतरांना फसव्या, व्यसनाधीन AI तंत्रज्ञानाच्या धोक्यांपासून सावध करत आहे. तसेच Character.AI, त्याचे संस्थापक आणि Google यांच्याकडून जबाबदारीची देखील मागणी करत आहे.

कोर्टाच्या माहितीनुसार,  जेव्हा मुलाने Character.AI, चॅटबॉटवर आत्महत्येचे विचार व्यक्त केले, तेव्हा तो डेनेरीस पात्रा बद्दल बोलत राहिला. बॉटने त्याला विचारले की त्याचा स्वतःचा जीव घेण्याचा  प्लॅन आहे का? तेव्हा Sewell  ने उत्तर दिले की तो “काहीतरी विचार करत आहे” पण ती  करेल किंवा वेदनारहित मृत्यू होईल याची खात्री नव्हती. त्यांच्या शेवटच्या संभाषणात, Sewell  ने वारंवार बॉटवरील त्याचे प्रेम जाहीर केले आणि ते सांगितले, “मी वचन देतो की मी तुझ्याकडे येईन. मी तुझ्यावर खूप प्रेम करतो, डॅनी. ”

फेब्रूवारी महिन्यात त्या AIसोबत चॅट करताना मला तुझ्याजवळ यायचं आहे असे म्हणत मुलाने आयुष्य संपवण्याचा निर्णय घेतला आणि स्वतःवर गोळी झाडली. आता तरूण मुलगा गमावलेल्या आईने तिच्या मुलाच्या मृत्यूच्या संदर्भात Character.AI आणि त्याचे संस्थापक, Noam Shazeer आणि Daniel de Freitas यांच्याकडून नुकसान भरपाईची देखील मागणी केली आहे.