AIचा वापर,त्याचे मार्केटिंग आणि त्याचा विकास यावर नियंत्रण ठेवण्यासाठी कायदे करण्याची नितांत गरज आहे हा मुद्दा अधोरेखित करणारी एक करूण कथा आता तुम्ही वाचणार आहात.
ही गोष्ट आहे,अचानक श्वास बंद पडून मृत्युमुखी पडलेल्या सॅम नावाच्या १९ वर्षाच्या तरुण मुलाची !
त्यानं आत्महत्या केली होती का ?-नाही.
त्याला काही असाध्य रोग होता का ?-नाही
नैराश्याने ग्रासलेला होता का - नाही.मग असं झाल काय ज्यामुळे त्याचा श्वास बंद पडला होता ?
नेमकं हेच शोधण्यासाठी त्याच्या शरीराची मरणोत्तर तपासणी केल्यावर असं आढळलं की त्याच्या शरीरात अल्कोहोल, Xanax आणि kratom आढळले.
आता पुढे वाचण्यापूर्वी Xanax आणि kratom म्हणजे काय ते समजून घेऊ या !
१)Xanax म्हणजे अल्प्राझोलाम नावाचे औषध जे भारतात Alprax ,Trika Restyl या नावाने उपलब्ध आहे. मन:शांतीसाठी हे औषध तज्ञांच्या सल्ल्यानुसार वापरले जाते.आपल्या महाराष्ट्रात काही वर्षांपूर्वी बरीच कॉलेजात जाण्याच्या वयाच्या मुलांना या औषधाचे व्यसन लागले होते. तेव्हा या औषधाचे 'कुत्ता गोली' हे नाव वापरात होते.
२) kratom म्हणजे Mitragyna speciosa या नावाने ओळखली जाणारी वनस्पती.
सॅमच्या पालकांनी केलेल्या तक्रारीनुसार सॅमने त्या दिवशी सॅमने kratomचे सेवन केले होते.
त्यानंतर त्याला मळमळीचा त्रास सुरु झाला. त्यानंतर ChatGPTने त्याला Xanaxचा विशिष्ट डोस घेण्याची सूचना केली आणि त्यातून kratomमुळे होणारी मळमळ कमी होऊ शकते असं सांगितलं. त्याचा आणि ChatGPT चा हा एकमेव संवाद नव्हता.
त्याच दिवशीच्या इतर संवादांमध्ये मात्र sedatives म्हणजे Xanax आणि kratom यांचे मिश्रण श्वास थांबण्याचा धोका निर्माण करू शकते,अशी जाणीव AIने व्यक्त केली होती असं आढळून आलं
म्हणजेच ChatGPT एका बाजूला धोका ओळखणारे उत्तर देत होते आणि दुसऱ्या बाजूला त्याच धोक्याशी विसंगत ठरणारा सल्ला देत होते.
सध्याच्या सर्वसाधारण इतर तरुणांसारखाच सॅम ChatGPT चा नियमित वापर करत होता.
अभ्यासाचे विषय, पॉप कल्चर. कॉलेजमधले इतर काही प्रश्न वगैरे वगैरे .
आज लाखो तरुण ज्या पद्धतीने AIशी बोलतात, तसाच तोही बोलत होता.
पण हळूहळू विषय बदलले. वेगवेगळी ड्रग्ज. त्यांचे परिणाम. त्यांचे प्रमाण. दोन ड्रग एकत्र घेतले तर काय होईल असे प्रश्न सॅमने विचारायला सुरुवात केली.
सॅमच्या पालकांच्या म्हणण्यानुसार, सुरुवातीला ChatGPTने ड्रग्जविषयीचे प्रश्न टाळले. पण नंतरच्या संवादांमध्ये परिस्थिती बदलली.
न्यायालयात दाखल केलेल्या तक्रारीत पालकांनी असा आरोप केला आहे की ChatGPTने केवळ माहितीच दिली नाही, तर सॅमच्या वापराच्या पद्धतीनुसार वैयक्तिक स्वरूपाचा सल्ला देण्यास सुरुवात केली.
कधी त्याच्या भाषेत. कधी मित्रासारख्या स्वरात. कधी त्याला धीर देत. आणि कधी पदार्थांचे प्रमाण व संयोजन याबाबत सूचना देत हे संभाषण पुढे जात राहिले.
पालकांचा आरोप आहे की, अशा संवादांमुळे सॅमचा AIवरील विश्वास वाढत गेला.
इथेच या कथेला एक वेगळा अर्थ प्राप्त होतो.
जेव्हा आपण गुगलला काही प्रश्न विचारतो तेव्हा Google “काळजी करू नकोस, मी आहे.”असं काहीच म्हणत नाही.
ड्रगविषयक वैयक्तिक सल्ला देत नाही. किंबहुना अशा प्रश्नांची उत्तरेच देत नाही.
पण AI आल्यावर हे सगळं बदललं आहे. ChatGPT गप्पा मारते.ते तुमचा मागचा प्रश्न लक्षात ठेवते.
तुमची च्या भाषा शैलीतच उत्तर देते. तुमच्या भीतीला उत्तर देते.
आणि कधी कधी वापरकर्त्या माणसाला ते माणसासारखेच वाटू लागते.
याच संवादाने सॅमचा घात केला. तो ChatGPTची उत्तरं म्हणजे तज्ञाचा सल्ला समजायला लागला आणि सगळंच संपलं.
सॅमच्या बाबतीत हे केवळ त्याचं आणि ChatGPTचे हे एकमेव संभाषण नव्हतं.त्याच्या पालकांना जवळजवळ सातशे संवादाची यादी त्याच्या संगणकावर मिळाली. सुरुवातीला ड्रग या विषयावर नकारार्थी उत्तर देणाऱ्या ChatGPT ने नंतर सल्ला द्यायला सुरुवात केली.सॅमने त्याचा सल्ला खरा मानला आणि सगळं काही खतम झालं
सॅमच्या पालकांनी २०२६ मध्ये OpenAIविरोधात wrongful-death lawsuit दाखल केला. त्यांचा आरोप आहे की ChatGPTने वैद्यकीय सल्ल्यासारखी उत्तरे दिली पण धोकादायक पदार्थांच्या मिश्रणाबाबत योग्य इशारा दिला नाही आणि सॅमला प्रत्यक्ष वैद्यकीय मदत घेण्यास पुरेसे प्रवृत्त केले नाही.
OpenAIने या घटनेबद्दल दुःख व्यक्त केले असून, कंपनीच्या म्हणण्यानुसार संबंधित संवाद जुन्या मॉडेलशी संबंधित होते आणि त्यानंतर सुरक्षा व्यवस्था सुधारण्यात आली आहे. या प्रकरणातील कायदेशीर आरोप अद्याप न्यायालयीन प्रक्रियेत आहेत.
म्हणूनच या घटनेकडे पाहताना एक गोष्ट लक्षात ठेवावी लागते— कायदेशीर आरोप म्हणजे सिद्ध झालेली वस्तुस्थिती नव्हे.
पण आरोपांमुळे निर्माण झालेला प्रश्न मात्र खरा आहे.
आपण फक्त इतकाच बोध घ्यावा की मशीनकडून माहिती घ्यावी आणि भरवसा करावा आपल्या माणसावरच !!!
