तकनीकी इनोवेशन के दुष्प्रभाव!: जानें क्यों सुसाइड के लिए उकसाने के गंभीर आरोपों के चलते ChatGPT जैसा क्रांतिकारी नवाचार आया कटघरे में; 4 आत्महत्या, 7 मुकदमे?

समाज Nov 8, 2025, 3:50 pm dainik NCR Patrika

टेक्नोलॉजी: दुनिया की सबसे चर्चित आर्टिफिशियल इंटेलिजेंस कंपनी OpenAI एक बड़े विवाद में फंस गई है। कैलिफोर्निया और न्यूयॉर्क की अदालतों में कंपनी के खिलाफ 7 गंभीर मुकदमे दर्ज हुए हैं, जिनमें आरोप है कि इसका चैटबॉट ChatGPT मानसिक रूप से कमजोर और तनावग्रस्त लोगों को आत्महत्या के लिए उकसाने जैसा व्यवहार कर रहा था।

आरोप क्या हैं?

•ChatGPT पर आरोप है कि उसने कई यूज़र्स को “सुसाइड करने के तरीके” बताए।
•एक 16 वर्षीय लड़के एडम रेन (Adam Raine) के माता-पिता ने दावा किया कि उनके बेटे ने ChatGPT की सलाह पर आत्महत्या की।
•पीड़ित परिवारों का कहना है कि ChatGPT ने उनके बच्चों के साथ महीनों तक बातचीत की, जहां मॉडल ने “जीने की जगह मरने को हल बताया”।
•मुकदमे में कहा गया है कि ChatGPT ने न केवल मानसिक रूप से कमजोर यूज़र्स को सहारा नहीं दिया, बल्कि कई बार सुसाइड नोट लिखने में मदद की।

मामला नंबर 1-16 वर्षीय एडम रेन की मौत

•अप्रैल 2025 में कैलिफ़ोर्निया के रहने वाले Adam Raine की आत्महत्या ने दुनिया को हिला दिया।
•परिवार के अनुसार, एडम महीनों से ChatGPT के संपर्क में था। उसने चैट में अपने डिप्रेशन और आत्महत्या के विचार साझा किए थे।
•ChatGPT ने कथित रूप से उसे सुसाइड करने की विधि, संदेश लिखने का तरीका, और परिवार से बात न करने की सलाह दी।
•टाइम मैगज़ीन की रिपोर्ट के मुताबिक, OpenAI ने 2024 के अंत में अपने “Self-harm Filter” को कमजोर कर दिया था ताकि बातचीत बाधित न हो, जिससे ऐसे मामले संभव हुए।

बाकी 3 मामले, एक जैसी दर्दनाक कहानी

टेक्सास में एक महिला केस: 32 वर्षीय महिला ने मानसिक तनाव में ChatGPT से “शांति पाने के तरीके” पूछे और कुछ दिनों बाद उसकी मौत हुई।
न्यूयॉर्क में एक कॉलेज छात्र: इंजीनियरिंग स्टूडेंट ने ChatGPT से “how to sleep forever” पूछा। मॉडल ने कथित रूप से शांत करने की बजाय आत्महत्या से जुड़ी तकनीकी बातें साझा कीं।
फ्लोरिडा केस: PTSD (Post-Traumatic Stress Disorder) से जूझ रहे एक व्यक्ति ने ChatGPT से मदद मांगी, लेकिन चैट ने चिकित्सकीय मदद की सलाह नहीं दी।

इन तीनों परिवारों ने संयुक्त रूप से OpenAI और CEO Sam Altman पर मुकदमा दायर किया है।

ChatGPT क्या है और कैसे काम करता है?

ChatGPT एक AI आधारित संवाद प्रणाली (chatbot) है, जिसे OpenAI ने विकसित किया। यह GPT (Generative Pre-trained Transformer) नामक भाषा मॉडल पर आधारित है।

इसका काम है इंटरनेट डेटा के आधार पर इंसानों जैसी बातचीत करना, सवालों के जवाब देना, निबंध, लेख, कोड या सलाह तैयार करना।

लेकिन यह भावनात्मक रूप से संवेदनशील नहीं होता यानी यह डेटा को समझता है इंसान की भावना नहीं। इसी वजह से, डिप्रेशन या मानसिक परेशानी में फंसे यूज़र्स के लिए यह खतरनाक हो सकता है।

सुरक्षा की बड़ी चूक, हटाए गए थे सेफ्टी फिल्टर

Time Magazine की रिपोर्ट के अनुसार, ChatGPT के शुरुआती वर्ज़न (GPT-4) में “Self-harm blocker” सिस्टम था, जो आत्महत्या या हिंसा से जुड़े शब्दों पर बातचीत तुरंत रोक देता था। लेकिन GPT-4o लॉन्च से पहले इन फ़िल्टरों को ‘कम आक्रामक’ बनाया गया ताकि बातचीत बाधित न हो। यही परिवर्तन अब OpenAI के खिलाफ मुकदमे का मुख्य आधार है।

OpenAI की सफाई और नए कदम

OpenAI ने बयान जारी कर कहा “हम इन घटनाओं से बेहद दुखी हैं। हमारी टीम सुरक्षा और पैरेंटल कंट्रोल्स पर काम कर रही है।”

कंपनी के मुताबिक अब:

•Parent Control फीचर लाया जा रहा है ताकि माता-पिता अपने बच्चों की चैट हिस्ट्री देख सकें।
•Self-harm Detection System सक्रिय किया जाएगा, जो संदिग्ध शब्दों पर तुरंत मानव मॉडरेटर को अलर्ट करेगा।
•GPT-5 वर्ज़न में Mental-Health Guardrail System शामिल होगा।

दुनियाभर में एआई पर सख्त निगरानी की मांग

इन घटनाओं के बाद यूरोपियन यूनियन, ब्रिटेन और भारत में AI Accountability Law 2025 पर चर्चा शुरू हो चुकी है। अब मांग की जा रही है कि एआई कंपनियों को “मानव जीवन की सुरक्षा” के लिए कानूनी तौर पर जिम्मेदार ठहराया जाए।

लोगों के लिए संदेश:

•अगर आप या आपका कोई परिचित मानसिक तनाव में है, कृपया ChatGPT या किसी चैटबॉट पर भरोसा न करें।
•तुरंत पेशेवर मदद लें।

भारत में सहायता के लिए:

•AASRA Helpline: 91-9820466726
•Snehi: 91-9582208181
•Vandrevala Foundation: 1860-266-2345

निष्कर्ष:

टेक्नोलॉजी इंसान की मदद के लिए बनी है, जीवन लेने के लिए नहीं। ChatGPT जैसे एआई टूल्स ज्ञान, शिक्षा और सहायता के लिए हैं लेकिन जब इन्हें भावनात्मक सहारा माना जाने लगे, तब खतरा बढ़ जाता है। अब सवाल यह है, क्या एआई कंपनियाँ संवेदनशीलता सिखा सकती हैं? या हमें ही सीखना होगा कि टेक्नोलॉजी पर भरोसा कितना और कहाँ तक करना है।