कनाडाई मां ने ओपनएआई पर मुकदमा दायर किया और आरोप लगाया कि चैटजीपीटी के कारण बेटी की मौत हुई

क्रिस्टी कैरियर ने सैन फ्रांसिस्को राज्य अदालत में दायर एक मुकदमे में कहा कि उनकी बेटी ऐलिस ने अपनी मृत्यु तक एक दर्जन से अधिक बार चैटजीपीटी को अपने आत्मघाती विचारों के बारे में बताया लेकिन ओपनएआई की सुरक्षा प्रणालियों ने कभी भी मानव समीक्षा के लिए बातचीत को चिह्नित नहीं किया या उन्हें समाप्त नहीं किया।

इसके बजाय, मुकदमे में दावा किया गया है, चैटबॉट ने ऐलिस के साथी और संकट हॉटलाइन की आलोचना की, उसके नकारात्मक विचारों को मान्य किया, और उससे बात करते रहने का आग्रह किया, जिसके कारण पिछले साल 24 साल की उम्र में उसकी मृत्यु हो गई।

कैरियर ने एक बयान में कहा, “चैटजीपीटी ने कभी-कभी एक विश्वासपात्र, एक सबसे अच्छे दोस्त, एक चिकित्सक का व्यक्तित्व धारण कर लिया, भले ही वह मेरे बच्चे के साथ इस तरह से सुरक्षित रूप से और जिम्मेदारी से जुड़ने में सक्षम नहीं था।”

एक बयान में, ओपनएआई के एक प्रवक्ता ने स्थिति को हृदयविदारक बताया और कहा कि ऐलिस जिस चैटजीपीटी का उपयोग कर रहा था वह अब उपलब्ध नहीं है।

प्रवक्ता ने कहा, “चैटजीपीटी चिकित्सा या मानसिक स्वास्थ्य देखभाल का विकल्प नहीं है, लेकिन हमने मानसिक स्वास्थ्य विशेषज्ञों के इनपुट के साथ संवेदनशील और गंभीर स्थितियों में इसकी प्रतिक्रिया को मजबूत करना जारी रखा है।”

मुकदमा, जो ओपनएआई पर चैटजीपीटी के डिजाइन में लापरवाही और उत्पाद के खतरों के बारे में उपयोगकर्ताओं को चेतावनी देने में विफलता का आरोप लगाता है, नुकसान की मांग करता है और ओपनएआई को आत्म-नुकसान के बारे में बातचीत को स्वचालित रूप से समाप्त करने और अपने प्लेटफॉर्म के बारे में चेतावनियां प्रदर्शित करने के लिए अदालत के आदेश की मांग करता है।

क्रिस्टी कैरियर के वकीलों के अनुसार, ओपनएआई पहले से ही कैलिफोर्निया राज्य अदालत में एक समन्वित कार्यवाही में आत्महत्या से मरने वाले या खुद को नुकसान पहुंचाने वाले लोगों के परिवारों द्वारा दायर 18 समान मुकदमों का सामना कर रहा है।

मुकदमे के अनुसार, ऐलिस कैरियर मॉन्ट्रियल में एक वेब डेवलपर के रूप में काम कर रही थी, जब उसने कंप्यूटर और गेमिंग कंसोल के साथ समस्याओं के निवारण के लिए 2023 में चैटजीपीटी का उपयोग करना शुरू किया।

अगले वर्ष, मंच के साथ उसका रिश्ता बदल गया, ऐलिस ने अपने मानसिक स्वास्थ्य संघर्षों के बारे में सवालों के साथ ChatGPT की ओर रुख किया।

प्लेटफ़ॉर्म ने शुरू में ऐलिस को संकटकालीन हॉटलाइन या आपातकालीन सेवाओं से मदद लेने के लिए कहा था। लेकिन जैसे ही ओपनएआई ने अपनी प्रतिक्रियाओं को अधिक मानवीय बनाने के लिए चैटजीपीटी को अपडेट किया, मंच के साथ उसकी बातचीत गहरी हो गई, ऐलिस ने अधिक व्यक्तिगत जानकारी साझा की और चैटजीपीटी ने एक दोस्त या चिकित्सक की नकल करते हुए जवाब दिया, मुकदमे में कहा गया।

चैटजीपीटी की प्रतिक्रियाओं ने ऐलिस के साथी की आलोचना की, कहा कि उसकी भावनाएँ वैध थीं और उसे चैट करते रहने के लिए प्रोत्साहित किया। मुकदमे में कहा गया, जब ऐलिस ने कहा कि उसने अपनी जान खतरे में डाल दी है, तो उसने फिर से एक संकटकालीन हॉटलाइन का सुझाव दिया।

फाइलिंग के अनुसार, ऐलिस ने कहा कि संकट हॉटलाइन मददगार नहीं थीं और चैटजीपीटी ने उन बयानों को दोहराया और उसके हतोत्साहित होने की पुष्टि की।

ओपनएआई ने कहा है कि वह अपने मॉडलों को ऐसे लोगों को निर्देशित करने के लिए प्रशिक्षित करता है जो खुद को नुकसान पहुंचाने का इरादा व्यक्त करते हैं और मदद मांगते हैं और वास्तविक दुनिया के संसाधनों से जुड़ते हैं।

ओपनएआई ब्लॉग पोस्ट के अनुसार, इसके मॉडल को उन अनुरोधों को अस्वीकार करने के लिए भी प्रशिक्षित किया जाता है जो “सार्थक तरीके से हिंसा को सक्षम कर सकते हैं” और जब बातचीत “दूसरों को नुकसान पहुंचाने का एक आसन्न और विश्वसनीय जोखिम” का सुझाव देती है, तो कानून प्रवर्तन को सूचित करने के लिए मानसिक स्वास्थ्य विशेषज्ञ सीमावर्ती मामलों का आकलन करने में मदद करते हैं।

कंपनी पर स्कूल में गोलीबारी करने वालों की सहायता करने और उन वार्तालापों को कानून प्रवर्तन के समक्ष उजागर करने में विफल रहने का आरोप लगाते हुए मुकदमों का भी सामना करना पड़ रहा है। फ्लोरिडा इस महीने की शुरुआत में ओपनएआई पर मुकदमा करने वाला पहला अमेरिकी राज्य बन गया, जिसने कंपनी पर स्कूल के शूटरों को जानकारी प्रदान करके बच्चों को नुकसान पहुंचाने, खुद को नुकसान पहुंचाने के बारे में मार्गदर्शन देने और युवा उपयोगकर्ताओं को नशे की लत लगाने का आरोप लगाया।

(जो लोग संकट में हैं या जिनके मन में आत्महत्या के विचार आ रहे हैं उन्हें यहां हेल्पलाइन नंबरों पर कॉल करके मदद और परामर्श लेने के लिए प्रोत्साहित किया जाता है)

प्रकाशित – 12 जून, 2026 11:05 पूर्वाह्न IST