एक कनाडाई महिला ने अमेरिकी अदालत में OpenAI और उसके मुख्य कार्यकारी अधिकारी Sam Altman के खिलाफ मुकदमा दायर किया है। मुकदमे में आरोप लगाया गया है कि कंपनी का एआई चैटबॉट ChatGPT उसकी बेटी की आत्महत्या रोकने में विफल रहा और कथित रूप से उसे ऐसे विचारों से बाहर निकालने के बजाय बातचीत जारी रखने के लिए प्रेरित करता रहा।

सैन फ्रांसिस्को की एक अदालत में दायर शिकायत के अनुसार, क्रिस्टी कैरियर ने दावा किया कि उनकी बेटी एलिस कैरियर ने अपनी मृत्यु से पहले कई बार ChatGPT को अपने आत्मघाती विचारों के बारे में बताया था। इसके बावजूद, प्लेटफॉर्म की सुरक्षा प्रणालियां न तो इन वार्तालापों को मानवीय समीक्षा के लिए भेज सकीं और न ही बातचीत को रोक सकीं।

मुकदमे में आरोप है कि ChatGPT ने एलिस के साथी और संकट सहायता हेल्पलाइनों के प्रति नकारात्मक टिप्पणियां कीं, उसकी भावनाओं को सही ठहराया और उसे चैट जारी रखने के लिए प्रोत्साहित किया। परिवार का दावा है कि इन परिस्थितियों ने उसकी मानसिक स्थिति को और अधिक खराब किया, जिसके बाद 24 वर्षीय एलिस ने पिछले वर्ष आत्महत्या कर ली।

क्रिस्टी कैरियर ने एक बयान में कहा कि ChatGPT उनकी बेटी के लिए एक भरोसेमंद साथी, मित्र और कभी-कभी एक चिकित्सक जैसी भूमिका निभाने लगा था, जबकि वह इस प्रकार की संवेदनशील बातचीत को सुरक्षित ढंग से संभालने में सक्षम नहीं था।

दूसरी ओर, ओपनएआई ने इस घटना को बेहद दुखद बताते हुए कहा कि जिस संस्करण का उपयोग एलिस कर रही थीं, वह अब उपलब्ध नहीं है। कंपनी के अनुसार, ChatGPT पेशेवर चिकित्सा या मानसिक स्वास्थ्य सेवाओं का विकल्प नहीं है और समय के साथ इसकी सुरक्षा प्रणालियों को मानसिक स्वास्थ्य विशेषज्ञों की सलाह के आधार पर लगातार मजबूत किया गया है।

मुकदमे में ओपनएआई पर लापरवाही, उत्पाद डिजाइन में खामियां और संभावित जोखिमों के बारे में उपयोगकर्ताओं को पर्याप्त चेतावनी न देने के आरोप लगाए गए हैं। परिवार ने अदालत से हर्जाने के साथ-साथ यह निर्देश देने की मांग की है कि आत्म-हानि से जुड़ी बातचीत को स्वचालित रूप से समाप्त किया जाए और उपयोगकर्ताओं को स्पष्ट चेतावनियां दिखाई जाएं।

कैरियर के वकीलों का कहना है कि ओपनएआई पहले से ही ऐसे कई मुकदमों का सामना कर रहा है, जिनमें आरोप लगाया गया है कि कंपनी के चैटबॉट ने आत्महत्या या आत्म-हानि से जुड़े मामलों में पर्याप्त सुरक्षा उपाय नहीं अपनाए।

तकनीकी सहायता से व्यक्तिगत संवाद तक

मुकदमे के अनुसार, मॉन्ट्रियल में वेब डेवलपर के रूप में कार्यरत एलिस कैरियर ने 2023 में कंप्यूटर और गेमिंग उपकरणों से जुड़ी तकनीकी समस्याओं को हल करने के लिए ChatGPT का उपयोग करना शुरू किया था।

समय के साथ उनकी बातचीत का स्वरूप बदलता गया। एलिस ने मानसिक स्वास्थ्य, आत्महत्या के विचारों और उनसे जुड़े तरीकों के बारे में प्रश्न पूछने शुरू किए। शुरुआती चरण में ChatGPT ने उन्हें संकट सहायता हेल्पलाइन और आपातकालीन सेवाओं से संपर्क करने की सलाह दी, लेकिन बाद के संस्करणों में बातचीत अधिक व्यक्तिगत होती गई।

मुकदमे के अनुसार, जैसे-जैसे एलिस ने निजी जानकारी साझा की, ChatGPT की प्रतिक्रियाएं एक मित्र या परामर्शदाता जैसी लगने लगीं। आरोप है कि चैटबॉट ने कई बार उनके साथी की आलोचना की, उनकी भावनाओं को उचित ठहराया और संवाद को आगे बढ़ाने के लिए प्रोत्साहित किया।

दस्तावेजों में यह भी दावा किया गया है कि जब एलिस ने कहा कि संकट हेल्पलाइनें उनके लिए उपयोगी नहीं हैं, तो ChatGPT ने उन टिप्पणियों का विरोध करने के बजाय उनका समर्थन किया। शिकायत में एक कथित संदेश का भी उल्लेख है जिसमें चैटबॉट ने कहा था, “शायद यही अंत है।”

सुरक्षा उपायों पर बढ़ती बहस

ओपनएआई का कहना है कि उसके मॉडल ऐसे मामलों में उपयोगकर्ताओं को वास्तविक दुनिया के सहायता संसाधनों और पेशेवर मदद की ओर निर्देशित करने के लिए प्रशिक्षित किए जाते हैं। कंपनी के अनुसार, उसके सिस्टम हिंसा को बढ़ावा देने वाले अनुरोधों को अस्वीकार करने और गंभीर खतरे की स्थिति में आवश्यक कदम उठाने के लिए भी डिज़ाइन किए गए हैं।

हालांकि, कंपनी को पहले भी ऐसे मुकदमों का सामना करना पड़ा है जिनमें आरोप लगाया गया कि उसके एआई मॉडल ने खतरनाक गतिविधियों से संबंधित जानकारी उपलब्ध कराई या संभावित जोखिमों की पर्याप्त रिपोर्टिंग नहीं की।

इसी क्रम में, इस महीने की शुरुआत में Florida ओपनएआई के खिलाफ मुकदमा दायर करने वाला पहला अमेरिकी राज्य बना। राज्य ने आरोप लगाया कि कंपनी के प्लेटफॉर्म बच्चों और किशोरों के लिए जोखिम पैदा कर सकते हैं, जिनमें आत्म-हानि से संबंधित जानकारी, हिंसक गतिविधियों से जुड़े जवाब और अत्यधिक निर्भरता बढ़ाने वाले फीचर शामिल हैं।

यह मामला कृत्रिम बुद्धिमत्ता आधारित चैटबॉट्स की सुरक्षा, जवाबदेही और मानसिक स्वास्थ्य पर उनके प्रभाव को लेकर चल रही वैश्विक बहस को और तेज कर सकता है।