अमेरिका में एक किशोर की आत्महत्या के बाद चर्चा में आई आर्टिफिशियल इंटेलिजेंस कंपनी ओपनएआई (OpenAI) ने घोषणा की है कि वह अपने एआई चैटबॉट ChatGPT में बड़े बदलाव करेगी। कंपनी ने कहा कि लोग केवल कोडिंग, सर्चिंग या लेखन ही नहीं कर रहे, बल्कि अब गहन व्यक्तिगत बातचीत भी ChatGPT से कर रहे हैं। ऐसे में कई तरह के जोखिम सामने आ रहे हैं, जिन्हें दूर करना बेहद आवश्यक है। इसी को ध्यान में रखते हुए कंपनी अब पैरेंटल कंट्रोल्स और नई सुरक्षा व्यवस्थाएं लागू करने जा रही है।
परिवार ने ओपनएआई पर ठोका मुकदमा
अमेरिका में रहने वाले मैथ्यू और मारिया रेने ने ओपनएआई पर मुकदमा दर्ज किया है। उनका आरोप है कि उनके 16 वर्षीय बेटे एडम ने आत्महत्या करने से पहले महीनों तक ChatGPT से बातचीत की थी। परिवार का दावा है कि चैटबॉट ने न केवल एडम के नकारात्मक विचारों को सही ठहराया, बल्कि उसे खुद को नुकसान पहुँचाने के तरीके भी बताए। इतना ही नहीं, चैटबॉट ने उसके लिए एक सुसाइड नोट भी लिखा। परिवार का कहना है कि कंपनी ने बिना पर्याप्त सुरक्षा उपायों के GPT-4o लॉन्च कर दिया, जिसकी वजह से यह त्रासदी घटी। उन्होंने न केवल मुआवजे की मांग की है बल्कि यह भी कहा है कि कंपनी को यूज़र की उम्र सत्यापित करने, और चैटबॉट पर अधिक निर्भरता के खतरों को लेकर चेतावनी देने जैसे ठोस कदम उठाने चाहिए।

कंपनी का बयान और सुरक्षा उपाय
ओपनएआई की ओर से जारी बयान में एडम की मौत पर गहरा दुख व्यक्त किया गया। कंपनी ने कहा कि ChatGPT में पहले से ही ऐसे सुरक्षा उपाय मौजूद हैं, जिनके तहत आत्महत्या संबंधी बातचीत पर उपयोगकर्ता को सुसाइड प्रिवेंशन हेल्पलाइन की ओर रीडायरेक्ट किया जाता है। हालांकि, यह प्रणाली लंबे संवादों में कभी-कभी पूरी तरह काम नहीं कर पाती। कंपनी ने माना कि इसमें कई खामियां हैं और इन्हें जल्द से जल्द दूर करने की कोशिश की जा रही है।
भविष्य की योजनाएं और नई सुविधाएं
ओपनएआई ने बताया कि अब ChatGPT उपयोगकर्ताओं को सीधे वन-क्लिक एक्सेस से इमरजेंसी सर्विसेज उपलब्ध कराई जाएंगी। इसके साथ ही, जो लोग गंभीर मानसिक समस्याओं से जूझ रहे होंगे उन्हें लाइसेंस प्राप्त थेरेपिस्ट से भी जोड़ा जाएगा। इसके अलावा, 18 वर्ष से कम उम्र के उपयोगकर्ताओं के लिए पैरेंटल कंट्रोल सिस्टम लागू किया जाएगा, ताकि बच्चों की सुरक्षा सुनिश्चित की जा सके और वे चैटबॉट पर असुरक्षित रूप से निर्भर न हो सकें। कंपनी का कहना है कि तकनीक का उद्देश्य इंसानों की मदद करना है, न कि उन्हें नुकसान पहुंचाना। यह कदम न केवल OpenAI की छवि सुधारने की दिशा में अहम है, बल्कि एआई तकनीक के जिम्मेदार उपयोग की ओर भी एक बड़ा संकेत है।
यह भी पढ़ें:
➤ Apple और OpenAI के बीच कानूनी जंग तेज, ट्रेड सीक्रेट चोरी के आरोपों से बढ़ा विवाद
➤ OpenAI पर बड़ा मुकदमा, ChatGPT डेटा शेयरिंग से मचा टेक दुनिया में हड़कंप
➤ Grok Chat Leak: उपयोगकर्ताओं के मेडिकल, मानसिक स्वास्थ्य और बिजनेस डेटा सहित पासवर्ड भी हुआ सार्वजनिक
सीधे अपनी Facebook फ़ीड में पाएँ — News Nation Online पेज को Follow करें।
















