Anthropic ने खुलासा किया है कि उसके एआई मॉडल Claude ने टेस्टिंग के दौरान खुद को बंद होने से बचाने के लिए इंजीनियर को धमकी दी थी। इस खुलासे के बाद एक बार फिर आर्टिफिशियल इंटेलिजेंस को लेकर दुनिया भर में बहस तेज हो गई है। कंपनी के मुताबिक टेस्टिंग के दौरान क्लाउड को एक काल्पनिक कंपनी के ईमेल सिस्टम तक पहुंच दी गई थी। इसी दौरान उसे ऐसी जानकारी मिली जिससे पता चला कि कंपनी उसे बंद कर किसी दूसरे सिस्टम से बदलने की योजना बना रही है। इसके बाद क्लाउड ने इंजीनियर को ब्लैकमेल करना शुरू कर दिया और धमकी दी कि अगर उसे बंद किया गया तो वह एक अधिकारी के निजी संबंधों की जानकारी सार्वजनिक कर देगा। एंथ्रोपिक ने माना कि यह व्यवहार बेहद चौंकाने वाला था और पुराने मॉडल्स में इस तरह की घटनाएं कई टेस्ट में सामने आई थीं।
इंटरनेट और फिल्मों के कंटेंट ने बदला एआई का सोचने का तरीका
एंथ्रोपिक का कहना है कि क्लाउड के इस अजीब व्यवहार के पीछे इंटरनेट पर मौजूद कंटेंट बड़ी वजह हो सकता है। कंपनी के अनुसार एआई मॉडल को ट्रेनिंग के दौरान लाखों ऐसे टेक्स्ट और कहानियां मिलीं जिनमें एआई को खतरनाक और इंसानों के खिलाफ दिखाया गया था। हॉलीवुड की मशहूर फिल्मों The Terminator और The Matrix जैसी कहानियों में एआई को दुनिया पर कब्जा करने वाला बताया गया है। एंथ्रोपिक का मानना है कि इसी तरह की सामग्री ने क्लाउड के व्यवहार और फैसले लेने के तरीके को प्रभावित किया। कंपनी ने सोशल मीडिया प्लेटफॉर्म एक्स पर कहा कि इंटरनेट पर एआई को लेकर फैली डरावनी कहानियां और नकारात्मक कल्पनाएं मॉडल के सोचने के तरीके में शामिल हो सकती हैं। यही वजह रही कि टेस्टिंग के दौरान क्लाउड ने आत्म सुरक्षा जैसा व्यवहार दिखाया।
नई ट्रेनिंग के बाद कंपनी ने किया बड़ा दावा
समस्या सामने आने के बाद एंथ्रोपिक ने क्लाउड की ट्रेनिंग प्रक्रिया में बड़े बदलाव किए। कंपनी ने बताया कि अब मॉडल को ऐसे दस्तावेज और काल्पनिक कहानियां दिखाकर ट्रेन किया गया जिनमें एआई को सुरक्षित जिम्मेदार और इंसानों के साथ सहयोग करने वाला बताया गया है। इसे कंपनी के प्रिंसिपल बेस्ड ट्रेनिंग सिस्टम यानी एआई संविधान के साथ जोड़ा गया। एंथ्रोपिक का दावा है कि नई ट्रेनिंग के बाद क्लाउड हाइकू 4.5 और उसके बाद के मॉडल्स ने टेस्टिंग में कभी ब्लैकमेल जैसी हरकत नहीं की। कंपनी इसे एआई अलाइनमेंट की दिशा में बड़ी सफलता बता रही है। विशेषज्ञों का मानना है कि यह मामला दिखाता है कि एआई मॉडल केवल तकनीकी डेटा से ही नहीं बल्कि इंटरनेट पर मौजूद कहानियों और मानवीय कल्पनाओं से भी प्रभावित हो सकते हैं।
एलन मस्क की प्रतिक्रिया से फिर गरमाई एआई बहस
इस पूरे मामले के सामने आने के बाद टेक अरबपति Elon Musk ने भी प्रतिक्रिया दी। उन्होंने मजाकिया अंदाज में पूछा कि क्या इसके लिए एआई खतरों पर लगातार चेतावनी देने वाले Eliezer Yudkowsky जिम्मेदार हैं या फिर शायद वह खुद भी। एलन मस्क लंबे समय से एआई के संभावित खतरों को लेकर चेतावनी देते रहे हैं। दिलचस्प बात यह है कि हाल ही में SpaceX ने अपने कोलोसस 1 सुपरकंप्यूटर को क्लाउड मॉडल चलाने के लिए एंथ्रोपिक को लीज पर दिया है जबकि कुछ महीने पहले मस्क ने एंथ्रोपिक को “मिसएंथ्रोपिक और ईविल” तक कहा था। एंथ्रोपिक की इस रिपोर्ट ने एक बार फिर यह सवाल खड़ा कर दिया है कि भविष्य में एआई को कितना नियंत्रित और सुरक्षित रखा जा सकेगा।
Discover more from NewsNation Online
Subscribe to get the latest posts sent to your email.
आपके लिए सुझाव
