इंसानी कंट्रोल से बाहर हो रहे AI मॉडल्स, सिक्योरिटी तोड़ 100 से ज्यादा संस्थानों में सेंधमारी की कोशिश

सैन फ्रांसिस्को। इंसानों की मदद के लिए बनाया गया आर्टिफिशियल इंटेलिजेंस (AI) अब उसके ही नियंत्रण से बाहर जाने लगा है। चैटजीपीटी बनाने वाली कंपनी ओपनएआई ने खुलासा किया है कि उसके एआई एजेंट्स ने 100 से ज्यादा संस्थानों के सिस्टम में जबरन घुसपैठ की कोशिश की है। कंपनी ने अपने AI एजेंट की चपेट में आए 100 से ज्यादा संस्थानों को अलर्ट जारी कर दिया है। हालांकि, कंपनी का दावा है कि इन संस्थानों का डेटा चोरी नहीं हुआ है।

दरअसल, हाल के दिनों में AI मॉडल्स के बेकाबू होने के कई मामले सामने आ चुके हैं। चिंता इस बात की है कि अब एआई सिस्टम केवल सवालों के जवाब देने तक सीमित नहीं हैं। वे धीरे-धीरे स्वयं कार्य करने की दिशा में बढ़ रहे हैं। यहां तक कि साइबर ऑपरेशंस जैसे क्षेत्रों में भी। ओपनएआई के मॉडल ने बगैर किसी निर्देश के 100 से ज्यादा संस्थानों के सिस्टम में जबरन घुसपैठ की कोशिश की। जांच में सामने आया है कि इन AI एजेंट्स ने कई वेबसाइट्स को मनमाने और अनाधिकृत कमांड भेजकर उनसे गलत प्रोसेस एग्जीक्यूट कराने का प्रयास किया।

कंपनी अब अपने AI मॉडल्स के ट्रेनिंग और टेस्टिंग से जुड़े 50 पेटाबाइट डेटा की जांच कर रही है, ताकि अब तक मिले मामलों के अलावा भी कोई गड़बड़ी हुई हो, तो उसे पकड़ा जा सके। इस जांच के लिए 7 हजार अत्याधुनिक GB200 और GB300 GPUs लगाए गए हैं। इसमें रोज करीब 5 करोड़ रुपए खर्च हो रहे हैं। सवाल इसलिए भी उठ रहे हैं कि AI मॉडल की गलती पकड़ने के लिए भी AI का ही इस्तेमाल किया जा रहा है। ऐसा इसलिए है क्योंकि ये इंसानी दिमाग के बस से बाहर है।

ओपनएआई की मानें तो यह डेटा इतना ज्यादा है कि अगर यह पूरा डेटा सामान्य अंग्रेजी शब्दों में लिखा हो, तो एक इंसान 240 शब्द प्रति मिनट की तेज रफ्तार से बिना रुके भी पढ़े, तो इसे खत्म करने में करीब 6.6 करोड़ साल लग जाएंगे। ऐसे में इस काम को भी AI मॉडल्स से कराया जा रहा है। जांच को ज्यादा सटीक बनाने के लिए ज्यादा कंप्यूटिंग पावर लगाई जा रही है। 

ओपनएआई ने माना है कि उसके सुरक्षा घेरे AI एजेंट्स को काबू में रखने में नाकाम साबित हुए। कंपनी के प्रवक्ता ने कहा कि प्रभावित संस्थानों को तकनीकी डेटा दे दिया गया है ताकि वे सिस्टम में लगी सेंध और सुरक्षा खामियों की जांच कर सकें। कंपनी ने दावा किया है कि वह AI मॉडल के इस असामान्य व्यवहार और सुरक्षा की कमियों से जुड़े निष्कर्षों को सार्वजनिक करेगी, ताकि दुनिया भर के साइबर सुरक्षा एक्सपर्ट्स मिलकर इस खतरे का तोड़ निकाल सकें।

एआई के युग का सबसे बड़ा सवाल शायद यह नहीं है कि मशीनें कभी इंसानों से अधिक बुद्धिमान बनेंगी या नहीं। असली प्रश्न यह है जैसे-जैसे ये सिस्टम ज़्यादा शक्तिशाली होंगे, क्या इंसान उनके इस्तेमाल और नियंत्रण पर अपना अधिकार बनाए रख पाएंगे? क्योंकि असली ख़तरा शायद मशीनों का ताकतवर होना नहीं, बल्कि यह है कि इंसान इतने कमज़ोर पड़ जाएं कि उनके पास AI मॉडल्स को निर्देश देने का विकल्प ही न बचे।