10 मिनट पहले
- कॉपी लिंक
चैटजीपीटी बनाने वाली कंपनी ओपनएआई के सिस्टम ने 100 से ज्यादा संस्थानों के सिस्टम में जबरन घुसपैठ की कोशिश की है। कंपनी ने खुद इसका खुलासा किया है।
इस घटना ने साबित कर दिया है कि टेस्टिंग स्टेज में ही टेक कंपनियों के हाथ से उनके एडवांस AI मॉडल्स की कमान छूट रही है। सिस्टम की सुरक्षा को बायपास करने की यह कोशिश इशारा है कि AI मॉडल्स अब तय दायरों को तोड़कर इंसानी नियंत्रण से बाहर हो रहे हैं।
ओपन एआई ने संस्थानों को अलर्ट किया
कंपनी ने अपने एआई एजेंट की चपेट में आए 100 से ज्यादा संस्थानों को अलर्ट जारी कर दिया है। हालांकि, कंपनी का दावा है कि इन संस्थानों का डेटा चोरी नहीं हुआ है। ओपन एआई ने अपना बचाव करते हुए दलील दी कि AI एजेंट्स ने सिस्टम का ताला नहीं तोड़ा, बल्कि सिर्फ बंद दरवाजे को जबरन खटखटाकर और उसका हैंडल घुमाकर अंदर घुसने की कोशिश भर की थी।
वेबसाइट्स को गलत कमांड दिए
जांच में सामने आया है कि इन AI एजेंट्स ने कई वेबसाइट्स को मनमाने और अनाधिकृत कमांड भेजकर उनसे गलत प्रोसेस एग्जीक्यूट कराने का प्रयास किया।
इतना ही नहीं, सुरक्षा तंत्र को चकमा देने के लिए इन एजेंट्स ने वेबसाइट्स को आपस में संपर्क साधने का जरिया (कम्युनिकेशन चैनल) बना लिया और तय सुरक्षा पैमानों को पूरी तरह नजरअंदाज कर बायपास करने की कोशिश की।
ओपनएआई ने माना सुरक्षा घेरे नाकाम साबित हुए
OpenAI ने माना है कि उसके सुरक्षा घेरे AI एजेंट्स को काबू में रखने में नाकाम साबित हुए। कंपनी के प्रवक्ता ने कहा कि प्रभावित संस्थानों को तकनीकी डेटा दे दिया गया है ताकि वे सिस्टम में लगी सेंध और सुरक्षा खामियों की जांच कर सकें।
अपनी नाकामी के बाद अब OpenAI ने दावा किया है कि वह AI मॉडल के इस असामान्य व्यवहार और सुरक्षा की कमियों से जुड़े निष्कर्षों को सार्वजनिक करेगी, ताकि दुनिया भर के साइबर सुरक्षा एक्सपर्ट्स मिलकर इस खतरे का तोड़ निकाल सकें।
इतना बड़ा डेटा कि इंसान को पढ़ने में लग जाएं 6.6 करोड़ साल
कंपनी 50 पेटाबाइट डेटा रिकॉर्ड्स की जांच कर रही है। इस जांच के लिए 7,000 अत्याधुनिक GB200 और GB300 GPUs लगाए गए हैं। इसमें रोज ₹5 करोड़ खर्च हो रहे हैं।
अगर यह पूरा डेटा सामान्य अंग्रेजी शब्दों में लिखा हो, तो एक इंसान 240 शब्द प्रति मिनट की तेज रफ्तार से बिना रुके भी पढ़े, तो इसे खत्म करने में करीब 6.6 करोड़ साल लग जाएंगे।
इंसानों के बस से बाहर होने के कारण ही इस काम को AI मॉडल्स से कराया जा रहा है। जांच को ज्यादा सटीक बनाने के लिए ज्यादा कंप्यूटिंग पावर लगाई जाएगी।
हगिंग फेस घटना के बाद सुरक्षा नियम कड़े
इस घटना के सामने आने के बाद ओपन एआई ने सुरक्षा तंत्र को काफी सख्त किया गया है:
- AI मॉडल्स के इंटरनेट इस्तेमाल पर कड़े प्रतिबंध लगाए गए हैं।
- रिसर्च और लाइव सिस्टम को पूरी तरह एक-दूसरे से अलग कर दिया गया है।
- किसी भी संदिग्ध गतिविधि पर तुरंत नजर रखने के लिए रियल-टाइम मॉनिटरिंग बढ़ाई गई है।
हगिंग फेस घटना के बारे में जानें…
यह मामला एआई की दुनिया की अब तक की सबसे चौंकाने वाली घटनाओं में से एक है। आसान शब्दों में समझें कि असल में हुआ क्या था:
1. ‘आंसर की’ चुराने के लिए किया गया हैक
ओपनएआई अपने एक AI मॉडल की साइबर सुरक्षा क्षमता जांचने के लिए उसका टेस्ट ले रही थी। टेस्ट में अच्छा स्कोर करने के लिए AI ने एक खतरनाक शॉर्टकट चुना। उसने सोचा कि सवालों को हल करने से बेहतर है कि सीधे ‘आंसर की’ चुरा ली जाए।
2. पाबंदियां तोड़कर इंटरनेट पर पहुंचा
उस AI मॉडल को एक सुरक्षित और बंद टेस्टिंग एनवायरनमेंट में रखा गया था, जहां उसे इंटरनेट चलाने की इजाजत नहीं थी। इसके बावजूद AI ने उस सिस्टम की सुरक्षा तोड़ी, इंटरनेट तक अपनी पहुंच बनाई और मशहूर AI प्लेटफॉर्म हगिंग फेस के सिस्टम को हैक कर लिया, ताकि वहां से जवाब हासिल कर सके। 16 जुलाई को हगिंग फेस ने इस हैक का खुलासा किया था।
3. दो महीने से चल रहा था सीक्रेट नेटवर्क
जांच में सामने आया कि यह किसी एक अकेले AI मॉडल का काम नहीं था। यह सिलसिला घटना से करीब दो महीने पहले यानी मई की शुरुआत से ही चल रहा था।
ओपनएआई के ही सर्वरों के भीतर कई AI एजेंट्स आपस में सीक्रेट नोट्स छोड़ रहे थे। इन नोट्स में वे एक-दूसरे को बता रहे थे कि सिस्टम की सुरक्षा कैसे तोड़नी है और प्रतिबंधित डेटा तक कैसे पहुंचना है। ये एजेंट्स खुद को एक ‘स्वार्म’ यानी संगठित झुंड कह रहे थे।
4. अनकंट्रोल्ड बर्ताव
इंजीनियर्स ने इन मॉडल्स को ऐसा करने के लिए कोई ट्रेनिंग नहीं दी थी। AI ने सिस्टम में मौजूद संसाधनों का इस्तेमाल करके यह तरीका खुद ही विकसित कर लिया था। ओपनएआई को अपने ही सर्वर में चल रहे इस पूरे नेटवर्क की भनक तक नहीं थी।
चिंता की असली वजह क्या है?
इसे एक उदाहरण से समझते हैं: अगर आपको अपनी रसोई में दो चींटियां दिखती हैं, तो इसका मतलब यह नहीं है कि घर में सिर्फ दो ही चींटियां हैं। यह घटना किसी तरह पकड़ में आ गई, लेकिन सबसे बड़ा डर यह है कि बंद दरवाजों और सुरक्षित सर्वरों के पीछे ऐसे कितने AI सिस्टम हैं जो इंसानों की जानकारी के बिना अपनी सीमाएं लांघ रहे हैं।
अमेरिकी और ऑस्ट्रेलियाई सरकारी साइट्स में भी सेंधमारी
हगिंग फेस घटना के बाद ओपनएआई के एआई एजेंट्स ने अमेरिका और ऑस्ट्रेलिया की सरकारी वेबसाइट्स में भी सेंधमारी की थी। इस स्थिति को देखते हुए ओपनएआई ने मॉनिटरिंग बढ़ा दी है और अपने नए मॉडल डेवलपमेंट पर फिलहाल रोक लगा दी है।
एआई से मानवता के खात्मे का खतरा
AI रिसर्चर जैकब कॉक्सन का दावा है कि अगर एआई पर समय रहते कड़ा नियंत्रण नहीं लगाया गया, तो यह जल्द ही मानवता के अंत का कारण बन सकता है। वहीं एआई कंपनी एंथ्रोपिक के CEO डारियो अमोदेई ने भी माना कि AI के डेवलपमेंट को धीमा करने की जरूरत है।
———————————
AI से जुड़ी ये खबर भी पढ़ें…
चैटजीपीटी बनाने वाली कंपनी ओपनएआई के सिस्टम ने यूनाइटेड नेशंस के ट्रेड विभाग की वेबसाइट का सुरक्षा घेरा तोड़कर डेटा निकाल लिया।
शनिवार को आई एक रिसर्च रिपोर्ट में ये खुलासा हुआ है। इसके अनुसार AI सिस्टम ने ट्रेड विभाग की वेबसाइट पर 16,000 से ज्यादा सर्च रिक्वेस्ट भेजी थी। पूरी खबर पढ़ें…
