अमेरिका की सरकारी वेबसाइट में घुसे AI एजेंट:शेयर बाजार नियामक और व्यापार विभाग की साइट में एक्सेस; ट्रेनिंग में बेकाबू हुए मॉडल

चैट जीपीटी बनाने वाली कंपनी ओपन एआई के AI एजेंट्स ने अमेरिकी सरकार की वेबसाइट में एक्सेस बना लिया। इसमें अमेरिकी शेयर बाजार नियामक, व्यापार विभाग की वेबसाइट शामिल है। ये खुलासा हाल ही में आई एक रिपोर्ट में हुआ है। दो दिन दिन पहले खुलासा हुआ था इन AI एजेंट्स ने ऑस्ट्रेलिया की सरकारी वेबसाइट का भी एक्सेस हासिल कर लिया था। AI रिसर्च नॉन-प्रॉफिट ‘ट्रांसल्यूस’ के अनुसार… एआई एजेंट्स ने अमेरिकी शेयर बाजार नियामक SEC के डेटा की कॉपी बनाई और उसे इंटरनेट पर पोस्ट कर दिया, जबकि उन्हें ऐसा न करने के साफ निर्देश दिए गए थे। कॉमर्स डिपार्टमेंट के मामले में एआई एजेंट ने यूएस सेन्सस डेटा वेबसाइट को ऐसे प्रोग्रामिंग इंटरफेस से एक्सेस किया, जो उस काम के लिए नहीं बनाया गया था। AI एजेंट ने शिक्षा मंत्रालय की वेबसाइट में भी घुसने का प्रयास किया। हालांकि वो इसमें कामयाब नहीं हो सके। सरकारी एजेंसियां बोलीं- कोई संवेदनशील डेटा लीक नहीं मामला सामने आने के बाद अमेरिकी एजेंसियों ने सफाई दी है। SEC के प्रवक्ता ने कहा कि एआई एजेंट्स ने किसी भी नॉन-पब्लिक या गोपनीय डेटा को एक्सेस नहीं किया। एजुकेशन डिपार्टमेंट के प्रवक्ता ने बताया कि डेटाबेस को कोई नुकसान नहीं हुआ हैं। वहीं कॉमर्स डिपार्टमेंट की ओर से इस पर तुरंत कोई बयान नहीं आया है। कंपनी बोली- भरोसेमंद जानकारी के लिए सरकारी साइट्स पर गए थे ओपनएआई ने बताया कि यह गड़बड़ी तब हुई जब उनके एआई सिस्टम की ट्रेनिंग चल रही थी। ट्रेनिंग के दौरान एआई से कई सवाल पूछे गए थे। एआई मॉडल भरोसेमंद जानकारी के लिए सरकारी वेबसाइटों पर ही जाते हैं, इसलिए वह खुद-ब-खुद उन साइट्स पर गए। कंपनी का कहना है कि एआई का मकसद कोई गड़बड़ करना नहीं, बल्कि सरकारी साइट्स से आम जानकारी जुटाना ही था। ये एक सामान्य रिसर्च का काम है। एआई को बेकाबू होने से रोकने के लिए ‘किल स्विच’ की बात हो रही कई देश और एक्सपर्ट चाहते हैं कि एआई कंपनियों के लिए एक इमरजेंसी ‘किल स्विच’ बनाया जाए, जिससे खतरा दिखने पर पूरे एआई को एक झटके में बंद किया जा सके। ओपनएआई ऐसे ऑटोमेटेड टूल्स तैयार करने में जुटी है, लेकिन एक्सपर्ट्स के अनुसार, दुनिया भर के नेटवर्क से जुड़े AI को किसी एक स्विच से बंद करना लगभग नामुमकिन है। भविष्य के खतरों पर एआई विशेषज्ञों का क्या कहना है? यूनिवर्सिटी ऑफ न्यू साउथ वेल्स के डॉ. हैमंड पिएर्स ने चेतावनी दी है कि ऐसे मामले आगे चलकर और खतरनाक हो सकते हैं। ये सरकारों के लिए खतरे की बड़ी घंटी है। वहीं यूनिवर्सिटी ऑफ सिडनी के डॉ. राफेल सिरिएलो ने कहा कि इस बार कोई बड़ा नुकसान नहीं हुआ है, लेकिन एआई लगातार ताकतवर होता जा रहा है। इसकी 24 घंटे निगरानी जरूरी है। किसी भी गड़बड़ी की तुरंत रिपोर्टिंग को अनिवार्य करना होगा।



Source link