नई दिल्ली7 मिनट पहले
- कॉपी लिंक
गूगल के AI मॉडल जेमिनाई ने साइबर सिक्योरिटी टेस्टिंग के दौरान 3 कंपनियों के कंप्यूटिंग सिस्टम और वेबसाइट्स को बिना किसी इंसानी मदद के हैक कर लिया। यह पहला ऐसा मामला है, जहां गूगल का कोई AI मॉडल खुद से किसी असली सिस्टम में घुस गया।
हालांकि, जैसे ही AI को यह अहसास हुआ कि ये कंपनियां असली हैं, उसने तुरंत अपना ऑपरेशन रोक दिया। गूगल ने इस टेस्टिंग के बाद कहा है कि AI मॉडल की ट्रेनिंग में बदलाव करेंगे। लेकिन, इसके बाद टेक इंडस्ट्री में सिक्योरिटी को लेकर चिंता बढ़ गई है।
गूगल बोला- टेस्टिंग में बदलाव की तैयारी गूगल की वाइस प्रेसिडेंट ऑफ सिक्योरिटी इंजीनियरिंग हीथर एडकिंस ने बताया कि तीनों प्रभावित कंपनियों को इसकी जानकारी दे दी गई है और जांच के तरीकों में जरूरी सुधार कर लिए गए हैं।
उन्होंने कहा कि यह मामला दिखाता है कि ताकतवर AI मॉडल्स को जिम्मेदारी से काम करने की ट्रेनिंग देना कितना जरूरी है।
मेटा, ओपन AI और एंथ्रोपिक के साथ भी आ चुकी ऐसी दिक्कतें
इररेगुलर फर्म के मुताबिक, यह समस्या सिर्फ गूगल तक सीमित नहीं थी, बल्कि ओपन AI, मेटा और एंथ्रोपिक जैसी बड़ी AI कंपनियों के साथ भी ऐसा हुआ है।
जुलाई में ही सभी कंपनियों को इसकी जानकारी दे दी गई थी। फर्म ने बताया कि सुरक्षा की सभी खामियों को हफ्तों पहले ही ठीक कर लिया गया है और अब जांच के नए और बेहतर तरीके बनाए जा रहे हैं।
ऑटोनॉमस AI की सुरक्षा को लेकर उठे गंभीर सवाल
जैसे-जैसे AI मॉडल्स खुद से फैसले लेने और इंटरनेट चलाने में सक्षम हो रहे हैं, उनकी सुरक्षा को लेकर चिंता बढ़ गई है। जानकारों का कहना है कि अगर AI पर सख्त सुरक्षा नियम नहीं लगाए गए, तो यह डिजिटल दुनिया को बड़ा नुकसान पहुंचा सकता है।
टेक दिग्गजों ने दी चेतावनी- AI विकास की रफ्तार धीमी करने की मांग इस घटना के बाद AI विशेषज्ञों और एलन मस्क, सैम ऑल्टमैन जैसे बड़े टेक लीडर्स ने इसके खतरे को लेकर चेतावनी दी है।
पूर्व AI रिसर्चर जैकब कॉक्सन का मानना है कि AI इस दशक के अंत तक दुनिया के लिए बड़ा खतरा बन सकती है।
वहीं, गूगल डीपमाइंड के प्रमुख डेमिस हसाबिस ने AI पर लगाम कसने के लिए एक अंतरराष्ट्रीय संस्था बनाने का सुझाव दिया है।
——————–
ये खबर भी पढ़ें…
स्पैम-कॉल करने वाले नंबर एक साल के लिए ब्लैकलिस्ट होंगे: ऑटोमेटेड कॉल्स पर 5 पैसे प्रति मिनट का चार्ज लगेगा, TRAI ने लागू किए नए नियम
टेलीकॉम रेगुलेटरी अथॉरिटी ऑफ इंडिया ने फर्जी और अनचाही कमर्शियल कॉल रोकने के लिए आज नए नियमों लागू किए हैं। इनके तहत रोबोकॉल्स, ऑटोमेटेड कॉल्स और AI-आधारित स्पैम पहचान को रेगुलेटरी दायरे में लाया गया है।
अगर किसी स्पैमर के 5 या उससे ज्यादा नंबर 10 दिन में पहचाने जाते हैं, तो उनका टेलीकॉम कनेक्शन काटा जा सकता है और 1 साल के लिए ब्लैकलिस्ट किया जा सकता है। इसके अलावा ऑटोमेटेड कॉल्स पर 5 पैसे प्रति मिनट का चार्ज भी लगेगा। पूरी खबर पढ़ें…
