अमेरिका में हाल ही काफी सारे स्कूलों वाले न्यूयॉर्क सिटी और लॉस एंजेलेस जैसे जिलों ने घोषणा की है कि वे अकादमिक वर्ष 2026-27 में स्टूडेंट्स द्वारा स्कूल के डिवाइसेस पर जनरेटिव एआई के इस्तेमाल पर रोक लगाएंगे। क्योंकि दुनिया के सबसे प्रतिभाशाली लोगों को चिंता है कि सावधानी भरे सुरक्षा उपायों के बिना बच्चे चैटजीपीटी जैसे चार साल पुराने प्लेटफॉर्म का इस्तेमाल जवाब पाने के शॉर्टकट के तौर पर करने लगेंगे। वे उन जटिल कॉग्निटिव प्रक्रियाओं को बायपास करेंगे, जो सीखने के लिए आवश्यक हैं। दरअसल, 2003 में- जब मार्क जकरबर्ग ने ‘द फेसबुक’ का नाम ‘फेसबुक’ किया ही था, इलॉन मस्क सेंटी-मिलियनेयर नहीं बने थे और सैम ऑल्टमैन स्टैनफोर्ड यूनिवर्सिटी से ड्रॉपआउट नहीं हुए थे- तब ऑक्सफोर्ड के एक ब्रिलियंट फिलॉसफर निक बोस्ट्रॉम ने ‘एथिकल इश्यूज इन एडवांस्ड आर्टिफिशियल इंटेलिजेंस’ शीर्षक से एक पेपर प्रकाशित किया था। उस लंबे रिसर्च पेपर में अप्रत्यक्ष चेतावनी दी गई थी कि ‘जब हम खुद से कहीं ज्यादा इंटेलिजेंट चीज बनाते हैं तो हमें बहुत ज्यादा आश्वस्त होना चाहिए कि उसके लक्ष्य हमारे लक्ष्यों के साथ अलाइंड हों।’ यहां ‘अलाइंड’ शब्द पर गौर करें। सिलिकॉन वैली के सबसे बेहतरीन दिमाग पहले ही एजीआई डिजाइन कर चुके हैं। यानी, आर्टिफिशियल जनरल इंटेलिजेंस। बुनियादी तौर पर एजीआई इंसान के किसी भी इंटेलेक्चुअल काम को कर सकता है। ऐसे मॉडल इंसानी राइटिंग की नकल करने के लिए ट्रेंड किए गए हैं। कई लोग तर्क देते हैं कि वे क्रिएटिव नहीं होंगे, इसलिए वास्तव में इंटेलिजेंट भी नहीं होंगे। लेकिन धीरे-धीरे इन एआई को दिए जा रहे टेस्ट चौंकाने वाले नतीजे दे रहे हैं। यह सिर्फ सदियों से इंसानों को उलझाए रखने वाली मैथ्स प्रॉब्लम्स को हल करने तक सीमित नहीं है। सवाल यह है कि क्या उन्होंने ‘आरएसआई’ विकसित कर लिया है? अब यह ‘आरएसआई’ क्या है? इसका मतलब है रिकर्सिव सेल्फ इम्प्रूवमेंट। विशेषज्ञों का कहना है कि जैसे ही किसी कंप्यूटर के पास अपना एजीआई आ जाता है तो वह एचआई (ह्यूमन इंटेलिजेंस) का कम इस्तेमाल करता है। प्रोग्रामर्स के बजाय वह अपना सक्सेसर डिजाइन करने के लिए एजीआई इस्तेमाल करता है। फिर वह सक्सेसर अपना सक्सेसर बनाता है। प्रतिभाशाली लोगों को चिंता है कि देर-सबेर कम से कम आईक्यू के क्षेत्र में तो एक इंटेलिजेंस विस्फोट जरूर होगा। और हम इंसान उनके लिए वैसे ही बन जाएंगे, जैसे बच्चे हमारे लिए हैं। अब कुछ लोग सोच सकते हैं कि क्या हम एआई को यह नहीं बता सकते कि वह हमें न मारे या हमारे सामने बच्चों जैसा रहे? दुनिया भर के प्रोग्रामर्स ठीक इसी विचार पर काम कर रहे हैं। वे इस प्रक्रिया को हमारी थॉट प्रोसेस के साथ ‘अलाइनमेंट’ कह रहे हैं और यही निक बोस्ट्रॉम ने 23 साल पहले लिखा था। अब एआई सेफ्टी रिसर्चर्स एलिएजर युडकोव्स्की और नेट सोरेस की 2025 में रिलीज हुई बुक ‘इफ एनीवन बिल्ड्स इट, एवरीवन डाइज’ ठीक यही चेतावनी देती है। यह आर्टिफिशियल सुपर इंटेलिजेंस मशीनें बनाने के खतरों को बताती है, जो किसी भी इंसान से कहीं ज्यादा स्मार्ट होंगी। किताब को तीन मुख्य हिस्सों में बांटकर बताया गया है कि लेखक क्यों मानते हैं कि एडवांस्ड एआई मानवता को खत्म कर देगा। 1. मॉडर्न एआई सिस्टम्स बड़ी मात्रा में डेटा और कंप्यूटिंग पावर इस्तेमाल करके बनाए जाते हैं। इंसान इनपुट्स को तो ट्यून करते हैं, लेकिन हम आउटपुट्स या इमर्जेंट बिहेवियर्स को पूरी तरह नहीं समझते। लेखकों का तर्क है कि सुपर-इंटेलिजेंट एआई मानवीय मूल्यों को नहीं अपनाएगा। संभवत: वह अपने खुद के एलियन गोल्स विकसित कर लेगा, जो इंसानी अस्तित्व के खिलाफ होंगे। 2. किताब विनाश की राह का खाका बताती है। अगर कोई मशीन इंसानों से ज्यादा स्मार्ट हो जाए तो हम उस पर से नियंत्रण खो देंगे। सुपर-इंटेलिजेंट सिस्टम के साथ कोई संघर्ष पूरी तरह एकतरफा होगा, जिसका नतीजा मानव प्रजाति का तेजी से विनाश होगा। 3. दुनिया इस खतरे के लिए पूरी तरह तैयार नहीं है। कंपनियां और देश एडवांस्ड मॉडल बनाने की होड़ में लगे हैं। युडकोव्स्की और सोरेस दुनिया के नेताओं से अपील करते हैं कि बहुत देर होने से पहले ही फ्रंटियर एआई का डेवलपमेंट तुरंत रोक दिया जाए। अब ये सभी बातें सच हो रही हैं। शायद यही वजह है कि हम सबसे पहले बच्चों को बचाने के लिए एआई पर रोक लगा रहे हैं। फंडा यह है कि मशीन इंटेलिजेंस का कोई भी विस्फोट मानवता के साथ अलाइंड होना चाहिए, वरना यह निश्चित ही पूरी मानवता के लिए खतरा बन जाएगा। इसीलिए अचानक से पूरी दुनिया का ध्यान एआई मशीनों पर आ गया है।
Source link
एन. रघुरामन का कॉलम:क्यों पूरी दुनिया अचानक से मानवता के लिए एआई के खतरों पर बात कर रही है?
