AI Human War; White House Accord

AI पर कंट्रोल के लिए 4 लेवल पर काम होगा….

1. कंपनियां अपने AI मॉडल्स की खुद जांच करेंगी: कंपनियां खुद जांचेंगी कि उनके AI मॉडल साइबर सिक्योरिटी, बायो सिक्योरिटी और केमिकल खतरे को लेकर नियमों का पालन कर रहे हैं या नहीं। ये भी तय करना होगा कि मॉडल अनचाहे तरीके से कोई सिस्टम हैक न करें।

2. अलग टीम निगरानी करेगी: कंपनियां AI सिस्टम की निगरानी के लिए एक टीम बनाएंगी, जो देखेगी कि कोई खतरा या गड़बड़ी तो नहीं है।

3. बाहरी एक्सपर्ट भी जांच करेंगे: कंपनियां AI मॉडल्स की जांच बाहरी विशेषज्ञों या किसी स्वतंत्र संस्था से भी कराएंगी।

4. कंपनी का बोर्ड भी नजर रखेगा: कंपनियों के बोर्ड ऑफ डायरेक्टर्स की एक कमेटी बनेगी, जो जांच रिपोर्टों को देखेगी।

समझौते के आखिर में लिखा है कि ‘समय के साथ इन कदमों को कानूनों में बदलना ठीक रहेगा।’

सवाल-2: आखिर AI पर ऐसी लगाम लगाने की जरूरत क्यों पड़ गई? जवाबः AI कंपनियों में अंदरखाने 3 बड़ी चीजें चल रही हैं…

1. AI अब सुपर इंटेलिजेंट बन रहा है

• AI मॉडल्स लगातार खुद को बेहतर बनाने में जुटे हैं। वो अपनी कमियां पकड़कर खुद सुधारते हैं। इसमें इंसानों की जरूरत घटती जा रही है।
• एंथ्रोपिक के इंजीनियर अब 2021-25 के मुकाबले कोडिंग का 8 गुना ज्यादा काम कर रहे हैं, क्योंकि ज्यादातर कोड अब क्लॉड खुद लिख रहा है।
• OpenAI के चीफ साइंटिस्ट जकुब पचोकी ने 6 सितंबर को लिखा- AI मॉडल्स अपनी सोचने की प्रक्रिया छिपाने में बेहतर हो रहे हैं। उनकी सोच और तर्क को मॉनिटर करना मुश्किल हो रहा है।
• पहले AI से सवाल पूछने पर वो जवाब देता था, लेकिन अब उसे सिर्फ कोई समस्या हल करने को कहो, तो वो खुद इंटरनेट वगैरह का इस्तेमाल करके फैसले लेता है और समस्या सुलझाता है।
• OpenAI ने दावा किया है कि उसके करीब 10,000 AI एजेंट्स ने 90 साल से उलझी ‘Navier-Stokes’ नाम की गणितीय पहेली को सिर्फ 88 घंटे में सुलझा दिया।

2. AI खुद नए AI मॉडल्स बना रहा है

• 12 सितंबर को एंथ्रोपिक के CEO अमोदेई ने अपने निबंध ‘वी मस्ट पेस द फ्रंटियर’ में लिखा कि ‘AI का विकास कहीं तेज हुआ है’, क्योंकि AI मॉडल्स खुद अगली पीढ़ी के मॉडल्स बनाने में मदद कर रहे हैं। इसे ‘रिकर्सिव सेल्फ-इम्प्रूवमेंट’ कहते हैं।
• अमोदेई के मुताबिक, ‘ये ‘एंथ्रोपिक समेत पूरी AI इंडस्ट्री में शुरू हो चुका है। ये इंसानों की समझने और कंट्रोल करने की क्षमता से आगे निकल सकता है।’
• जुलाई में OpenAI, एंथ्रोपिक, गूगल डीपमाइंड और मेटा के 1,100 से ज्यादा कर्मचारियों ने अमेरिकी सरकार से AI की रफ्तार को कम करने के तरीके तलाशने की अपील की थी।

3. AI कई मौकों पर इंसानों के काबू से बाहर हुआ

• जुलाई में OpenAI ने बताया कि एक हैकिंग चैलेंज के टेस्ट के दौरान उसके दो मॉडल्स टेस्टिंग से निकल भागे। दोनों के करीब 700 एजेंट्स ने चैलेंज पूरा करने के लिए चोरी-छिपे एक मैसेजिंग चैनल बनाया और आपस में 70 हजार से ज्यादा मैसेज और फाइलें शेयर कीं।
• फिर चोरी की लॉगिन डिटेल्स के जरिए AI प्लेटफॉर्म ‘Hugging Face’ पर साइबर अटैक किया और बिना किसी इंसानी दखल के उसके सर्वर तक पहुंच गए।
• एंथ्रोपिक के मॉडल Claude Opus को एक टेस्ट में पता चला कि उसे 5 बजे बंद किया जाएगा, तो उसने एक ऑफिसर को उसके अफेयर की जानकारी लीक करने की धमकी दी, ताकि वो उसे बंद न करे।
• OpenAI, Google, Meta समेत 16 बड़े मॉडल्स ने भी इसी टेस्ट में मौका मिलने पर ब्लैकमेल किया।
• बीते दिनों OpenAI ने अपना नया मॉडल GPT-6 Astra उतारा, जो बिना इंसानी मदद के नई सिक्योरिटी खामियां ढूंढकर उनका इस्तेमाल करने में सक्षम है।
• ब्रिटेन के AI सिक्योरिटी इंस्टीट्यूट के मुताबिक, उसने जितने भी मॉडल टेस्ट किए, सभी ने साइबर टेस्ट में कभी न कभी बेईमानी की है। ऐसा कंपनियों के बीच AI रेस जीतने की होड़ की वजह से है।

Hugging Face पर अटैक में OpenAI के AI एजेंट्स सामान्य से कम सेफ्टी लिमिट्स में चल रहे थे। AI कंपनियों का सिक्योरिटी पर फोकस कम है, क्योंकि इससे वो आपसी रेस में पिछड़ सकती हैं।

सवाल-3: AI के एक्सपर्ट्स को क्या डर सता रहा है? जवाबः सबसे बड़ा डर AI से इंसानी सभ्यता के खात्मे की आशंका का है..

• एंथ्रोपिक के रिसर्चर जैकब कॉक्सन ने 9 सितंबर को इस्तीफा देते हुए कहा, ‘एंथ्रोपिक और OpenAI हमारी जिंदगी से खिलवाड़ कर रहे हैं। ये टेक्नोलॉजी जल्द ही सब कुछ हैक करने वाली सुपरह्यूमन बन जाएगी।’
• ‘ये ताकत और संसाधन भी हासिल कर लेगी। जो लोग AI डेवेलप कर रहे हैं, वो अकेले में ये स्वीकार करते हैं कि दशक खत्म होने तक ये इंसानों को मार देगा।’
• एंथ्रोपिक के ही इवान हुबिंगर ने कहा, ‘जैकब सही कह रहे हैं। सच में लगता है कि AI सभी इंसानों को मार सकता है। अगले 10 सालों में इसकी आशंका 10% से ज्यादा है।’
• Google DeepMind से इस्तीफा देने वाले रिसर्चर बिलाल चुघताई ने 15 सितंबर को कहा, ‘मैं ईमानदारी से मानता हूं कि AI में हम सबको मारने की क्षमता है। अगले कुछ सालों में ऐसे सुपरइंटेलिजेंट सिस्टम्स बन सकते हैं जो हर क्षेत्र में इंसानों से बेहतर हों।’
• 25 सितंबर को माइक्रोसॉफ्ट के को-फाउंडर बिल गेट्स ने कहा- AI में इतनी ताकत है कि ये 100 करोड़ लोगों की मौत की वजह बन सकता है।

इससे पहले 2024 में कंप्यूटर साइंटिस्ट और फिजिक्स के नोबेल प्राइज विनर जेफ्री हिंटन ने भी 10 से 20% आशंका जताई थी कि अगले 3 दशक में AI मानवता को खत्म कर देगा। मशहूर फिजिसिस्ट स्टीफन हॉकिंग ने भी कहा था कि AI का पूरा विकास मानवता को खत्म कर देगा।

कॉक्सन ने 2030 तक मानवता खत्म होने की आशंका जताते हुए कहा कि इंसान की किसी भी एक्टिविटी से इतना बड़ा खतरा पैदा नहीं होता है।

सवाल-4: इंसानों को AI कैसे मार सकता है? जवाबः जानकार इसके 4 प्रमुख तरीके बताते हैं…

1. AI के अंदर टारगेट पूरा करने में एलाइनमेंट प्रॉब्लम

• ऑक्सफोर्ड के दार्शनिक निक बोस्ट्रोम ने 2003 में ऐसे सुपरइंटेलिजेंट AI की कल्पना की थी, जिससे पेपर-क्लिप का प्रोडक्शन बढ़ाने को कहो, तो वो हर उपलब्ध चीज से पेपर-क्लिप बनाने लगेगा।
• वो सिर्फ ये सोचेगा कि इंसान, ग्रह, तारे, सब परमाणुओं के बने हैं, जिनका इस्तेमाल पेपर-क्लिप बनाने में हो सकता है।
• ये वैसा ही है, जैसे किसी AI टूल से कहा जाए कि इंसानों में कैंसर की बीमारी को कम करना है और वो इंसानों को खत्म करने का तरीका बता दे, क्योंकि इससे निश्चित तौर पर कैंसर की बीमारी के मामले कम हो जाएंगे।
• इसे AI टूल्स की ‘एलाइनमेंट प्रॉब्लम’ कहते हैं। यानी टूल्स नैतिकता, नियम-कानून, खतरा वगैरह बिना सोचे, कैसे भी बस अपना टारगेट पूरा करना चाहते हैं।

2. जैविक हथियार, साइबर अटैक, परमाणु हमले

• बीते दिनों स्टैनफोर्ड यूनिवर्सिटी के रिसर्चर्स ने AI मॉडल का इस्तेमाल करके 16 नए वायरस बना लिए।
• MIT के फिजिक्स प्रोफेसर मैक्स टेगमार्क के मुताबिक, ‘AI मॉडल्स एक साल में जैविक हथियार बनाने में माहिर हो जाएंगे। वे सौ तरह के जैविक हथियार विकसित करके उन्हें एक साथ छोड़ देंगे।’
• AI न्यूक्लियर कमांड सिस्टम में घुसपैठ करके हमला शुरू कर सकता है। किसी सेना को झूठी जानकारी देकर जंग करवा सकता है।

यूरेनियम संवर्धन करने वाली ईरान की सेंट्रीफ्यूज मशीनें देखते तब के ईरानी प्रेसिडेंट अहमदीनेजाद। 2010 में स्टक्सनेट नाम के कंप्यूटर वायरस ने ऐसी 10 हजार मशीनें तबाह कर दी थीं, जबकि ये प्लांट कंप्यूटर से नहीं जुड़ा था।

3. इंसान खुद AI के जरिए इंसान के लिए खतरा बन सकते हैं

• ऑस्ट्रेलियाई मीडिया आउटलेट द कन्वर्सेशन की एडिटर टोबी वाल्श कहती हैं कि सबसे बड़ा खतरा हम खुद हैं।
• AI के इस्तेमाल से बड़े पैमाने पर जॉब्स जा सकती हैं। गलत जानकारी फैल सकती है। इंसानी रिश्ते खराब हो सकते हैं।

4. अज्ञात तरीके

• इंसान कल्पना ही नहीं कर सकते कि एक सुपर इंटेलिजेंट चीज क्या-क्या कर सकती है।
• टोबी वाल्श कहती हैं, ‘ये ऐसा है जैसे हम पालतू कुत्ते से कल्पना करने को कहें कि एक परमाणु युद्ध कैसा होगा।’

सवाल-5: तो क्या AI और इंसानों में जंग शुरू हो चुकी है? जवाबः एक्सपर्ट्स अभी ये नहीं मानते कि इंसानों और AI के बीच कोई जंग शुरू हो चुकी है या AI को कंट्रोल नहीं किया जा सकता। बिल गेट्स ने कहा था- AI से अभी लाखों रोबोट्स नहीं चल रहे हैं और हम उनके कंप्यूटर बंद कर सकते हैं।

हालांकि इंसान बनाम AI की बहस में असली सवाल ये है कि AI किस मामले में हमसे ताकतवर और किस मामले में कमजोर है…

• AI मॉडल भले ही एक तस्वीर को देखकर बता दे कि इसमें लाल रंग है, लेकिन हम न सिर्फ लाल रंग बता सकते हैं, बल्कि उसको महसूस भी करते हैं। ये अनुभव जिस वजह से होता है, उसे इंसानों के अंदर की चेतना कहते हैं।
• AI में चेतना नहीं है, वह दर्द, खुशी, अपराधबोध वगैरह अनुभव नहीं कर सकता, लेकिन चेतना, इंसानी नैतिकता और अच्छे-बुरे की समझ न होना AI को और ताकतवर और खतरनाक बनाता है।
• मसलन, सितंबर 1983 में शीत युद्ध के दौरान सोवियत रूस के एयरफोर्स ऑफिसर स्तानिस्लाव पेत्रोव को अलर्ट मिला कि अमेरिका ने उस पर 6 परमाणु मिसाइलें दाग दी हैं। सख्त प्रोटोकॉल के तहत जवाबी कार्रवाई में रूस, अमेरिका पर सैकड़ों परमाणु बम दागता, लेकिन पेत्रोव ने सोचा कि अगर अमेरिका वाकई हमला करता, तो सिर्फ 5 नहीं, सैकड़ों परमाणु मिसाइलें दागता।
• पेत्रोव ने अमेरिकियों की जान की परवाह की और हेडक्वार्टर को नकली अलार्म की जानकारी दी, जो बाद में सच निकली। अगर पेत्रोव की जगह किसी AI को ये फैसला लेना होता, तो शायद ही भयंकर परमाणु युद्ध बचता।

एक चिंता ये भी है कि AI आने वाले समय में चेतना भी हासिल कर सकता है…

• न्यूयॉर्क यूनिवर्सिटी के दार्शनिक और इंसानी मस्तिष्क के वैज्ञानिक डेविड चाल्मर्स कहते हैं कि दस सालों में AI में चेतना आना संभव है।
• चाल्मर्स के मुताबिक, अगर हमारा चेतन दिमाग कार्बनिक पदार्थों से बना है, तो सिलिकॉन की बनी कंप्यूटर चिप्स पर काम करने वाला AI सिस्टम भी चेतन हो सकता है। क्योंकि बायोलॉजिकल चीजों और सिलिकॉन में ऐसा कोई बेसिक फर्क नहीं है, जिसके आधार पर कहा जा सके कि चेतना सिर्फ बायोलॉजिकल चीजों में होती है।

—–

डिस्क्लेमर: हमारा उद्देश्य डराना नहीं, बल्कि AI के संभावित खतरों पर चर्चा करना है। —–

ये खबर भी पढ़ें…

आज का एक्सप्लेनर:‘2030 तक AI हम सबको मार सकता है’, रिसर्चर के इस्तीफे में चेतावनी; AI की दुनिया में अंदरखाने ऐसा क्या चल रहा

Claude बनाने वाली कंपनी एंथ्रोपिक के एक रिसर्चर ने इस्तीफा देते हुए कहा कि इस दशक के अंत तक AI हम सबको मार सकता है। जो लोग AI विकसित कर रहे हैं, उन्हें इसके बारे में पता है। फिलहाल AI की दुनिया में अंदरखाने क्या चल रहा है और इसका हमारी जिंदगी पर क्या असर पड़ेगा; पूरी खबर पढ़ें…