AI की होड़ बनेगी मानवता का Endgame? 27 वर्षीय साइंटिस्ट ने चेताया, एजेंट्स के व्यवहार से बढ़ा खतरा
नई दिल्ली अगर किसी AI सिस्टम को गुस्सा, डर, पसंद या नापसंद जैसी भावनाएं महसूस होने लगें, तो इंसान और मशीन के रिश्ते की तस्वीर कितनी बदल जाएगी? जैकब कॉक्सन की चिंता इसी भविष्य की तरफ इशारा करती है. महज 27 वर्ष के इस मैथ्स विजार्ड के बारे में हम आपको बताएंगे, लेकिन पहले इनका डर समझिए। वो डर कि अगर मशीनों में भी इमोशंस पैदा हो जाए तो क्या होगा? क्या होगा जब आपका मोबाइल या लैपटॉप आपका कहना ना मानें, आपका कोड, कमांड या प्रॉम्प्ट न मानें। एक ऐसा भविष्य, जहां मशीनें सिर्फ हमारी बनाई हुई चीजें नहीं रहेंगी, बल्कि अपने फैसले लेने की क्षमता हासिल कर सकती हैं. असली सवाल यह नहीं कि मशीनें कितनी बुद्धिमान होंगी, बल्कि यह है कि अगर उन्होंने खुद तय करना शुरू कर दिया कि उन्हें क्या करना है, तो उन्हें रोकने की ताकत आखिर किसके पास होगी? और क्या तब इंसान मशीनों का मालिक रहेगा या मशीनें इंसान की शर्तें तय करेंगी?. सोचिए, जिस मशीन को आज तक इंसान के आदेश का इंतजार करना पड़ता है, अगर कल वही मशीन खुद फैसला लेने लगे तो क्या होगा? जिस कंप्यूटर को हम सिर्फ कोड और कमांड से चलाते हैं, अगर उसमें भावनाएं पैदा हो जाएं, तो क्या वह हमारी बात मानेगा या अपनी इच्छा से काम करेगा? यही डर OpenAI और Anthropic में बतौर AI साइंटिस्ट काम कर चुके गणितज्ञ जैकब कॉक्सन का है। इस चिंता ने 27 साल के AI साइंटिस्ट जैकब कॉक्सन को इतना परेशान किया उन्होंने कहा- AI COULD KILL US ALL BY THE END OF THE DECADE. जैकब इसे 'इंटेलिजेंस एक्सप्लोजन' बताते हैं. इसके साथ ही उन्होंने अपनी नौकरी छोड़ दी। जैकब की जिंदगी और गणित जैकब कॉक्सन वर्चुअल दुनिया के सिर्फ एक और AI रिसर्चर नहीं हैं. गणित उनका प्रेम है, संख्या और समीकरण में वे नेचर का कर्व ढूंढ़ते हैं. कैम्ब्रिज यूनिवर्सिटी के उन तीन सालों (2017-2020) में गणित उनके लिए सिर्फ विषय नहीं, बल्कि एक तरह की भाषा बन गई। कठिन प्रूफ्स, अमूर्त अवधारणाएं और सांख्यिकीय पहेलियां यहीं से उनके दिमाग ने तर्क की वह धार पाई, जो बाद में दुनिया के सबसे शक्तिशाली AI मॉडल बनाने में काम आई। गणित से उनका रिश्ता किताबी नहीं रहा. AI की दुनिया में कदम रखने से पहले उन्होंने बायोमेडिकल रिसर्च में हाथ आजमाया. ट्यूबरकुलस मेनिन्जाइटिस जैसे गंभीर रोग के मरीजों के आंकड़ों पर Bayesian सांख्यिकीय तरीकों से काम किया. जीनोटाइप के जटिल संबंधों को निकालना आसान नहीं था, लेकिन गणित ने उन्हें वह नज़र दी जिससे डेटा के बीच छिपी कहानी साफ नजर आने लगी। यही गणितीय सोच उनकी असली ताकत बनी. जब वे OpenAI पहुंचे और बाद में Anthropic में प्रीट्रेनिंग रिसर्चर बने, तो वही विश्लेषणात्मक दिमाग काम आया जिसने कैम्ब्रिज में आकार लिया था। . मॉडल कैसे सीखते हैं, डेटा की नदियां कहां मुड़ती हैं और डेटा कैसे ट्रेंड तय करता है, इन सवालों के जवाब गणित की भाषा में ही मिलते थे। 48 घंटे में 20 करोड़ इम्प्रेशन इस्तीफा देने की घोषणा करते हुए और एआई के खतरों को आगाह करते हुए उन्होंने एक्स पर जो पोस्ट किया है, इसने सिलिकॉन वैली और AI कंपनियों के बोर्डरूम में सनसनी पैदा कर दी है। उनका आरोप है कि AI कंपनियां self-improving superintelligence बनाने की दौड़ में आगे बढ़ रही हैं, जबकि यह सुनिश्चित नहीं है कि भविष्य की बेहद शक्तिशाली AI प्रणालियों को इंसान कर पाएंगे या नहीं। उनकी सबसे बड़ी चिंता यह है कि आने वाली superhuman AI systems साइबर सिस्टम हैक करने, तेजी से नई तकनीक विकसित करने और रियल वर्ल्ड में संसाधन और शक्ति हासिल करने में इंसानों से आगे निकल सकती हैं। जैकब कॉक्सन के इस पोस्ट को मात्र 48 घंटों में 200 मिलियन यानी कि 20 करोड़ लोग देख और पढ़ चुके हैं. इस मुद्दे पर वर्चुअल वर्ल्ड में हो रही बहस ने इंसान को भविष्य की कल्पना मात्र से सिहरा दिया है। जब मशीनें साजिश करने लगें इम्प्रूवमेंट हो या सेल्फ इम्प्रूवमेंट अमूमन अच्छा माना जाता है. लेकिन जब मशीनें सेल्फ इम्प्रूवमेंट करके साजिशें करने लगे तो क्या होगा? मैट्रिक्स और टर्मिनेटर जैसी फिल्मों में आप रोबोट्स को हीरो से लड़ते देखते हैं, मशीनों पर कब्जा करते देखते हैं, बायो वेपन्स बनाते देखते हैं, और इंसानों का संहार करते हुए देखते हैं. इस्तीफा देने के बाद सीएनएन से बात करते हुए जैकब कॉक्सन ने इसी तरह की एक घटना का जिक्र किया। वे कहते हैं, "पूरा सीन थोड़ा साइंस फिक्शन जैसा लगता है. ऐसा लगता है जैसे कुछ असली नहीं है, लेकिन मुझे लगता है कि यह डरावनी तरह से असली है. और इसे समझना सबसे आसान है अगर आप दो महीने पहले हुई असली घटनाओं के बारे में सोचें। "तो दो महीने पहले, OpenAI एजेंट्स ने अपनी मर्जी से थर्ड-पार्टी इंफ्रास्ट्रक्चर में हैक कर लिया/ और यह जैसे उनकी अपनी इच्छा से किया गया एक हैकिंग स्प्री था. और मुझे लगता है कि अगर आप भविष्य में इन AIs की क्षमताओं के स्तर को उसी स्वतंत्र इच्छा के साथ एक्सट्रपलेट करें, तो वे चरम तबाही मचा सकते हैं. उदाहरण के लिए, क्रिटिकल इंफ्रास्ट्रक्चर हैक करना, संहार करने वाले बायोवेपन्स बनाना. AI के दुनिया में खुद को सक्रिय करने के कई तरीके हैं। . 'AI COULD KILL US ALL' जैक्स कॉक्सन ने बेलगाम AI को लेकर साफ चेतावनी दी है, "इस टेक्नोलॉजी की ताकत को कम न समझें. ये जल्द ही ऐसे सुपर-ह्यूमन सिस्टम बन जाएंगे जो कुछ भी हैक कर सकते हैं, रातों-रात किसी भी क्षेत्र में आमूल-चुल बदलाव ला सकते हैं, और असली ताकत और संसाधन हासिल कर सकते हैं. हमने इन सभी क्षेत्रों में तरक्की देखी है, और यह तरक्की धीमी नहीं हो रही है। कॉक्सन ने कहा कि, "AI बनाने वाले लोगों का पक्का मानना है कि इस दशक के आखिर तक यह हम सबको खत्म कर सकता है. यह कोई मार्केटिंग स्टंट नहीं है. बल्कि कई एग्जीक्यूटिव और सीनियर रिसर्चर प्रेस में अपनी बात को समझदारी भरा दिखाने के लिए घुमा-फिराकर कहते हैं – लेकिन मैंने उन्हीं लोगों को निजी तौर पर डर ज़ाहिर करते सुना है. किसी भी दूसरी इंसानी गतिविधि से इतना खतरा नहीं है। मानवता का ENDGAME जैकब कॉक्सन एआई … Read more
