By Ariel F. Dumont
BORGO LAUDATO SI’, Italy (IPS): “मुझे क्षमा करें, डेव। मुझे डर है कि मैं ऐसा नहीं कर सकता।” अपनी 1968 की फिल्म 2001: ए स्पेस ओडिसी में सुपरकंप्यूटर HAL 9000 को जीवंत कर, अमेरिकी निर्देशक स्टेनली कुब्रिक ने मानव नियंत्रण से बाहर होती कृत्रिम बुद्धिमत्ता (AI) के डर का सबसे शक्तिशाली प्रतीकों में से एक बनाया।｜ITALIAN｜ENGLISH｜JAPANESE｜
अड़तालीस साल बाद, यह सवाल पहले से कहीं ज़्यादा महत्वपूर्ण हो गया है। ठीक इसी मुद्दे ने कैस्टल गैंडोल्फो में पोप के ग्रीष्मकालीन निवास के भीतर स्थित बोर्गो लौदातो सी’ की अनूठी पृष्ठभूमि में तीन दिनों तक चर्चा के लिए 200 से अधिक अंतरराष्ट्रीय हस्तियों को एकत्र किया, जहां वर्तमान में पोप लियो XIV रह रहे हैं।
आर्टिफिशियल इंटेलिजेंस और परमाणु युद्ध पर ग्लोबल नोबेल लॉरेट्स असेंबली द्वारा आयोजित इस सम्मेलन का उद्देश्य था—”अंतरराष्ट्रीय सुरक्षा का भविष्य, उभरती तकनीकों का शासन, निरस्त्रीकरण और शांति की अर्थव्यवस्था का निर्माण” जैसे विषयों पर विचार करना।
योशियुकी नागाओका, सोका गक्काई में बाह्य संबंध कार्यालय के कार्यकारी निदेशक और इकेदा सेंटर फॉर पीस, लर्निंग, एंड डायलॉग के कार्यकारी निदेशक। Credit: Katsuhiro Asagiri/INPS Japan
इस कार्यक्रम में कई प्रमुख अंतरराष्ट्रीय हस्तियों ने भाग लिया, जिनमें शामिल थे—पूर्व इतालवी प्रधानमंत्री और यूरोपीय आयोग के पूर्व अध्यक्ष रोमानो प्रोडी; नोबेल शांति पुरस्कार विजेता और बांग्लादेश के मुख्य सलाहकार मुहम्मद यूनुस; इकेदा सेंटर फॉर पीस, लर्निंग, एंड डायलॉग के अध्यक्ष और सोका गक्काई के बाह्य संबंध कार्यालय के कार्यकारी निदेशक योशियुकी नागाओका; फिलीपीन की पत्रकार और नोबेल शांति पुरस्कार विजेता मारिया रेसा; एमनेस्टी इंटरनेशनल की महासचिव एग्नेस कैलामार्ड; और कई वैज्ञानिक व परमाणु विशेषज्ञ।
इस सभा का औपचारिक उद्घाटन डिकास्टरी फॉर प्रमोटिंग इंटीग्रल ह्यूमन डेवलपमेंट के अंडर-सेक्रेटरी मानसिन्योर फैबियो बगियो ने किया।
अपने स्वागत भाषण में, उन्होंने चर्चा की केंद्रीय कड़ी तुरंत स्थापित कर दी, यह बताते हुए कि “शांति केवल युद्ध की अनुपस्थिति नहीं है, बल्कि यह न्याय, आपसी विश्वास, क़ानून के शासन और प्रत्येक मानव की अक्षुण्ण गरिमा पर आधारित एक व्यवस्था है।”
मुख्य विचार स्पष्ट था: कृत्रिम बुद्धिमत्ता को नियंत्रित करना अब अनिवार्य हो गया है यदि शांति—और अंततः मानवता का अस्तित्व—बनाए रखना है। AI अब सैन्य प्रणालियों में एकीकृत हो चुकी है, जिससे प्रसार, साइबर युद्ध और उच्च-तीव्रता वाले संघर्षों के जोखिम नाटकीय रूप से बढ़ गए हैं, और इससे वैश्विक स्थिरता एवं नैतिक सिद्धांतों के सम्मान पर भी खतरा मंडरा रहा है।
हालांकि वक्ताओं की विश्लेषण में कभी-कभी मतभेद देखने को मिले, जो उनकी विविध पृष्ठभूमियों को दर्शाते थे, लेकिन वे सभी एक मूलभूत निष्कर्ष पर सहमत हुए। कृत्रिम बुद्धिमत्ता से डरना नहीं चाहिए, लेकिन इसका मतलब यह बिल्कुल नहीं है कि उसे पूरी तरह स्वतंत्र छोड़ दिया जाए, जब तक कि वह एक और HAL 9000 न बन जाए। इसके विपरीत, अधिकांश प्रतिभागियों ने इस बात पर जोर दिया कि संभावित दुरुपयोग को असंभव होने से पहले सुरक्षा उपाय स्थापित करना बहुत जरूरी है।
कैरेन हॉलबर्ग, अर्जेंटीना की भौतिक विज्ञानी और पगवॉश कॉन्फ्रेंस ऑन साइंस एंड वर्ल्ड अफेयर्स की अध्यक्ष। Credit: Katsuhiro Asagiri/INPS Japan
यह चिंता विशेष रूप से कैरेन हॉलबर्ग ने व्यक्त की, जो ठोस अवस्था भौतिकी में विशेषज्ञ अर्जेंटीनी भौतिक विज्ञानी हैं और पगवॉश कॉन्फ्रेंस ऑन साइंस एंड वर्ल्ड अफेयर्स की अध्यक्ष हैं। उन्होंने तर्क दिया कि AI एक “ड्यूल-यूज़” यानी दोहरे उपयोग वाली तकनीक है, ठीक वैसे ही जैसे परमाणु ऊर्जा। जहां परमाणु विखंडन ने ऊर्जा उत्पादन और चिकित्सा में असाधारण प्रगति को संभव बनाया है, वहीं इसने परमाणु हथियारों को भी संभव किया है।
“कृत्रिम बुद्धिमत्ता में भी यही द्वैधता है। यह निश्चित रूप से वैज्ञानिक अनुसंधान, चिकित्सा और यहां तक कि अंतरराष्ट्रीय प्रतिबद्धताओं की निगरानी में भी योगदान कर सकती है। हालांकि, यदि इसका एकीकरण परमाणु हथियार प्रणालियों में हो जाए, तो यह खतरनाक अनिश्चितता का दौर लेकर आ सकता है,” उन्होंने चेतावनी दी।
हॉलबर्ग ने यह भी ज़ोर दिया कि सबसे बड़ा खतरा यह होगा कि एल्गोरिद्म को परमाणु हथियारों की कमान और नियंत्रण से जुड़े प्रक्रियाओं में हस्तक्षेप करने दिया जाए—जैसे उपग्रह चित्रों का विश्लेषण, सैन्य परिस्थितियों की व्याख्या, या ऐसे निर्णयों में योगदान जिनके परिणाम मानवता के भविष्य के लिए अपूरणीय हो सकते हैं।
“मुझे डर नहीं है; मैं चिंतित हूं। और यह चिंता ही हमें समय रहते कार्रवाई के लिए संकल्प देना चाहिए,” उन्होंने कहा, सरकारों से अनुरोध करते हुए कि तकनीक राजनीतिक नियंत्रण से आगे निकलने और अपूरणीय स्थिति बनने से पहले, एहतियात के सिद्धांत को लागू करें।
यह वही चिंता है जिसे नागाओका भी साझा करते हैं, हालांकि एक अलग दृष्टिकोण से। उनका मानना है कि कृत्रिम बुद्धिमत्ता स्वाभाविक रूप से खतरनाक नहीं है। सब कुछ इस बात पर निर्भर करता है कि मानवता इसका उपयोग कैसे करने का चुनाव करती है।
“अंततः सवाल फिर मानवता पर ही आ जाता है, जिसके पास या तो और अधिक स्वार्थी बनने या और अधिक करुणावान बनने का विकल्प है।”
नागाओका ने विशेष रूप से युवा पीढ़ी की ज़िम्मेदारी पर ज़ोर दिया, जो ऐसे माहौल में बड़ी हो रही है जहां डिजिटल उपकरणों की भूमिका लगातार बढ़ रही है और अलगाव का जोखिम भी। मानवता की सबसे बड़ी चुनौती, इसलिए, AI को नकारना नहीं, बल्कि यह सीखना है कि इसका उपयोग कैसे करें बिना मानव-विशिष्ट निर्णय क्षमता को छोड़े।
“हमें निर्णय लेते समय अपनी अंतरात्मा और अपनी बुद्धिमानी को सुरक्षित रखना चाहिए,” उन्होंने कहा, यह याद दिलाते हुए कि शिक्षा और आलोचनात्मक सोच ही उस तकनीक के विरुद्ध सबसे अच्छी सुरक्षा रहेंगी, जो व्यक्तिगत और सामूहिक दोनों तरह के निर्णयों को प्रभावित कर सकती है।
“मैंने हाल ही में टीवी पर एक 86 वर्षीय जापानी महिला की कहानी सुनी, जो अपने गंभीर रूप से बीमार पति के लिए जीवन समर्थन समाप्त करने के दर्दनाक निर्णय का सामना कर रही थी। उसने अपने परिवार से सलाह लेने की बजाय ChatGPT से सलाह लेना चुना।”
नागाओका के लिए, मुद्दा इस तरह के चुनाव की निंदा करना नहीं है, बल्कि इस पर विचार करना है कि ऐसी नई संवाद की विधाएं समाजों में कैसे उभर रही हैं, जहां मशीनें मानव जीवन के सबसे महत्वपूर्ण क्षणों में भी भरोसेमंद संवादी बन सकती हैं।
मानव ज़िम्मेदारी पर यह विचार मारिया रेसा की चिंताओं को भी प्रतिध्वनित करता है, जिन्होंने 2021 में अभिव्यक्ति की स्वतंत्रता की रक्षा और गलत सूचना के खिलाफ लड़ाई के लिए नोबेल शांति पुरस्कार प्राप्त किया।
पूरी चर्चा के दौरान, मारिया रेसा बार-बार उन जोखिमों पर प्रकाश डालती रहीं जो AI लोकतंत्र के भविष्य के लिए उत्पन्न करता है—जैसे झूठी सूचनाओं का तेजी से फैलना, जनमत में व्यापक स्तर पर हेरफेर, और सीमित संख्या की टेक्नोलॉजी कंपनियों के हाथों सत्ता का संकेंद्रण।
“AI केवल नवाचार का मुद्दा नहीं है। यह लोकतांत्रिक समाजों के मूल संचालन से जुड़ा है,” रेसा ने ज़ोर देकर कहा।
लेकिन इसमें कोई संदेह नहीं कि मुहम्मद यूनुस ने इस सम्मेलन की सबसे व्यापक आलोचना प्रस्तुत की, जब उन्होंने बहस को आर्थिक धरातल पर ले जाकर AI के उपयोग की मूलभूत परिकल्पनाओं को चुनौती दी। बांग्लादेशी अर्थशास्त्री, ग्रामीण बैंक के संस्थापक और 2006 के नोबेल शांति पुरस्कार विजेता यूनुस ने एक गहरे मानवतावादी दृष्टिकोण से आलोचना की।
“मुख्य समस्या केवल कुछ नौकरियों के गायब हो जाने की संभावना नहीं है, बल्कि संपत्ति का बढ़ता संकेंद्रण है,” यूनुस ने कहा।
उन्होंने चेतावनी दी कि कृत्रिम बुद्धिमत्ता एक ऐसे मॉडल को मजबूत करने का जोखिम रखती है, जिसमें कुछ कंपनियां तकनीकों, डेटा और आय को नियंत्रित करती हैं, जबकि जनसंख्या का एक बड़ा हिस्सा आर्थिक भागीदारी से बाहर हो जाता है।
“यह लोगों को उनकी आजीविका, उनकी गरिमा और स्वतंत्र बने रहने की क्षमता से वंचित कर सकता है,” उन्होंने तर्क दिया।
यूनुस ने कहा, भविष्य ऐसी अर्थव्यवस्था नहीं हो सकता जिसमें कृत्रिम बुद्धिमत्ता मानवों की जगह ले ले। इसके बजाय, भविष्य की अर्थव्यवस्था को भागीदारी, उद्यमिता और अवसरों के साझा करने पर आधारित होना चाहिए।
दुनिया भर के राजनीतिक नेताओं के लिए उनका संदेश स्पष्ट था: कृत्रिम बुद्धिमत्ता सत्ता के संकेंद्रण का साधन नहीं बननी चाहिए, बल्कि इसे सभी के हित में एक उपकरण के रूप में इस्तेमाल किया जाना चाहिए।
अब आगे क्या? इन चर्चाओं के अंत में एक बात निश्चित रूप से सामने आई है: अब पीछे लौटना संभव नहीं है। कृत्रिम बुद्धिमत्ता अब हमारे संसार का हिस्सा है। मानवता को इससे डरना नहीं चाहिए, और न ही इसे आने वाले कल का सबसे बड़ा शत्रु मानना चाहिए। लेकिन कुछ बुनियादी सवाल अभी भी अनुत्तरित हैं: इस तकनीक का नियंत्रण किसके हाथ में होगा, किन नियमों के अनुसार, और किस प्रकार की समाज-व्यवस्था की सेवा में?
HAL 9000 के आधे से अधिक सदी बाद, असली खतरा शायद यह नहीं है कि कोई मशीन इंसान बन जाएगी। बल्कि, असली खतरा यह है कि मानव धीरे-धीरे वे गुण छोड़ दे, जो उसे परिभाषित करते हैं: निर्णय लेने, विवेक करने और अपने चुनावों की जिम्मेदारी लेने की क्षमता।
This article is brought to you by IPS NORAM in collaboration with INPS Japan and Soka Gakkai International, in consultative status with the UN’s Economic and Social Council (ECOSOC).
INPS Japan