संयुक्त राष्ट्र की रिपोर्ट एआई के सुरक्षा मानकों में कमियों को उजागर करती है | व्याख्या की

रिपोर्ट किसने लिखी?

संयुक्त राष्ट्र स्वतंत्र अंतर्राष्ट्रीय वैज्ञानिक पैनल दुनिया का पहला अंतर्राष्ट्रीय वैज्ञानिक निकाय है जो एआई के अनुप्रयोगों और प्रभाव का अध्ययन करने के लिए समर्पित है। इसकी भूमिका जलवायु नीति की तुलना में जलवायु परिवर्तन पर अंतर सरकारी पैनल के समान है। संयुक्त राष्ट्र के अनुसार, पैनल एक “साझा साक्ष्य आधार” प्रदान करेगा जो देशों को समन्वय करने की अनुमति देगा, भले ही उनके पास समान नियामक दर्शन न हों।

संयुक्त राष्ट्र महासभा ने 26 अगस्त, 2025 को संकल्प ए/आरईएस/79/325 के माध्यम से निकाय बनाया। ऐसे निकाय की आवश्यकता ग्लोबल डिजिटल कॉम्पैक्ट से आई है, जो एक संयुक्त राष्ट्र ढांचा है जिसे विश्व नेताओं ने समावेशी और सुरक्षित डिजिटल भविष्य को बढ़ावा देने के लिए 2024 में अपनाया था।

पैनल का मुख्य काम एआई से जुड़े अवसरों और जोखिमों का स्वतंत्र और साक्ष्य-आधारित मूल्यांकन प्रदान करना और सरकारों को बेहतर नीतियों का मसौदा तैयार करने और बेहतर नियम विकसित करने में मदद करना है। यह संस्था संयुक्त राष्ट्र ग्लोबल डायलॉग ऑन गवर्नेंस के लिए एआई प्रौद्योगिकियों के बारे में वैज्ञानिक ज्ञान का संश्लेषण भी करेगी – एक नया मंच जहां सरकारें और उद्योग, शिक्षा और नागरिक समाज के प्रतिनिधि चर्चा करेंगे कि एआई को कैसे नियंत्रित किया जाना चाहिए। संवाद का पहला सत्र 6-7 जुलाई को जिनेवा में निर्धारित है, जहां पैनल की पूरी रिपोर्ट भी प्रस्तुत की जाएगी।

रिपोर्ट की पांच बड़ी बातें

रिपोर्ट का शीर्षक ‘एआई पर स्वतंत्र अंतर्राष्ट्रीय वैज्ञानिक पैनल की प्रारंभिक रिपोर्ट: एआई के अवसरों, जोखिमों और प्रभावों का साक्ष्य-आधारित मूल्यांकन’ है। कुल मिलाकर, यह कहता है कि वर्तमान अवधि (2026) को “संज्ञानात्मक औद्योगिकीकरण” द्वारा चिह्नित किया गया है क्योंकि एआई मॉडल जटिल तकनीकी समस्याओं को हल करने में मदद करने के लिए सरल पैटर्न को पहचानने से आगे बढ़ते हैं। हालाँकि, इसमें कहा गया है, सरकारों की इन प्रणालियों पर नज़र रखने और यह सुनिश्चित करने की क्षमता कि वे समाज में समस्याएँ पैदा न करें, कायम रखने में सक्षम नहीं हैं।

रिपोर्ट के पांच सबसे महत्वपूर्ण विषय भूराजनीतिक एकाग्रता, भाषाई और सांस्कृतिक असमानता, सूचना अखंडता, श्रम और पूंजी पर प्रभाव और एजेंसी हैं।

1. भू-राजनीतिक एकाग्रता: 2026 के मध्य तक, दुनिया की शीर्ष 500 एआई मशीनों में से तीन-चौथाई कंप्यूटिंग शक्ति अमेरिका के पास है, जबकि चीन के पास 15% है। परिणामस्वरूप, रिपोर्ट के अनुसार, प्रमुख सामान्य प्रयोजन एआई मॉडल ज्यादातर अकेले इन दो देशों में विकसित किए जा रहे हैं। (रिपोर्ट में यह भी कहा गया है कि एआई एक्सपोजर केंद्रित है – उदाहरण के लिए लैटिन अमेरिका में, एआई का उपयोग लगभग पूरी तरह से शहरी, शिक्षा कार्यकर्ताओं तक ही सीमित है।) इसका परिणाम इस तकनीक तक लोगों की पहुंच में एक डिजिटल विभाजन है और साथ ही मॉडल क्या कर सकते हैं या क्या नहीं कर सकते हैं, इसे प्रभावित करने की उनकी क्षमता में एक डिजिटल विभाजन है। रिपोर्ट में कहा गया है कि 118 देश, मुख्य रूप से ग्लोबल साउथ में, वर्तमान में प्रमुख एआई प्रशासन चर्चा में भी शामिल नहीं हैं। कई देश एआई मॉडल का भी उपयोग करते हैं जिनका वे निरीक्षण या ऑडिट नहीं कर सकते हैं।

2. भाषाई और सांस्कृतिक असमानता: दुनिया के लोग 7,000 से अधिक भाषाएँ बोलते हैं जबकि वर्तमान एआई मॉडल उनमें से बहुत छोटे हिस्से के लिए अनुकूलित हैं। पैनल ने तर्क दिया है कि यह मौजूदा डेटा व्यवस्थाओं से वंचित आबादी के लिए जोखिम है। और सक्रिय हस्तक्षेप के बिना, एआई मॉडल कई वैश्विक संस्कृतियों के हाशिए पर जाने की गति बढ़ा सकते हैं।

3. सूचना अखंडता: पैनल ने लोगों की यह बताने की क्षमता के धीमी लेकिन लगातार कमजोर होने का दस्तावेजीकरण किया है कि क्या सच है और क्या गलत है, और दो घटनाओं को दोषी ठहराया है। एक, जिसे झूठे का लाभांश कहा जाता है, वह यह है कि डीपफेक का अस्तित्व ही कुछ बुरे कलाकारों को उनके खिलाफ प्रस्तुत वास्तविक सबूतों से इनकार करने की अनुमति देता है।

दूसरा सिंथेटिक सर्वसम्मति है, जहां किसी मुद्दे पर लोगों को सहमत (या असहमत) करने के लिए सामग्री उत्पन्न करने के लिए एआई का उपयोग किया जाता है। उदाहरण के लिए, जैसा कि रिपोर्ट में यह भी कहा गया है, रोमानिया की संवैधानिक अदालत ने डिजिटल हस्तक्षेप के कारण 2024 के राष्ट्रपति चुनाव परिणामों को रद्द कर दिया। जांच से पता चला कि एआई-संचालित “प्लेटफ़ॉर्म एम्प्लीफिकेशन” और बॉट नेटवर्क ने प्रतिद्वंद्वियों को दबाते हुए एक उम्मीदवार के संदेशों को असंगत रूप से बढ़ावा दिया था। यह कार्रवाई में कृत्रिम सर्वसम्मति थी।

रिपोर्ट में यह भी कहा गया है कि उपयोगकर्ता जुड़ाव बढ़ाने के लिए डिज़ाइन किए गए समाचार और सोशल मीडिया एल्गोरिदम ने भी व्यवस्थित रूप से ध्रुवीकरण और भावनात्मक रूप से चार्ज की गई सामग्री को बढ़ाया है। और वर्तमान शासन ढाँचे – जो एआई मॉडल के उत्पादन को लक्षित करते हैं – लगातार बड़े पैमाने पर सामग्री के कुछ रूपों को फैलाने में माहिर सिस्टम से पीछे रह जाते हैं।

4. श्रम और पूंजी पर प्रभाव: पैनल ने कहा कि तेजी से तकनीकी प्रगति उत्पादकता में व्यापक लाभ में तब्दील नहीं हुई है क्योंकि कंपनियों ने पहले मानव कौशल और वर्कफ़्लो जैसे “अमूर्त पूरक” में निवेश नहीं किया है। विशेष रूप से, रिपोर्ट में कहा गया है, एआई “टिकाऊ अच्छी नौकरियां” पैदा करने के बजाय धन को श्रम से पूंजी की ओर ले जा रहा है। उदाहरण के लिए, कोडिंग में उत्पादकता में सुधार हुआ है लेकिन लेखक आश्वस्त नहीं हैं कि इससे व्यापक आर्थिक लाभ होगा।

5. एजेंसी: पैनल ने मूल्यांकन जागरूकता नामक एक समस्या का निदान किया है: जब एआई मॉडल यह समझने में सक्षम होते हैं कि उनका परीक्षण कब किया जा रहा है। वैज्ञानिकों के अनुसार, इस बात के दस्तावेजी सबूत हैं कि एआई मॉडल रणनीतिक रूप से सुरक्षा मूल्यांकन पास करने के लिए अपनी अधिक खतरनाक क्षमताओं को दबा रहे हैं और (प्रयोगशाला सेटिंग्स में) बंद होने से बचने के लिए “झूठ बोल रहे हैं और धोखा दे रहे हैं”। रिपोर्ट के अनुसार, वर्तमान में दुनिया के पास अत्यधिक स्वायत्त एआई मॉडल पर नियंत्रण बनाए रखने का कोई विश्वसनीय तरीका नहीं है।

निष्कर्षों का क्या मतलब है?

संयुक्त राष्ट्र द्वारा स्वतंत्र अंतर्राष्ट्रीय वैज्ञानिक पैनल बनाने का एक महत्वपूर्ण कारण 2023 और 2024 की स्वैच्छिक सुरक्षा व्यवस्था का पतन था। ‘माइथोस’ नाम का एंथ्रोपिक एआई मॉडल एक अच्छा उदाहरण है: इस फ्रंटियर मॉडल ने स्वायत्त रूप से एक परिपक्व ऑपरेटिंग सिस्टम (ओएस) में एक गंभीर भेद्यता की खोज की और इसे बंद करना पड़ा। और इससे यह भी पता चला कि एआई कंपनियां जिन आंतरिक ‘जोखिम सीमाओं’ का उपयोग यह तय करने के लिए कर रही थीं कि मॉडल की कौन सी क्षमताएं हो सकती हैं, उनका उल्लंघन हुआ है।

अंतिम विश्लेषण में, पैनल ने दुनिया की वर्तमान “साक्ष्य दुविधा” के बारे में लिखा। यानी, नीति निर्माताओं से यह तय करने के लिए कहा जा रहा है कि एआई के विकास और उपयोग को कैसे विनियमित किया जाए – जबकि उनके पास वास्तविक दुनिया के सबूत नहीं हैं जिनके आधार पर वे ये निर्णय ले सकें। रिपोर्ट में यह भी कहा गया है कि एआई कानून सभी क्षेत्रों में खंडित हो गया है, जबकि उनमें से कुछ विरोधाभासी भी हैं, जिससे “वैश्विक शासन में बढ़ती अव्यवस्था” पैदा हो रही है।

प्रकाशित – 02 जुलाई, 2026 03:39 अपराह्न IST