Grok AI विवाद: अश्लील तस्वीरें बनाने पर बवाल, सरकार ने X को 72 घंटे का समय दिया, जानिए क्या है पूरा मामला

भारत सरकार के इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने 2 जनवरी 2026 को सोशल मीडिया प्लेटफॉर्म X (पहले ट्विटर) को एक सख्त नोटिस जारी किया है. ये नोटिस X के AI टूल Grok के दुरुपयोग से जुड़ा है, जिसमें यूज़र्स के महिलाओं और बच्चों की तस्वीरों को बिना सहमति के अश्लील, यौन स्पष्ट या अपमानजनक रूप में बदलकर शेयर करने की शिकायतें सामने आई हैं.

यह मामला तब गंभीर हुआ जब शिवसेना (UBT) की राज्यसभा सांसद प्रियंका चतुर्वेदी ने IT मंत्री अश्विनी वैष्णव को पत्र लिखकर इस ट्रेंड की शिकायत की. सरकार ने इसे महिलाओं की गरिमा, प्राइवेसी और डिजिटल सुरक्षा का गंभीर उल्लंघन माना है.

MeitY ने X को IT एक्ट 2000 और IT रूल्स 2021 के तहत ड्यू डिलिजेंस में लापरवाही का आरोप लगाते हुए 72 घंटों में सभी गैर-कानूनी कंटेंट हटाने, Grok के सेफगार्ड्स मजबूत करने और एक्शन टेकन रिपोर्ट सबमिट करने का निर्देश दिया है.

अनुपालन न होने पर सेफ हार्बर प्रोटेक्शन छीनने और कानूनी कार्रवाई की चेतावनी दी गई है.यह घटना AI टेक्नोलॉजी के नैतिक उपयोग और प्लेटफॉर्म्स की जिम्मेदारी पर बड़ी बहस छेड़ रही है. आइए इसे विस्तार से समझते हैं कि आखिर ये विवाद क्या है.

यह विवाद क्या है?

विवाद X प्लेटफॉर्म के AI चैटबॉट Grok के दुरुपयोग से जुड़ा है. यूजर्स फेक अकाउंट्स बनाकर महिलाओं और बच्चों की तस्वीरों को AI से बदलकर अश्लील, नग्न या यौन स्पष्ट इमेज/वीडियो जेनरेट कर रहे हैं और उन्हें शेयर कर रहे हैं. यह महिलाओं की गरिमा, प्राइवेसी और डिजिटल सुरक्षा का उल्लंघन है. MeitY ने इसे IT एक्ट 2000 और IT रूल्स 2021 की गंभीर उल्लंघन माना है.

किसने शिकायत की और मामला कैसे शुरू हुआ?

मुख्य शिकायत शिवसेना (UBT) की राज्यसभा सांसद प्रियंका चतुर्वेदी ने की. उन्होंने IT मंत्री अश्विनी वैष्णव को पत्र लिखकर Grok के जरिए महिलाओं की तस्वीरों को बिना सहमति के ‘अंड्रेस’ या सेक्शुअलाइज करने के ट्रेंड पर चिंता जताई. इसके अलावा, कई यूजर्स और पब्लिक कंप्लेंट्स भी आईं. MeitY ने 2 जनवरी 2026 को तुरंत नोटिस जारी किया.

नोटिस में मुख्य बिंदु क्या हैं?

नोटिस में MeitY ने X पर IT एक्ट और रूल्स के तहत ड्यू डिलिजेंस में गंभीर कमियां बताई हैं. 1-Grok का दुरुपयोग फेक अकाउंट्स से महिलाओं/बच्चों की अश्लील इमेज बनाने में. 2- यह महिलाओं और बच्चों की गरिमा व प्राइवेसी का उल्लंघन.3-तुरंत सभी गैर-कानूनी कंटेंट हटाना.4-Grok के टेक्निकल, प्रोसेस और गवर्नेंस फ्रेमवर्क की समीक्षा.5- सेफगार्ड्स मजबूत करना ताकि न्यूडिटी या सेक्शुअल कंटेंट जेनरेट न हो. 6- अनुपालन न होने पर सेफ हार्बर (धारा 79) छीनने और आपराधिक कार्रवाई की चेतावनी.

X को क्या करना है?

X को 72 घंटों में डिटेल्ड एक्शन टेकन रिपोर्ट (ATR) सबमिट करनी है, जिसमें:  सभी अवैध कंटेंट हटाना या ब्लॉक करना. 1-Grok की आर्किटेक्चर रिव्यू और सुधार.2- दोषी यूजर्स पर कार्रवाई (सस्पेंड/टर्मिनेट).3- चीफ कंप्लायंस ऑफिसर की भूमिका सुनिश्चित करना. 4- AI गार्डरेल्स मजबूत करना. 5- अनुपालन न होने पर X, उसके अधिकारी और यूजर्स पर सख्त कानूनी कार्रवाई हो सकती है.

इस विवाद का व्यापक प्रभाव क्या है?

यह AI प्लेटफॉर्म्स की जवाबदेही और नैतिकता पर सवाल उठाता है. भारत जैसे बड़े डिजिटल मार्केट में यह फैसला अन्य देशों के लिए उदाहरण बन सकता है. महिलाओं/बच्चों की ऑनलाइन सुरक्षा मजबूत होगी, लेकिन AI इनोवेशन पर रेगुलेशन की बहस बढ़ेगी. X और xAI पर दबाव बढ़ा है.

कोई अन्य अपडेट या प्रतिक्रियाएं?

प्रियंका चतुर्वेदी ने सरकार की त्वरित कार्रवाई के लिए धन्यवाद दिया. X यूजर्स ने Grok की सेफगार्ड्स में कमी की आलोचना की है. कुछ रिपोर्ट्स में नाबालिगों से जुड़े कंटेंट का भी जिक्र है. MeitY ने सभी प्लेटफॉर्म्स को अश्लील कंटेंट पर सख्ती की एडवाइजरी भी जारी की है. मामला अभी चल रहा है, X की रिपोर्ट का इंतजार है.