Grok AI Controversy: इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने शुक्रवार को X कॉर्प पर उसके प्लेटफॉर्म पर अश्लील, नग्न और अभद्र सामग्री के निर्माण और प्रसार को रोकने में विफल रहने के लिए कार्रवाई की। सरकार ने X कॉर्प को 72 घंटे के भीतर “ग्रोक’ और xAI की अन्य सेवाओं जैसी AI-आधारित सेवाओं के दुरुपयोग के माध्यम से अश्लील, नग्न, अभद्र और आपत्तिजनक सामग्री की होस्टिंग, निर्माण, प्रकाशन या प्रसारण, साझा करने या अपलोड करने की रोकथाम के लिए तत्काल अनुपालन की दिशा में” एक कार्रवाई रिपोर्ट (ATR) भेजने का निर्देश दिया है।
Grok AI Misuse: कई धाराओं के तहत होगी कार्रवाई
सरकारी निर्देश में कहा गया है कि “इन आवश्यकताओं का पालन न करने को गंभीरता से देखा जाएगा और इसके परिणामस्वरूप बिना किसी और नोटिस के, IT अधिनियम, IT नियमों, BNSS, BNS और अन्य लागू कानूनों के तहत आपके प्लेटफॉर्म, इसके जिम्मेदार अधिकारियों और प्लेटफॉर्म पर कानून का उल्लंघन करने वाले उपयोगकर्ताओं के खिलाफ सख्त कानूनी परिणाम हो सकते हैं”।
MeitY Notice to X: नोटिस में क्या-क्या लिखा गया?
मंत्रालय ने X को गैरकानूनी सामग्री के निर्माण को रोकने के लिए ग्रोक के तकनीकी और शासन ढांचे की व्यापक समीक्षा करने का निर्देश दिया।
इसमें कहा गया है कि ग्रोक को सख्त उपयोगकर्ता नीतियों को लागू करना चाहिए, जिसमें उल्लंघन करने वालों का निलंबन और समाप्ति शामिल है। इसमें कहा गया है कि सभी आपत्तिजनक सामग्री को सबूतों से छेड़छाड़ किए बिना तुरंत हटा दिया जाना चाहिए।
Twitter X AI Controversy: ग्रोक अगर अनुपालन नहीं करता है तो होगी कार्रवाई
MeitY ने कहा कि अनुपालन न करने पर IT अधिनियम की धारा 79 के तहत सुरक्षित आश्रय का नुकसान हो सकता है और BNS, महिलाओं का अभद्र प्रतिनिधित्व अधिनियम, और बच्चों को यौन अपराधों से संरक्षण अधिनियम सहित कई कानूनों के तहत दंडात्मक कार्रवाई शुरू हो सकती है। X को लिखे पत्र में, मंत्रालय ने कहा कि उसका मानना है कि सूचना प्रौद्योगिकी अधिनियम के तहत नियामक प्रावधानों का उसके प्लेटफॉर्म द्वारा पर्याप्त रूप से पालन नहीं किया जा रहा है, जो अश्लील, अभद्र, अश्लील, पोर्नोग्राफिक, पीडोफिलिक, या अन्यथा गैरकानूनी या हानिकारक सामग्री से संबंधित हैं, जो संभावित रूप से मौजूदा कानूनों का उल्लंघन करते हैं।
ग्रोक पर क्या है आरोप?
नोटिस में बताया गया है कि उपरोक्त कृत्यों और चूकों को गंभीर चिंता के साथ देखा जाता है, क्योंकि इनका महिलाओं और बच्चों की गरिमा, गोपनीयता और सुरक्षा का उल्लंघन करने, डिजिटल स्पेस में यौन उत्पीड़न और शोषण को सामान्य बनाने, और भारत में काम करने वाले मध्यस्थों पर लागू वैधानिक उचित परिश्रम ढांचे को कमजोर करने का प्रभाव पड़ता है।
पत्र में यह भी कहा गया है कि यह खास तौर पर देखा गया है कि X द्वारा विकसित और X प्लेटफॉर्म पर इंटीग्रेट और उपलब्ध कराई गई Grok AI सर्विस का इस्तेमाल यूज़र्स महिलाओं की अश्लील तस्वीरें या वीडियो को अपमानजनक या भद्दे तरीके से होस्ट करने, बनाने, पब्लिश करने या शेयर करने के लिए अकाउंट बनाने में कर रहे हैं, ताकि उन्हें गलत तरीके से बदनाम किया जा सके।
खासकर महिलाओं को करता है टारगेट!
खास बात यह है कि यह सिर्फ़ फेक अकाउंट बनाने तक ही सीमित नहीं है, बल्कि यह उन महिलाओं को भी टारगेट करता है जो प्रॉम्प्ट, इमेज मैनिपुलेशन और सिंथेटिक आउटपुट के ज़रिए अपनी तस्वीरें या वीडियो होस्ट या पब्लिश करती हैं। पत्र में कहा गया है कि ऐसा व्यवहार प्लेटफॉर्म-लेवल की सुरक्षा और लागू करने के तरीकों की गंभीर विफलता को दिखाता है, और यह लागू कानूनों का उल्लंघन करते हुए आर्टिफिशियल इंटेलिजेंस टेक्नोलॉजी का घोर दुरुपयोग है।नोटिस की एक कॉपी प्रमुख मंत्रालयों, आयोगों और राज्य अधिकारियों को भी भेजी गई है, जो AI के ज़रिए बढ़ावा दी जा रही अश्लीलता पर कोऑर्डिनेटेड कार्रवाई का संकेत देता है।
शिवसेना सांसद प्रियंका चतुर्वेदी ने की थी कार्रवाई की मांग
शिवसेना (UBT) सांसद प्रियंका चतुर्वेदी ने शुक्रवार को सरकार से AI ऐप्स, खासकर एलन मस्क के सोशल मीडिया प्लेटफॉर्म X पर, महिलाओं को सेक्शुअलाइज़ करने की बढ़ती घटनाओं पर तुरंत ध्यान देने का आग्रह किया।
IT मंत्री अश्विनी वैष्णव को लिखे एक पत्र में, उन्होंने सोशल मीडिया प्लेटफॉर्म को “महिलाओं के लिए एक सुरक्षित जगह” बनाने के लिए Grok जैसे AI चैटबॉट पर “गार्डरेल्स” लागू करने की मांग की। उन्होंने पुरुषों को बचपन से ही बेहतर शिक्षा देने का भी आग्रह किया ताकि वे ऐसे बीमार विकृत न बनें।
Grok AI Controversy: चतुर्वेदी ने ट्वीट कर तुरंत कार्रवाई की मांग की थी
I would take this opportunity to thank Hon IT Minister for promptly taking note of my letter and for issuing a letter to X platform in the regard of AI led grok generating problematic content of women based on prompts that disrespect woman’s dignity and violates their consent,… https://t.co/pTGXWaBm0K
— Priyanka Chaturvedi🇮🇳 (@priyankac19) January 2, 2026
चतुर्वेदी ने सोशल मीडिया प्लेटफॉर्म X पर एक पोस्ट में शेयर किया, “मैंने IT मंत्री से सोशल मीडिया पर महिलाओं की तस्वीरों के अनधिकृत इस्तेमाल से AI ऐप्स द्वारा उन्हें सेक्शुअलाइज़ और कपड़े उतारने के लिए उकसाने की बढ़ती घटनाओं के मुद्दे पर तुरंत ध्यान देने और हस्तक्षेप करने का आग्रह किया है। उन्होंने आगे कहा, “Grok जैसी सुविधाओं द्वारा ऐसे गार्डरेल्स लगाए जाने चाहिए जो महिलाओं की गरिमा का उल्लंघन न करें; बड़ी टेक कंपनियों को इसकी ज़िम्मेदारी लेनी होगी। और मैं चाहती हूं कि ऐसे व्यवहार में शामिल पुरुषों को उनके घरों और स्कूलों में बेहतर शिक्षा दी जाए ताकि वे बड़े होकर ऐसे बीमार विकृत न बनें।”
