सीजी भास्कर, 11 जनवरी। Grok AI को लेकर उठे विवाद के बाद सोशल मीडिया प्लेटफॉर्म X ने पहली बार खुलकर अपनी गलती स्वीकार (Grok Misuse Case) की है। कंपनी ने माना है कि उसके प्लेटफॉर्म पर आपत्तिजनक और नियमों के खिलाफ कंटेंट को समय रहते रोकने में चूक हुई, जिसके बाद अब भारतीय कानूनों के अनुरूप सख्त कदम उठाए गए हैं। इस कार्रवाई के तहत हजारों पोस्ट ब्लॉक किए गए हैं और बड़ी संख्या में अकाउंट्स को स्थायी रूप से हटाया गया है।
सरकारी आपत्ति के बाद X ने बताया कि Grok AI से जुड़े मामलों में करीब 3,500 पोस्ट को प्लेटफॉर्म से हटाया गया है, जबकि 600 से अधिक अकाउंट्स को पूरी तरह डिलीट (Grok Misuse Case) कर दिया गया है। कंपनी का कहना है कि यह कदम भारतीय नियमों के अनुपालन और डिजिटल स्पेस को सुरक्षित बनाए रखने की दिशा में उठाया गया है।
दरअसल, Grok AI के इस्तेमाल को लेकर यह चिंता जताई गई थी कि इसका दुरुपयोग फर्जी प्रोफाइल तैयार करने, महिलाओं को निशाना बनाने और उन्हें ऑनलाइन परेशान करने के लिए किया जा रहा है। आरोप है कि कुछ यूजर्स ने इमेज एडिटिंग, सिंथेटिक कंटेंट और गलत इनपुट्स का सहारा लेकर महिलाओं की तस्वीरों और वीडियो के साथ छेड़छाड़ की, जिससे गंभीर सामाजिक और कानूनी सवाल खड़े हो गए।
मामले की गंभीरता को देखते हुए भारत सरकार ने X से जवाब तलब किया था और स्पष्ट किया था कि ऐसे कंटेंट पर त्वरित और प्रभावी कार्रवाई जरूरी है। इसके बाद प्लेटफॉर्म ने न सिर्फ आपत्तिजनक पोस्ट्स हटाए, बल्कि संबंधित अकाउंट्स पर भी कड़ी (Grok Misuse Case) कार्रवाई की। साथ ही यह भरोसा दिया गया कि आगे से इस तरह की गतिविधियों पर पहले से कहीं ज्यादा सख्त निगरानी रखी जाएगी।
इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय की ओर से X को 72 घंटे के भीतर विस्तृत एक्शन टेकन रिपोर्ट सौंपने के निर्देश भी दिए गए थे। सूत्रों के अनुसार, रिपोर्ट में कंटेंट हटाने, अकाउंट डिलीशन और भविष्य की मॉडरेशन रणनीति से जुड़े बिंदुओं को शामिल किया गया है।
सरकारी हलकों का कहना है कि आने वाले समय में X को भारतीय आईटी नियमों के तहत कंटेंट मॉडरेशन सिस्टम को और मजबूत करना होगा। आपत्तिजनक कंटेंट, संदिग्ध यूजर्स और नियमों का उल्लंघन करने वाले अकाउंट्स पर तेजी से कार्रवाई सुनिश्चित करने के लिए ऑटोमेटेड और मैन्युअल दोनों स्तरों पर निगरानी बढ़ाई जाएगी।
यह पूरा घटनाक्रम न केवल AI टूल्स के जिम्मेदार इस्तेमाल पर सवाल खड़े करता है, बल्कि यह भी दिखाता है कि भारत में डिजिटल प्लेटफॉर्म्स के लिए कानूनों का पालन अब वैकल्पिक नहीं, बल्कि अनिवार्य होता जा रहा है।
