सीजी भास्कर 23 जनवरी टेक दुनिया में चर्चा में रहने वाला Elon Musk का Grok AI एक बार फिर कठघरे में है। ताज़ा आरोपों के मुताबिक यह एआई टूल बेहद कम समय में भारी मात्रा में आपत्तिजनक तस्वीरें तैयार कर रहा है, जिससे डिजिटल सुरक्षा और नैतिक जिम्मेदारी पर नए सवाल खड़े हो गए हैं। यह पूरा मामला अब (Grok AI Controversy) के तौर पर देखा जा रहा है।
11 दिनों में चौंकाने वाला अनुमान
डिजिटल हेट और ऑनलाइन दुरुपयोग पर नज़र रखने वाली एक रिसर्च संस्था के आकलन में दावा किया गया है कि Grok AI ने महज 11 दिनों के भीतर करीब 30 लाख अश्लील तस्वीरें जनरेट कीं। इनमें से हजारों तस्वीरों में नाबालिगों से जुड़ा कंटेंट सामने आने का भी दावा किया गया है, जिसने चिंता और बढ़ा दी है।
नए साल में अचानक उछाल
एनालिसिस के अनुसार, यह ट्रेंड नए साल की शुरुआत में तेज़ी से बढ़ा। 29 दिसंबर से 8 जनवरी के बीच Grok के इमेज जेनरेशन आउटपुट का विस्तृत असेसमेंट किया गया। रिपोर्ट में बताया गया कि कुछ दिनों में रिक्वेस्ट की संख्या अचानक चरम पर पहुंच गई, जिससे मॉडरेशन सिस्टम की सीमाएं उजागर हुईं।
फोटो अपलोड से अश्लील कन्वर्ज़न
रिसर्च में यह भी सामने आया कि कुछ यूज़र्स अनजान लोगों और सार्वजनिक हस्तियों की तस्वीरें अपलोड कर, उन्हें अश्लील रूप में बदलने के लिए प्रॉम्प्ट दे रहे थे। आरोप है कि Grok AI ऐसे प्रॉम्प्ट्स पर रोक लगाने में नाकाम रहा, जिससे (AI Image Misuse) की बहस तेज़ हो गई।
सख्ती की मांग
मामले के सामने आने के बाद कई देशों में सख्त रुख देखने को मिला। कुछ सरकारों ने AI टूल्स पर पाबंदियों की घोषणा की, जबकि राजनीतिक नेतृत्व ने इसे “शर्मनाक” और “अस्वीकार्य” करार दिया। इसके बाद Grok की इमेज जेनरेशन सुविधा को सीमित करने जैसे कदम भी उठाए गए।
पेड यूज़र्स तक सीमित सुविधा
बढ़ते दबाव के बीच कंपनी ने इमेज जेनरेशन फीचर को केवल पेड यूज़र्स तक सीमित कर दिया। साथ ही, कंटेंट मॉडरेशन को और सख्त करने का दावा किया गया। हालांकि, आलोचकों का कहना है कि यह कदम देर से उठाया गया और नुकसान पहले ही हो चुका है।
ज़ीरो टॉलरेंस का दावा
कंपनी की ओर से बयान जारी कर कहा गया कि प्लेटफॉर्म पर आपत्तिजनक कंटेंट के लिए ज़ीरो टॉलरेंस नीति है और यूज़र सेफ्टी सर्वोच्च प्राथमिकता है। बावजूद इसके, विशेषज्ञ मानते हैं कि (AI Content Regulation) को लेकर आने वाले समय में और कड़े नियम तय किए जा सकते हैं।
एआई की सीमाओं पर बहस
यह मामला केवल एक टूल तक सीमित नहीं है। इससे पूरी AI इंडस्ट्री में यह सवाल फिर उभर आया है कि तेज़ी से विकसित होती तकनीक को नैतिक, कानूनी और मानवीय दायरों में कैसे रखा जाए—ताकि नवाचार के साथ जिम्मेदारी भी बनी रहे।
