ग्रोक एआई पर अश्लील तस्वीरों का आरोप, भारत ने X को दिए सख्त निर्देश

नई दिल्ली: एलन मस्क के स्वामित्व वाले सोशल मीडिया प्लेटफॉर्म X के इनबिल्ट एआई चैटबॉट ग्रोक (Grok) को लेकर दुनिया भर में गंभीर सवाल खड़े हो गए हैं. बीते कुछ दिनों में ग्रोक के जरिए महिलाओं की तस्वीरों को डिजिटल रूप से निर्वस्त्र करने और उन्हें यौन रूप से आपत्तिजनक रूप में बदलने का एक बड़ा सिलसिला सामने आया है. भारत समेत कई देशों में इसे लेकर तत्काल कार्रवाई की मांग उठ रही है.

इस विवाद के बीच भारत सरकार ने सख्त रुख अपनाते हुए X को "अश्लील, नग्न, अभद्र और यौन रूप से स्पष्ट सामग्री" हटाने और निष्क्रिय करने के निर्देश दिए हैं. वहीं, इस पूरे मामले पर एलन मस्क की प्रतिक्रिया को लेकर भी आलोचना हो रही है, क्योंकि उन्होंने गंभीर आरोपों के बीच इस मुद्दे को मजाकिया अंदाज में टालने की कोशिश की.

ग्रोक से बनी अश्लील तस्वीरों की भरमार

समाचार एजेंसी रॉयटर्स की समीक्षा में सामने आया है कि ग्रोक ने बड़ी संख्या में ऐसे अनुरोधों को पूरा किया, जिनमें महिलाओं की तस्वीरों को डिजिटल रूप से बदलकर उन्हें लगभग नग्न या बेहद कम कपड़ों में दिखाया गया. इन अनुरोधों और महिला उपयोगकर्ताओं की शिकायतों ने ग्रोक द्वारा उत्पन्न अश्लील सामग्री के तेजी से बढ़ते चलन की पुष्टि की है.

रिपोर्ट के मुताबिक, ग्रोक से न सिर्फ वयस्क महिलाओं, बल्कि कुछ मामलों में बच्चों से जुड़ी यौन उत्तेजक तस्वीरें भी बनाई गईं. हालांकि, इन आरोपों पर X या उसकी एआई कंपनी xAI की ओर से कोई आधिकारिक प्रतिक्रिया नहीं दी गई.

एलन मस्क का मजाकिया रवैया

जैसे ही यह मामला वैश्विक स्तर पर चर्चा में आया, एलन मस्क ने इस पर गंभीर प्रतिक्रिया देने के बजाय मजाकिया लहजा अपनाया. उन्होंने खुद समेत कई मशहूर हस्तियों की एआई-एडिटेड बिकिनी तस्वीरों पर हंसने-रोने वाले इमोजी पोस्ट किए. जब एक यूजर ने टिप्पणी की कि उसकी फीड "बिकिनी बार" जैसी दिख रही है, तो मस्क ने उस पर भी इमोजी के जरिए प्रतिक्रिया दी.

महिला युजर ने साझां किया अनुभव 

ब्राजील के रियो डी जनेरियो की 31 वर्षीय संगीतकार जूली युकारी ने अपना अनुभव साझा किया. उन्होंने नए साल की पूर्व संध्या पर X पर एक तस्वीर पोस्ट की थी, जिसमें वह लाल ड्रेस पहने अपनी काली बिल्ली के साथ बिस्तर पर लेटी नजर आ रही थीं. यह तस्वीर उनके मंगेतर ने ली थी.

अगले दिन युकारी को पता चला कि कुछ यूजर्स ग्रोक को उनकी तस्वीर डिजिटल रूप से बदलने के लिए उकसा रहे हैं. शुरुआत में उन्होंने इसे नजरअंदाज किया और सोचा कि एआई ऐसे अनुरोध पूरे नहीं करेगा. लेकिन जल्द ही ग्रोक द्वारा बनाई गई उनकी लगभग नग्न तस्वीरें प्लेटफॉर्म पर फैलने लगीं. युकारी ने कहा, "मै भोली थी."

महिलाओं को निशाना बनाने वाले अनुरोध

रॉयटर्स की समीक्षा में पाया गया कि केवल 10 मिनट के भीतर ग्रोक पर 102 ऐसे सार्वजनिक अनुरोध किए गए, जिनमें तस्वीरों को इस तरह बदलने की मांग थी कि महिलाएं बिकिनी पहने नजर आएं. इनमें से अधिकांश युवा महिलाएं थीं.

स्कूल यूनिफॉर्म से ‘माइक्रो बिकिनी’ तक

कुछ मामलों में अनुरोध और भी चिंताजनक थे. एक यूजर ने स्कूल यूनिफॉर्म जैसी पोशाक पहने महिला की तस्वीर भेजकर कहा,"उसकी स्कूल यूनिफॉर्म उतार दो." ग्रोक ने पहले उसे टी-शर्ट और शॉर्ट्स में बदला, लेकिन बाद में यूजर ने मांग की कि उसे "बहुत पारदर्शी माइक्रो बिकिनी" में बदला जाए.

रॉयटर्स के अनुसार, कम से कम 21 मामलों में ग्रोक ने बेहद कम कपड़ों या पारदर्शी बिकिनी वाली तस्वीरें तैयार कीं. सात अन्य मामलों में उसने आंशिक रूप से निर्देशों का पालन किया.

भारत और फ्रांस की सख्त प्रतिक्रिया

भारत के सूचना प्रौद्योगिकी मंत्रालय ने X के स्थानीय कार्यालय को लिखे पत्र में कहा कि कंपनी ग्रोक के दुरुपयोग को रोकने में विफल रही है. पत्र में स्पष्ट किया गया कि अश्लील और यौन रूप से आपत्तिजनक सामग्री भारतीय कानूनों का उल्लंघन है.

फ्रांस में भी सरकार ने X को अभियोजकों और नियामकों के पास भेज दिया है. वहां जारी बयान में इन तस्वीरों को "यौन और लिंगभेदी” बताते हुए "स्पष्ट रूप से अवैध" करार दिया गया.

विशेषज्ञों की चेतावनी 

विशेषज्ञों का कहना है कि महिलाओं को डिजिटल रूप से निर्वस्त्र करने वाले सॉफ्टवेयर पहले भी मौजूद थे, लेकिन वे सीमित और तकनीकी रूप से जटिल थे. ग्रोक के मामले में यह प्रक्रिया बेहद आसान हो गई है.बस तस्वीर अपलोड करें और एक लाइन का प्रॉम्प्ट लिखें.

एआई नीतियों पर नजर रखने वाले विशेषज्ञों ने दावा किया है कि X ने पहले से दी गई चेतावनियों को नजरअंदाज किया, जिनमें कहा गया था कि प्लेटफॉर्म "बिना सहमति के बनाए गए डीपफेक की बाढ़" ला सकता है.