Grok AI से तुरंत अश्लील कंटेंट हटाए...केंद्र सरकार ने X को भेजा सख्त नोटिस, 72 घंटे में मांगी रिपोर्ट

नई दिल्ली : केंद्र सरकार ने सोशल मीडिया प्लेटफॉर्म X (पूर्व में ट्विटर) को तत्काल प्रभाव से “अश्लील, नग्न, अभद्र और यौन रूप से आपत्तिजनक” सामग्री हटाने और उस तक पहुंच बंद करने का आदेश दिया है. यह निर्देश खास तौर पर आर्टिफिशियल इंटेलिजेंस आधारित टूल Grok AI के दुरुपयोग को लेकर दिया गया है. सरकार ने यह कार्रवाई सूचना प्रौद्योगिकी अधिनियम, 2000 और आईटी नियम, 2021 के तहत की है.

इलेक्ट्रॉनिक्स और आईटी मंत्रालय की चेतावनी

इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने एलन मस्क की कंपनी X के चीफ कंप्लायंस ऑफिसर को एक आधिकारिक पत्र भेजा है. इस पत्र में कहा गया है कि प्लेटफॉर्म को तुरंत Grok AI की व्यापक समीक्षा करनी होगी और सभी गैरकानूनी सामग्री को हटाना या उस तक पहुंच रोकना अनिवार्य होगा. मंत्रालय ने स्पष्ट किया है कि कानून का उल्लंघन करने वाली किसी भी सामग्री को बर्दाश्त नहीं किया जाएगा.

महिलाओं को निशाना बनाने पर गंभीर चिंता
MeitY के पत्र में यह विशेष रूप से उल्लेख किया गया है कि Grok AI का उपयोग कुछ यूजर्स द्वारा फर्जी अकाउंट बनाकर महिलाओं की आपत्तिजनक, अश्लील और अपमानजनक तस्वीरें व वीडियो बनाने और साझा करने के लिए किया जा रहा है. मंत्रालय के अनुसार, इस तरह की सामग्री का उद्देश्य महिलाओं को सार्वजनिक रूप से अपमानित करना और उनकी गरिमा को ठेस पहुंचाना है, जो कानूनन गंभीर अपराध की श्रेणी में आता है.

प्लेटफॉर्म सुरक्षा व्यवस्था पर सवाल
सरकार ने इस पूरे मामले को प्लेटफॉर्म स्तर पर सुरक्षा तंत्र की विफलता बताया है. पत्र में कहा गया है कि इस तरह की गतिविधियां यह दर्शाती हैं कि X ने कंटेंट मॉडरेशन और एआई के जिम्मेदार उपयोग को लेकर पर्याप्त और प्रभावी नियंत्रण व्यवस्था लागू नहीं की है. मंत्रालय का मानना है कि यह आर्टिफिशियल इंटेलिजेंस तकनीक का गंभीर दुरुपयोग है, जो मौजूदा कानूनों का उल्लंघन करता है.

IT Act और नियमों के तहत जिम्मेदारी
सूचना प्रौद्योगिकी अधिनियम और IT नियम, 2021 के तहत डिजिटल प्लेटफॉर्म्स की यह जिम्मेदारी होती है कि वे अवैध, आपत्तिजनक और समाज के लिए नुकसानदेह सामग्री को रोकें. यदि कोई प्लेटफॉर्म इसमें विफल रहता है, तो उसके खिलाफ कानूनी कार्रवाई की जा सकती है. सरकार ने X को स्पष्ट संकेत दिया है कि यदि नियमों का पालन नहीं किया गया, तो कड़े कदम उठाए जा सकते हैं.

AI तकनीक के दुरुपयोग पर बढ़ती चिंता
यह मामला केवल एक सोशल मीडिया प्लेटफॉर्म तक सीमित नहीं है, बल्कि यह आर्टिफिशियल इंटेलिजेंस के बढ़ते उपयोग और उसके दुरुपयोग से जुड़ी व्यापक चिंता को भी उजागर करता है. सरकार का कहना है कि AI तकनीक का इस्तेमाल समाज के हित में होना चाहिए, न कि किसी व्यक्ति या वर्ग की छवि खराब करने के लिए.

भविष्य में सख्ती के संकेत
MeitY ने संकेत दिए हैं कि आने वाले समय में AI आधारित सेवाओं और सोशल मीडिया प्लेटफॉर्म्स पर निगरानी और सख्त की जा सकती है. सरकार यह सुनिश्चित करना चाहती है कि डिजिटल प्लेटफॉर्म्स जिम्मेदारी के साथ काम करें और महिलाओं की सुरक्षा, गरिमा और कानून के सम्मान से कोई समझौता न हो.