नई दिल्ली : केंद्र सरकार ने एलन मस्क के स्वामित्व वाली सोशल मीडिया प्लेटफॉर्म X (पूर्व में ट्विटर) को उसके AI टूल Grok के दुरुपयोग को लेकर सख्त नोटिस जारी किया है। इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने प्लेटफॉर्म पर अश्लील, यौन रूप से स्पष्ट और अपमानजनक कंटेंट उत्पन्न करने और प्रसारित करने को लेकर गंभीर चिंता व्यक्त की है, खासकर महिलाओं और बच्चों को निशाना बनाने वाले कंटेंट को।
Thank you for reading this post, don't forget to subscribe!
मंत्रालय के अनुसार, Grok AI का उपयोग करके यूजर्स फेक अकाउंट्स बनाकर महिलाओं की तस्वीरों को मैनिपुलेट कर अश्लील इमेज और वीडियो बना रहे हैं, जो महिलाओं की गरिमा, गोपनीयता और डिजिटल सुरक्षा का गंभीर उल्लंघन है। यह ट्रेंड हाल ही में बढ़ा है, जहां यूजर्स Grok के प्रॉम्प्ट्स का इस्तेमाल कर महिलाओं की फोटोज को सेक्शुअलाइज कर रहे हैं।
नोटिस में MeitY ने X को निर्देश दिया है कि Grok AI के तकनीकी और गवर्नेंस फ्रेमवर्क की तत्काल व्यापक समीक्षा की जाए। सभी अवैध और अश्लील कंटेंट को प्लेटफॉर्म से तुरंत हटाया जाए। अपराधी यूजर्स के खिलाफ सख्त कार्रवाई की जाए, जैसे अकाउंट सस्पेंड या टर्मिनेट करना। और 72 घंटों के अंदर एक्शन टेकन रिपोर्ट (ATR) मंत्रालय को सौंपने के निर्देश दिए हैं।
मंत्रालय ने चेतावनी दी है कि सूचना प्रौद्योगिकी अधिनियम 2000 और IT रूल्स 2021 के तहत अनुपालन न करने पर प्लेटफॉर्म की कानूनी सुरक्षा (सेफ हार्बर) छीनी जा सकती है और भारतीय न्याय संहिता, भारतीय नागरिक सुरक्षा संहिता, महिलाओं के अश्लील चित्रण निषेध अधिनियम तथा POCSO अधिनियम के तहत सख्त कानूनी कार्रवाई की जाएगी।
