AI डीपफेक पर सरकार की बड़ी सख्ती: 3 घंटे में हटाना होगा अवैध कंटेंट, नियम तोड़ने पर सोशल मीडिया प्लेटफॉर्म्स पर होगी कार्रवाई

नई दिल्ली: आर्टिफिशियल इंटेलिजेंस (AI) के बढ़ते इस्तेमाल के साथ डीपफेक ऑडियो, वीडियो और तस्वीरों का दुरुपयोग भी तेजी से बढ़ा है। इसी चुनौती से निपटने के लिए सरकार ने सोशल मीडिया प्लेटफॉर्म्स के लिए नए और अधिक सख्त नियम लागू किए हैं। इन नियमों का उद्देश्य फर्जी और भ्रामक AI-जनित कंटेंट के प्रसार पर प्रभावी रोक लगाना है।

Thank you for reading this post, don't forget to subscribe!

नए प्रावधानों के तहत अब कोर्ट या सरकार के आदेश के बाद किसी भी गैरकानूनी AI डीपफेक कंटेंट को 36 घंटे के बजाय केवल 3 घंटे के भीतर हटाना अनिवार्य होगा। वहीं, अश्लीलता, न्यूडिटी, प्रतिरूपण (इम्पर्सनेशन) या अन्य अत्यंत संवेदनशील डीपफेक सामग्री को 2 घंटे के भीतर हटाने का निर्देश दिया गया है, जबकि पहले इसके लिए 24 घंटे का समय मिलता था।

AI कंटेंट पर लेबल और मेटाडेटा होगा जरूरी

सरकार ने AI से तैयार किए गए ऑडियो, वीडियो और टेक्स्ट के लिए स्पष्ट लेबलिंग और ट्रेसेबल मेटाडेटा अनिवार्य कर दिया है। इसका उद्देश्य यह सुनिश्चित करना है कि उपयोगकर्ताओं को यह पता चल सके कि संबंधित सामग्री AI की मदद से बनाई गई है और जरूरत पड़ने पर उसके स्रोत का पता लगाया जा सके।

सोशल मीडिया कंपनियों की बढ़ी जिम्मेदारी

नई व्यवस्था के तहत सोशल मीडिया प्लेटफॉर्म्स को केवल शिकायत मिलने का इंतजार नहीं करना होगा। उन्हें ऑटोमेटेड तकनीक और AI आधारित सिस्टम की मदद से डीपफेक कंटेंट की पहचान कर उसके प्रसार को रोकने की व्यवस्था करनी होगी। सरकार का मानना है कि तकनीक से पैदा हुई समस्या का समाधान भी आधुनिक तकनीक के जरिए ही किया जा सकता है।

नियम नहीं माने तो खत्म हो सकती है ‘सेफ हार्बर’ सुरक्षा

सरकार ने साफ किया है कि यदि कोई सोशल मीडिया प्लेटफॉर्म तय समयसीमा के भीतर अवैध डीपफेक कंटेंट नहीं हटाता या नियमों का पालन करने में लापरवाही बरतता है, तो उसे सूचना प्रौद्योगिकी अधिनियम, 2000 की धारा 79 के तहत मिलने वाली ‘सेफ हार्बर’ सुरक्षा से वंचित किया जा सकता है। ऐसी स्थिति में संबंधित प्लेटफॉर्म के खिलाफ कानूनी कार्रवाई भी संभव होगी।

क्या है ‘सेफ हार्बर’?

आईटी कानून के तहत सोशल मीडिया प्लेटफॉर्म्स को मध्यस्थ (इंटरमीडियरी) का दर्जा प्राप्त है। सामान्य परिस्थितियों में प्लेटफॉर्म पर पोस्ट किए गए कंटेंट की जिम्मेदारी उस यूजर की होती है जिसने उसे अपलोड किया है। लेकिन यदि प्लेटफॉर्म सरकार द्वारा निर्धारित नियमों और कंटेंट मॉडरेशन संबंधी दिशानिर्देशों का पालन नहीं करता, तो उसे भी कानूनी रूप से जिम्मेदार ठहराया जा सकता है।

डीपफेक पर कितनी लगेगी रोक?

विशेषज्ञों का मानना है कि नए नियमों से डीपफेक कंटेंट के खिलाफ कार्रवाई पहले की तुलना में कहीं अधिक तेज होगी। हालांकि, इसकी वास्तविक सफलता इस बात पर निर्भर करेगी कि सोशल मीडिया कंपनियां AI आधारित निगरानी प्रणाली को कितनी प्रभावी ढंग से लागू करती हैं और सरकार द्वारा तय मानकों का कितना सख्ती से पालन करती हैं। यदि नियमों का प्रभावी क्रियान्वयन होता है, तो फर्जी AI कंटेंट के प्रसार पर काफी हद तक अंकुश लगाया जा सकता है।